感谢您的出色工作！
在按照您的指导使用8个40G-A100进行微调时，我无法复现您的结果。如果可能的话，请您给我一些建议。
描述
我正在使用8个40G-A100进行微调，而不是使用docker,而是使用conda环境。其他设置与指导相同。
我已经尝试使用您提供的脚本训练BEiT-3基础版和BEiT-3大型版，但我的实现性能与您的仍然有很大差距，如下表所示：
| 数据集 | 模型 | 官方结果 | 我的结果 |
| ------------ | ------------ | ------------ | ------------ |
| VQAv2 val. | beit3_base | 86.1% | 74.40% |
| VQAv2 test-dev | beit3_base | 77.65% | 73.1% |
| VQAv2 test-dev | beit3_large | 81.85% | 68.8% |
训练损失和准确率看起来还不错(如下所示),我也在此上传了日志、conda列表和tensorboard文件：beit3 finetune log。
如果您能帮助我，我将不胜感激。非常感谢！
4条答案
按热度按时间2o7dmzc51#
请问您是如何下载beit-v3预训练权重的？
当我尝试从https://conversationhub.blob.core.windows.net/beit-share-public/beit3/vqa/beit3_base_patch16_480_vqa.pth
<Error> <Code>PublicAccessNotPermitted</Code> <Message>Public access is not permitted on this storage account. RequestId:c41c88a3-901e-0059-75cf-997f8e000000 Time:2023-06-08T06:06:09.4120160Z</Message> </Error>下载beit-v3预训练权重时，遇到了PublicAccessNotPermitted错误。
8qgya5xd2#
请问您是如何下载beit-v3预训练权重的？当我尝试从https://conversationhub.blob.core.windows.net/beit-share-public/beit3/vqa/beit3_base_patch16_480_vqa.pth
<Error> <Code>PublicAccessNotPermitted</Code> <Message>Public access is not permitted on this storage account. RequestId:c41c88a3-901e-0059-75cf-997f8e000000 Time:2023-06-08T06:06:09.4120160Z</Message> </Error>下载beit-v3预训练权重时，遇到了PublicAccessNotPermitted错误。在下载COCO Retrieval的初始化检查点时也遇到了同样的问题。
nbewdwxp3#
May I ask how did you download beit-v3 pre-trained weights? I got PublicAccessNotPermitted error when trying to download beit-v3 pre-trained weights from https://conversationhub.blob.core.windows.net/beit-share-public/beit3/vqa/beit3_base_patch16_480_vqa.pth
<Error> <Code>PublicAccessNotPermitted</Code> <Message>Public access is not permitted on this storage account. RequestId:c41c88a3-901e-0059-75cf-997f8e000000 Time:2023-06-08T06:06:09.4120160Z</Message> </Error>weylhg0b4#
请问您是如何下载beit-v3预训练权重的？当我尝试从https://conversationhub.blob.core.windows.net/beit-share-public/beit3/vqa/beit3_base_patch16_480_vqa.pth
<Error> <Code>PublicAccessNotPermitted</Code> <Message>Public access is not permitted on this storage account. RequestId:c41c88a3-901e-0059-75cf-997f8e000000 Time:2023-06-08T06:06:09.4120160Z</Message> </Error>下载beit-v3预训练权重时，遇到了PublicAccessNotPermitted错误。我根据他们的表格在这里下载了预训练权重：https://github.com/microsoft/unilm/tree/master/beit3#fine-tuning-on-vqav2-visual-question-answering。例如，beit3_base_patch16_224。