ollama 从慢速连接下载模型时,有可能移除"max retries exceeded"错误,

aelbi1ox  于 2个月前  发布在  其他
关注(0)|答案(6)|浏览(37)

你正在尝试做什么?
我正在尝试下载Mixtral(26Gb),但是每120mb时,会出现一个错误提示:
错误:超过最大重试次数:获取 " https://dd20bb891979d25aebc8bec07b2b3bbc.r2.cloudflarestorage.com/ollama/docker/registry/v2/blobs/sha256/e9/e9e56e8bb5f0fcd4860675e6837a8f6a94e659f5fa7dce6a1076279336320f2b/data?X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Credential=66040c77ac1b787c3af820529859349a%!F(MISSING)20240315%!F(MISSING)auto%!F(MISSING)s3%!F(MISSING)aws4_request&X-Amz-Date=20240315T063326Z&X-Amz-Expires=1200&X-Amz-SignedHeaders=host&X-Amz-Signature=d14a2deeadcc4f625c71535f456b49a6f8915521ddc7352f2f81aa0f4635bb47 ":net/http:TLS握手超时

我们应该如何解决这个问题?

难道不能为用户添加一个功能,禁用或设置更高的重试次数吗?

不解决这个问题会有什么影响?

我知道大多数人的网络速度很快,但我的最大速度是500 Kb/s(希望有线互联网即将到来),所有型号都很麻烦。Mistral我可以在下载过程中照顾它,因为它需要几个小时,但我无法在两天内照顾并重新启动Mixtral...

还有其他问题吗?

  • 无响应*
vxf3dgd4

vxf3dgd41#

同样的,由于可能不稳定的wifi,我不得不运行了10次命令。

ollama run llama3
dsf9zpds

dsf9zpds2#

Damn, then doesnt that mean if Im downloading llama3 and it fails at every 6% (which it is) then I have to run the command ollama run llama3 16 times!?

kmynzznz

kmynzznz3#

哎呀,那岂不是意味着如果我下载llama3并且每次都失败在6%(这是真的),那么我就必须运行命令ollama run llama3 16次!?
你好,如果你在Linux上,作为一个解决方法,你可以简单地将命令放入一个while循环中,这样至少你不必再手动运行它:
while : ; do ollama run llama3 ; done

jgzswidk

jgzswidk4#

你好,如果你在Linux系统上,作为一个解决方法,你可以简单地将命令放入一个while循环中,这样至少你不需要手动再次运行它:while : ; do ollama run llama3 ; done
好的建议,但我在Windows系统上,并且不知道CMD脚本是如何工作的。

n3schb8v

n3schb8v5#

我认为这里需要一个更好的解决方案。如果你在代理后面检查数据传输,这个过程可能会非常慢,而且上述任何提案都不会起作用。

ttvkxqim

ttvkxqim6#

打开记事本或其他文本编辑器。
:loop
ollama run llama3
goto loop
将文件保存为.bat扩展名
此批处理脚本将不断执行命令“ollama run llama3”的无限循环。
您可以通过双击它来运行此批处理脚本,或者从命令提示符运行它。

相关问题