你好。
我在尝试使用位于公司代理服务器后面的Ollama(Windows预览版)时遇到了403响应问题。日志中没有什么特别的内容,但很明显这是一个代理问题。
http(s)_proxy环境变量已经设置,crt证书也已安装。
我记得在使用其他程序(如pip)时关闭了ssl验证选项或指定了crt文件。**Ollama是否支持相同的选项?**我的公司正在进行一些奇怪的操作来监控https连接,所以有很多这样的问题:/
u4vypkhs1#
我可以手动下载检查点文件并在Ollama中设置它吗?
ogsagwnx2#
+1 facing the same problem
pulling manifest Error: 403:
stszievb3#
您是否仍然在使用代理后遇到问题?您可以尝试使用最新版本0.1.33,如果它仍然无法与代理设置正常工作,您可以分享您的服务器日志。设置OLLAMA_DEBUG=1可能会有所帮助。
tpgth1q74#
你好,我仍然在使用代理时遇到问题。CLI:
ollama run mistral拉取清单错误:403:server.log:
time=2024-05-03T16:59:44.573+09:00 level=INFO source=images.go:828 msg="total blobs: 0" time=2024-05-03T16:59:44.694+09:00 level=INFO source=images.go:835 msg="total unused blobs removed: 0" time=2024-05-03T16:59:44.696+09:00 level=INFO source=routes.go:1071 msg="Listening on 127.0.0.1:11434 (version 0.1.33)" time=2024-05-03T16:59:44.698+09:00 level=INFO source=payload.go:44 msg="Dynamic LLM libraries [cpu cpu_avx cpu_avx2 cuda_v11.3 rocm_v5.7]" time=2024-05-03T16:59:44.698+09:00 level=INFO source=gpu.go:96 msg="Detecting GPUs" time=2024-05-03T16:59:44.917+09:00 level=INFO source=gpu.go:101 msg="detected GPUs" library=C:\Users\user\AppData\Local\Programs\Ollama\cudart64_110.dll count=1 time=2024-05-03T16:59:44.918+09:00 level=INFO source=cpu_common.go:11 msg="CPU has AVX2" [GIN] 2024/05/03 - 16:59:48 | 200 | 0s | 127.0.0.1 | HEAD "/" [GIN] 2024/05/03 - 16:59:48 | 404 | 584.9µs | 127.0.0.1 | POST "/api/show" [GIN] 2024/05/03 - 16:59:51 | 200 | 2.1054245s | 127.0.0.1 | POST "/api/pull"
我认为我们需要一个选项来禁用SSL验证或设置crt文件路径。
a8jjtwal5#
你尝试过ollama pull mistral --insecure吗?
ollama pull mistral --insecure
u1ehiz5o6#
@dhiltgen I tried, and It was same though.
agxfikkp7#
@dhiltgen 我也尝试了使用 --insecure 选项。然而,这个选项似乎强制 ollama 使用 HTTP 而不是 HTTPS。这可能是个问题,因为 HTTP 流量根本不需要开放。如果 ollama 能够从 Windows 获取证书,或者有使用自定义证书的选项,或者完全禁用 SSL 验证的可能性,那就太好了。
kuuvgm7e8#
@ibaxo 这绝对是个bug。--insecure标志不应该强制使用http。让我提交一个PR来修复这个问题...
--insecure
8条答案
按热度按时间u4vypkhs1#
我可以手动下载检查点文件并在Ollama中设置它吗?
ogsagwnx2#
+1 facing the same problem
stszievb3#
您是否仍然在使用代理后遇到问题?您可以尝试使用最新版本0.1.33,如果它仍然无法与代理设置正常工作,您可以分享您的服务器日志。设置OLLAMA_DEBUG=1可能会有所帮助。
tpgth1q74#
你好,我仍然在使用代理时遇到问题。
CLI:
我认为我们需要一个选项来禁用SSL验证或设置crt文件路径。
a8jjtwal5#
你尝试过
ollama pull mistral --insecure
吗?u1ehiz5o6#
@dhiltgen I tried, and It was same though.
agxfikkp7#
@dhiltgen 我也尝试了使用 --insecure 选项。然而,这个选项似乎强制 ollama 使用 HTTP 而不是 HTTPS。这可能是个问题,因为 HTTP 流量根本不需要开放。如果 ollama 能够从 Windows 获取证书,或者有使用自定义证书的选项,或者完全禁用 SSL 验证的可能性,那就太好了。
kuuvgm7e8#
@ibaxo 这绝对是个bug。
--insecure
标志不应该强制使用http。让我提交一个PR来修复这个问题...