ollama How to set a crt file or disable the SSL verify in Windows

5rgfhyps  于 2个月前  发布在  Windows
关注(0)|答案(8)|浏览(40)

你好。

我在尝试使用位于公司代理服务器后面的Ollama(Windows预览版)时遇到了403响应问题。日志中没有什么特别的内容,但很明显这是一个代理问题。

http(s)_proxy环境变量已经设置,crt证书也已安装。

我记得在使用其他程序(如pip)时关闭了ssl验证选项或指定了crt文件。
**Ollama是否支持相同的选项?**我的公司正在进行一些奇怪的操作来监控https连接,所以有很多这样的问题:/

u4vypkhs

u4vypkhs1#

我可以手动下载检查点文件并在Ollama中设置它吗?

ogsagwnx

ogsagwnx2#

+1 facing the same problem

pulling manifest
Error: 403:
stszievb

stszievb3#

您是否仍然在使用代理后遇到问题?您可以尝试使用最新版本0.1.33,如果它仍然无法与代理设置正常工作,您可以分享您的服务器日志。设置OLLAMA_DEBUG=1可能会有所帮助。

tpgth1q7

tpgth1q74#

你好,我仍然在使用代理时遇到问题。
CLI:

ollama run mistral
拉取清单
错误:403:
server.log:

time=2024-05-03T16:59:44.573+09:00 level=INFO source=images.go:828 msg="total blobs: 0"
time=2024-05-03T16:59:44.694+09:00 level=INFO source=images.go:835 msg="total unused blobs removed: 0"
time=2024-05-03T16:59:44.696+09:00 level=INFO source=routes.go:1071 msg="Listening on 127.0.0.1:11434 (version 0.1.33)"
time=2024-05-03T16:59:44.698+09:00 level=INFO source=payload.go:44 msg="Dynamic LLM libraries [cpu cpu_avx cpu_avx2 cuda_v11.3 rocm_v5.7]"
time=2024-05-03T16:59:44.698+09:00 level=INFO source=gpu.go:96 msg="Detecting GPUs"
time=2024-05-03T16:59:44.917+09:00 level=INFO source=gpu.go:101 msg="detected GPUs" library=C:\Users\user\AppData\Local\Programs\Ollama\cudart64_110.dll count=1
time=2024-05-03T16:59:44.918+09:00 level=INFO source=cpu_common.go:11 msg="CPU has AVX2"
[GIN] 2024/05/03 - 16:59:48 | 200 |            0s |       127.0.0.1 | HEAD     "/"
[GIN] 2024/05/03 - 16:59:48 | 404 |       584.9µs |       127.0.0.1 | POST     "/api/show"
[GIN] 2024/05/03 - 16:59:51 | 200 |    2.1054245s |       127.0.0.1 | POST     "/api/pull"

我认为我们需要一个选项来禁用SSL验证或设置crt文件路径。

a8jjtwal

a8jjtwal5#

你尝试过ollama pull mistral --insecure吗?

u1ehiz5o

u1ehiz5o6#

@dhiltgen I tried, and It was same though.

agxfikkp

agxfikkp7#

@dhiltgen 我也尝试了使用 --insecure 选项。然而,这个选项似乎强制 ollama 使用 HTTP 而不是 HTTPS。这可能是个问题,因为 HTTP 流量根本不需要开放。如果 ollama 能够从 Windows 获取证书,或者有使用自定义证书的选项,或者完全禁用 SSL 验证的可能性,那就太好了。

kuuvgm7e

kuuvgm7e8#

@ibaxo 这绝对是个bug。--insecure标志不应该强制使用http。让我提交一个PR来修复这个问题...

相关问题