ollama 无法在Lambda Labs示例上运行tcp4/ipv4

vhipe2zx 于 23天前发布在其他

关注(0)|答案(2)|浏览(26)

问题是什么？
我使用了OLLAMA_HOST=0.0.0.0:8080(并尝试了其他端口),当我检查时，服务仅在tcp6上运行，而我目前无法使用它。

Linux

Nvidia

Intel, AMD

0.3.6

2条答案

我阅读了以下问题，并尝试解决这些问题：
#3961
#3300
#6077

你可以尝试在示例上禁用ipv6。你没有指定操作系统，但是类似以下内容：

sudo sysctl -w net.ipv6.conf.all.disable_ipv6=1
sudo sysctl -w net.ipv6.conf.default.disable_ipv6=1
sudo sysctl -w net.ipv6.conf.lo.disable_ipv6=1

如果你希望这些更改在重启后仍然生效，请将它们添加到/etc/sysctl.conf或相应的文件中。