Windows客户端:提供一种方法,允许从除本地主机和0.0.0.0之外的Web浏览器来源建立与Ollama的连接,

bfhwhh0e  于 2个月前  发布在  Windows
关注(0)|答案(1)|浏览(43)

在我的机器上运行我的WebApp是可行的。

import ollama from "ollama/browser"

ollama.list().then(...)
// => http:127.0.0.1:11434/api/tags

但是从我的网络主机运行它不起作用。

ollama.list().then(...)
// options => 204
// get     => GET http://127.0.0.1:11434/api/tags net::ERR_FAILED
           Access to fetch at 'http://127.0.0.1:11434/api/tags' from origin 'https://myWebSpace.com' has been blocked by CORS policy: Response to preflight request doesn't pass access control check: No 'Access-Control-Allow-Private-Network' header was present in the preflight response for this private network request targeting the `local` address space.

Ollama安装:
Windows客户端 0.2.7
我将服务器运行如下(否则OPTIONS调用无法工作):

OLLAMA_ORIGINS=https://myWebSpace.com *

如果这也能在Windows上工作就好了。
(似乎对其他平台有效 #300 )
运行ollama serve后,我可以看到OPTIONS调用,但不是其他调用。

[GIN] 2024/07/21 - 23:06:59 | 204 |            0s |       127.0.0.1 | OPTIONS  "/api/tags"

以及来自serve调用的设置。

OLLAMA_DEBUG:true
 OLLAMA_FLASH_ATTENTION:false 
 OLLAMA_HOST:http://127.0.0.1:11434
 OLLAMA_INTEL_GPU:false
 OLLAMA_KEEP_ALIVE:5m0s
 OLLAMA_LLM_LIBRARY:
 OLLAMA_MAX_LOADED_MODELS:0
 OLLAMA_MAX_QUEUE:512
 OLLAMA_MAX_VRAM:0
 OLLAMA_MODELS:d:\\ollama\\models
 OLLAMA_NOHISTORY:false
 OLLAMA_NOPRUNE:false
 OLLAMA_NUM_PARALLEL:0
 OLLAMA_ORIGINS:[http://myWebSpace.com * http://localhost https://localhost http://localhost:* https://localhost:* http://127.0.0.1 https://127.0.0.1 http://127.0.0.1:* https://127.0.0.1:* http://0.0.0.0 https://0.0.0.0 http://0.0.0.0:* https://0.0.0.0:* app://* file://* tauri://*]
OLLAMA_RUNNERS_DIR:C:\\Users\\LLM\\AppData\\Local\\Programs\\Ollama\\ollama_runners
 OLLAMA_SCHED_SPREAD:false 
 OLLAMA_TMPDIR:d:\\ollama\\tmpDir
dm7nw8vv

dm7nw8vv1#

我不得不将环境变量 OLLAMA_HOST 设置为 0.0.0.0:11434 并重新启动 Ollama 应用程序。这使得我的 Web 服务器示例(Traefik)能够在另一台机器上通过 192.168.x.x IP 地址访问运行在我 Windows 机器上的 Ollama REST API。

相关问题