在我的机器上运行我的WebApp是可行的。
import ollama from "ollama/browser"
ollama.list().then(...)
// => http:127.0.0.1:11434/api/tags
但是从我的网络主机运行它不起作用。
ollama.list().then(...)
// options => 204
// get => GET http://127.0.0.1:11434/api/tags net::ERR_FAILED
Access to fetch at 'http://127.0.0.1:11434/api/tags' from origin 'https://myWebSpace.com' has been blocked by CORS policy: Response to preflight request doesn't pass access control check: No 'Access-Control-Allow-Private-Network' header was present in the preflight response for this private network request targeting the `local` address space.
Ollama安装:
Windows客户端 0.2.7
我将服务器运行如下(否则OPTIONS调用无法工作):
OLLAMA_ORIGINS=https://myWebSpace.com *
如果这也能在Windows上工作就好了。
(似乎对其他平台有效 #300 )
运行ollama serve
后,我可以看到OPTIONS调用,但不是其他调用。
[GIN] 2024/07/21 - 23:06:59 | 204 | 0s | 127.0.0.1 | OPTIONS "/api/tags"
以及来自serve调用的设置。
OLLAMA_DEBUG:true
OLLAMA_FLASH_ATTENTION:false
OLLAMA_HOST:http://127.0.0.1:11434
OLLAMA_INTEL_GPU:false
OLLAMA_KEEP_ALIVE:5m0s
OLLAMA_LLM_LIBRARY:
OLLAMA_MAX_LOADED_MODELS:0
OLLAMA_MAX_QUEUE:512
OLLAMA_MAX_VRAM:0
OLLAMA_MODELS:d:\\ollama\\models
OLLAMA_NOHISTORY:false
OLLAMA_NOPRUNE:false
OLLAMA_NUM_PARALLEL:0
OLLAMA_ORIGINS:[http://myWebSpace.com * http://localhost https://localhost http://localhost:* https://localhost:* http://127.0.0.1 https://127.0.0.1 http://127.0.0.1:* https://127.0.0.1:* http://0.0.0.0 https://0.0.0.0 http://0.0.0.0:* https://0.0.0.0:* app://* file://* tauri://*]
OLLAMA_RUNNERS_DIR:C:\\Users\\LLM\\AppData\\Local\\Programs\\Ollama\\ollama_runners
OLLAMA_SCHED_SPREAD:false
OLLAMA_TMPDIR:d:\\ollama\\tmpDir
1条答案
按热度按时间dm7nw8vv1#
我不得不将环境变量
OLLAMA_HOST
设置为0.0.0.0:11434
并重新启动 Ollama 应用程序。这使得我的 Web 服务器示例(Traefik)能够在另一台机器上通过 192.168.x.x IP 地址访问运行在我 Windows 机器上的 Ollama REST API。