ollama 在/api/embed上出现500错误,

dfddblmv  于 2个月前  发布在  其他
关注(0)|答案(2)|浏览(27)

问题是什么?

DEBUG [launch_slot_with_data] slot is processing task | slot_id=0 task_id=6368 tid="0x2000bcc00" timestamp=1721333414
time=2024-07-18T13:10:14.830-07:00 level=ERROR source=routes.go:367 msg="embedding generation failed" error="do embedding request: Post \"http://127.0.0.1:64691/embedding\": EOF"
[GIN] 2024/07/18 - 13:10:14 | 500 |  166.036292ms |       127.0.0.1 | POST     "/api/embed"

操作系统

  • 无响应*

GPU

  • 无响应*

CPU

  • 无响应*

Ollama版本

  • 无响应*
iecba09b

iecba09b1#

可能不相关,但值得注意的是,传入输入:[""] 返回一个嵌入并等于传入[" "](带空格),这是由于服务器.cpp中的以下行:
task.data["prompt"] = " "; // add a space so that we have one token

lqfhib0f

lqfhib0f2#

出现 ~1/3 的时间与 python demo.py data/paul_graham_essays.txt '' '' '' '' 或空格有关,如果用空字符串替换字符无法重现。

相关问题