Xinference Dify集成问题

1qczuiv0  于 6个月前  发布在  其他
关注(0)|答案(4)|浏览(110)

Dify和Xinference都在独立运行,但是当我尝试通过Dify连接到Xinference时,我得到了这个错误:
Xinference credentials validate failed: get xinference model extra parameter failed, url: http://127.0.0.1:9997/v1/models/mistral-instruct-v0.2, error: HTTPConnectionPool(host='127.0.0.1', port=9997): Max retries exceeded with url: /v1/models/mistral-instruct-v0.2 (Caused by NewConnectionError('<urllib3.connection.HTTPConnection object at 0x7fb76ddeeb90>: Failed to establish a new connection: [Errno 111] Connection refused'))
任何帮助都将不胜感激。

f4t66c6m

f4t66c6m1#

你的dify版本是什么?

blmhpbnm

blmhpbnm2#

看起来应该使用主机的实际IP地址,而不是127.0.0.1。

cpjpxq1n

cpjpxq1n3#

相同的问题。Dify版本=0.5.4,Dify和xinference都通过Docker安装在Ubuntu 18.04上。Ubuntu 18.04安装在Windows 10的WSL2中。
我尝试了以下IP地址,但没有一个有效:
实际IP) --等待很长时间并超时

http://127.0.0.1:6006 --立即报告相同的错误

http://localhost:6006 --立即报告相同的错误

此外,我还尝试使用LMStudio(Windows)连接Dify。它在IP = http://192.168.103.0:1234/v1时工作正常,但在IP = http://localhost:1234/v1时无法工作

xkrw2x1b

xkrw2x1b4#

我在Ubuntu终端中使用ifconfig命令,尝试了所有列出的IP地址。最后,我找到了一个可以使用的IP地址。

相关问题