DB-GPT 我能访问由fastchat启动的LLM吗？

omtl5h9j 于 2个月前发布在其他

关注(0)|答案(2)|浏览(23)

在使用fastChat部署的LLM上接入并使用其对应的fastapi

在issues中搜索，未找到类似问题。

操作系统信息

Linux

Python版本信息

=3.11

DB-GPT版本

主版本

安装信息

设备信息

无

模型信息

qwen2

发生的情况

如何接入使用fastChat部署的LLM,使用其对应的fastapi?

你期望发生的情况

如何接入使用fastChat部署的LLM,使用其对应的fastapi?

如何重现

如何接入使用fastChat部署的LLM,使用其对应的fastapi?

附加上下文

无响应*

你是否愿意提交PR?

是的，我愿意提交一个PR!

DB-GPT

来源：https://github.com/eosphoros-ai/DB-GPT/issues/1647

2条答案

按热度按时间

z0qdvdin1#

将任务分配给方一臣。

赞(0）回复(0）举报 2个月前

jhiyze9q2#

这个问题已经被标记为 stale,因为已经超过30天没有任何活动。

赞(0）回复(0）举报 2个月前

我来回答

DB-GPT 我能访问由fastchat启动的LLM吗？

在使用fastChat部署的LLM上接入并使用其对应的fastapi

操作系统信息

Python版本信息

DB-GPT版本

相关场景

安装信息

设备信息

模型信息

发生的情况

你期望发生的情况

如何重现

附加上下文

你是否愿意提交PR?

2条答案

相关问题

热门标签

最新问答