例行检查
- 我已确认目前没有类似 issue
- 我已确认我已升级到最新版本
- 我已完整查看过项目 README,尤其是常见问题部分
- 我理解并愿意跟进此 issue,协助测试和提供反馈
- 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
问题描述
One API v0.5.3-alpha.9 版本;我有几个本地部署的模型,使用postman亲测可用,但是使用one-api配置渠道测试时,有的返回
,有的渠道返回
。日志中只有以下内容:
[GIN] 2023/08/14 - 07:10:33 | 200 | 11.209367ms | 10.93.35.1 | GET "/api/channel/test/4"
[GIN] 2023/08/14 - 07:10:33 | 200 | 11.209367ms | 10.93.35.1 | GET "/api/channel/test/4"
[GIN] 2023/08/14 - 07:10:36 | 200 | 2.006584ms | 10.93.35.1 | GET "/api/channel/test/4"
[GIN] 2023/08/14 - 07:10:36 | 200 | 2.006584ms | 10.93.35.1 | GET "/api/channel/test/4"
[GIN] 2023/08/14 - 07:12:32 | 200 | 14.552232ms | 10.93.35.1 | GET "/api/channel/test/2"
[GIN] 2023/08/14 - 07:12:32 | 200 | 14.552232ms | 10.93.35.1 | GET "/api/channel/test/2"
复现步骤
预期结果
希望容器版本有详细的http报文,包括request的header、body 以及response body。以便定位错误。
相关截图
如果没有的话,请删除此节。
6条答案
按热度按时间bq8i3lrv1#
目前的日志确实难以发现问题。
jaxagkaj2#
chatgpt next web 可用吗?如果这个不可用说明是 api 接口实现的问题
dtcbnfnu3#
是的,有同样的问题,搭建的系统无法使用。
czfnxgou4#
相同的问题,使用fastChat暴露出来的本地模型调用失败。确实需要更详细的日志
0mkxixxg5#
好的,后续有时间会提供支持。
qgzx9mmu6#
使用自定义渠道配置Baichuan2-7B-Chat时,fastchat连接报错。错误信息为:"type , code \u003cnil\u003e, message 补全 tokens 非预期返回 0"。
curl调用如下:
返回的JSON数据为: