one-api 支持 Debug 日志输出更加详细的内容以供调试

7rtdyuoh 于 2个月前发布在其他

关注(0)|答案(6)|浏览(20)

例行检查

我已确认目前没有类似 issue
我已确认我已升级到最新版本
我已完整查看过项目 README,尤其是常见问题部分
我理解并愿意跟进此 issue,协助测试和提供反馈
我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

问题描述
One API v0.5.3-alpha.9 版本；我有几个本地部署的模型，使用postman亲测可用，但是使用one-api配置渠道测试时，有的返回

,有的渠道返回

。日志中只有以下内容：

[GIN] 2023/08/14 - 07:10:33 | 200 | 11.209367ms | 10.93.35.1 | GET "/api/channel/test/4"
[GIN] 2023/08/14 - 07:10:33 | 200 | 11.209367ms | 10.93.35.1 | GET "/api/channel/test/4"
[GIN] 2023/08/14 - 07:10:36 | 200 | 2.006584ms | 10.93.35.1 | GET "/api/channel/test/4"
[GIN] 2023/08/14 - 07:10:36 | 200 | 2.006584ms | 10.93.35.1 | GET "/api/channel/test/4"
[GIN] 2023/08/14 - 07:12:32 | 200 | 14.552232ms | 10.93.35.1 | GET "/api/channel/test/2"
[GIN] 2023/08/14 - 07:12:32 | 200 | 14.552232ms | 10.93.35.1 | GET "/api/channel/test/2"

复现步骤
预期结果

希望容器版本有详细的http报文，包括request的header、body 以及response body。以便定位错误。

相关截图

如果没有的话，请删除此节。

one-api

来源：https://github.com/songquanpeng/one-api/issues/419

6条答案

按热度按时间

bq8i3lrv1#

目前的日志确实难以发现问题。

赞(0）回复(0）举报 2个月前

jaxagkaj2#

chatgpt next web 可用吗？如果这个不可用说明是 api 接口实现的问题

赞(0）回复(0）举报 2个月前

dtcbnfnu3#

是的，有同样的问题，搭建的系统无法使用。

赞(0）回复(0）举报 2个月前

czfnxgou4#

相同的问题，使用fastChat暴露出来的本地模型调用失败。确实需要更详细的日志

赞(0）回复(0）举报 2个月前

0mkxixxg5#

好的，后续有时间会提供支持。

赞(0）回复(0）举报 2个月前

qgzx9mmu6#

使用自定义渠道配置Baichuan2-7B-Chat时，fastchat连接报错。错误信息为："type , code \u003cnil\u003e, message 补全 tokens 非预期返回 0"。

curl调用如下：

curl [http://localhost:7861/v1/chat/completions](http://localhost:7861/v1/chat/completions) 
-H "Content-Type: application/json" 
-d '{
 "model": "Baichuan2-7B-Chat",
 "messages": [{"role": "user", "content": "Hello! What is your name?"}]
}'

返回的JSON数据为：

{
 "id":"chatcmpl-35jVJibDJvQimb2dUcAmVD",
 "object":"chat.completion",
 "created":1702117425,
 "model":"Baichuan2-7B-Chat",
 "choices":[{"index":0,"message":{"role":"assistant","content":" Hello. I am an artificial intelligence assistant. How can I help you?"},"finish_reason":"stop"}],
 "usage":{"prompt_tokens":43,"total_tokens":58,"completion_tokens":15}
}

赞(0）回复(0）举报 2个月前

我来回答

one-api 支持 Debug 日志输出更加详细的内容以供调试

6条答案

相关问题

热门标签

最新问答