one-api 阿里通义千问 baichuan-7b-v1 模型 stream 接口响应有误

lc8prwob 于 2个月前发布在其他

关注(0)|答案(8)|浏览(50)

例行检查

我已确认目前没有类似 issue
我已确认我已升级到最新版本
我已完整查看过项目 README,尤其是常见问题部分
我理解并愿意跟进此 issue,协助测试和提供反馈
我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

问题描述
阿里通义千问的 baichuan-7b-v1 模型可能出问题了，使用官方的接口报错 Internal server error。one-api 使用非 stream 响应是正常的，会报错，但 stream 却不会报错。

复现步骤
预期结果：stream 和非 stream 都应该报错。

阿里官方接口

one-api 非 stream(正常)

one-api stream(异常)

one-api

来源：https://github.com/songquanpeng/one-api/issues/1329

8条答案

按热度按时间

dffbzjpn1#

同样出现了这个问题，baichuan的接口应该出了什么问题。

赞(0）回复(0）举报 2个月前

eoigrqb62#

可以发一下这里的 content type resonse header 吗？

赞(0）回复(0）举报 2个月前

biswetbf3#

请求头看起来应该没有问题，除了 baichuan-7b-v1,其他的模型都正常。

curl -s -X POST 'https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation' \
--header 'Authorization: Bearer xxx' \
--header 'Content-Type: application/json' \
--data-raw '{
"model": "baichuan-7b-v1",
"input": {
"messages": [
{
"role": "user",
"content": "你是谁"
}
]
}
}' | jq