例行检查
- 我已确认目前没有类似 issue
- 我已确认我已升级到最新版本
- 我已完整查看过项目 README,尤其是常见问题部分
- 我理解并愿意跟进此 issue,协助测试和提供反馈
- 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
问题描述
阿里通义千问的 baichuan-7b-v1 模型可能出问题了,使用官方的接口报错 Internal server error
。one-api 使用非 stream 响应是正常的,会报错,但 stream 却不会报错。
复现步骤
预期结果:stream 和非 stream 都应该报错。
相关截图:
8条答案
按热度按时间dffbzjpn1#
同样出现了这个问题,baichuan的接口应该出了什么问题。
eoigrqb62#
可以发一下这里的 content type resonse header 吗?
biswetbf3#
请求头看起来应该没有问题,除了 baichuan-7b-v1,其他的模型都正常。
t8e9dugd4#
是响应头里的 content type 哈
olhwl3o25#
阿里对于这个错误返回的是 event-stream。
pw136qt26#
很奇怪,Postman里就是正常的。
ykejflvf7#
原来是放到 event 里了。。。
apeeds0o8#
是的,开启 SSE 后,响应的 content-type 是 text/event-stream;charset=UTF-8。