例行检查
- [*] 我已确认目前没有类似 issue
- [*] 我已确认我已升级到最新版本
- [*] 我已完整查看过项目 README,尤其是常见问题部分
- 我理解并愿意跟进此 issue,协助测试和提供反馈
- 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭
问题描述
relay error (channel #1 ): Unrecognized request argument supplied: stream_options. Please contact us through an Azure support request at: https://go.microsoft.com/fwlink/?linkid=2213926 for further questions. (request id: 2024051109314182812859242806014)
复现步骤
2024-05-06 OpenAI add argument: stream_options
相关截图
7条答案
按热度按时间aiazj4mn1#
+1
6tqwzwtp2#
根据 Azure 的文档，确实没有这个参数。之前设计的 Azure 和 OpenAI 是完全兼容的，现在可能 Azure 那边更新慢了。如果 Azure 那边更新慢，OneAPI 这边估计只能用 adaptor 做兼容了。
wribegjk3#
+1
vybvopom4#
+1
rta7y2nd5#
OpenAI ,5.6 才支持这个参数
https://platform.openai.com/docs/changelog/may-6th-2024
Azure ,这种 非关键性 的参数(除了超高并发中转为了节省 CPU 计算资源外，没多少系统会在意)
没个个把月 甚至一直不支持 我觉得都是可以理解的
但是这种参数(获取重要数据，更改后会造成严重后果的),不要由 one-api 来做处理
OpenAI 支持这个参数，原样传过来就行。Azure 不支持，报错传过来就行。
如果要为了 Azure 而 伪造 这个参数，我觉得是不应该的。一旦伪造的念头出现，那无须多言。
yftpprvb6#
伪造确实不是一个好的实现方式。我建议使用oneapi根据Azure的接口规范对传入的请求进行改写，这样可以在请求时去掉一些Azure不支持的参数，使oneapi更加健壮。
sgtfey8w7#
{
"id": "chatcmpl-9XOzjQNfCcklmjq3tsifQpjDyXk5q",
"object": "chat.completion.chunk",
"created": 1717747931,
"model": "gpt-3.5-turbo-0125",
"system_fingerprint": null,
"choices": [
{
"index": 0,
"delta": {},
"logprobs": null,
"finish_reason": "stop"
}
],
"usage": null
}
{
"id": "chatcmpl-9XOzjQNfCcklmjq3tsifQpjDyXk5q",
"object": "chat.completion.chunk",
"created": 1717747931,
"model": "gpt-3.5-turbo-0125",
"system_fingerprint": null,
"choices": [],
"usage": {
"prompt_tokens": 10,
"completion_tokens": 14,
"total_tokens": 24
}
}
业务端要精细统计成本，能否不要丢弃最后一条 sse 消息