one-api 模型重定向

qeeaahzv  于 2个月前  发布在  其他
关注(0)|答案(3)|浏览(50)

例行检查

  • [X ] 我已确认目前没有类似 issue
  • [X ] 我已确认我已升级到最新版本
  • [ X] 我已完整查看过项目 README,已确定现有版本无法满足需求
  • [ X] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [X ] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

我想問一下如何自定MODEL轉向
例如gpt-3.5-turbo轉向 gpt-3.5-turbo-1106 ?

lztngnrs

lztngnrs1#

在渠道里可以设置。

9cbw7uwe

9cbw7uwe2#

重定向的格式是:{'原模型名': '自定义模型名'},然后将自定义的模型添加到上方模型中,原模型不需要调用则不加。

q3qa4bjr

q3qa4bjr3#

例如,我有一个Azure接口,只部署了gpt-3.5-turbo,但是添加模型时却添加了gpt-3.5-turbo-1106(一定要注意)。

代码里写的都是gpt-3.5-turbo-1106。

相关问题