one-api 渠道被禁用后自动启用存在问题,

llew8vvj  于 2个月前  发布在  其他
关注(0)|答案(4)|浏览(29)

例行检查

  • 我已确认目前没有类似 issue
  • [ x] 我已确认我已升级到最新版本
  • [ x] 我已完整查看过项目 README,尤其是常见问题部分
  • [ x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [ x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述
上游报错显示被禁用,后续上游恢复几小时后,渠道仍未启用

复现步骤

预期结果

相关截图
如果没有的话,请删除此节。

ecbunoof

ecbunoof1#

这个自动激活渠道,必须要经过testall测试后才能自动启用吗?

vptzau2j

vptzau2j2#

对于这个渠道的自动禁用和激活,测试下来感觉是有改进的空间的,主要的场景如下:

  1. 现在基本都是把3.5和4.0分成两个渠道,然后当自动测试时,选取的是渠道的第一个模型,在4.0的中就会被默认成dalle3,dalle3的完成时间是较长的,又会触发渠道的时间阈值,就会被自动禁用,以此会往复循环,而且还会造成不必要的测试的额度浪费(测试频率较高下)。

  2. 如果后期接入了某些开放文生图,文生视频之类的api,时间阈值这一项会很尴尬,对于text长了不好,没有测试的意义,对于image短了又会有1的情况发生。

所以在上述的问题下,对于自动测试可以采取对于渠道指定测试模型,如果没有选取则从该渠道的models列表里面随机一个,然后加上 #1059 这个issue设置一个响应阈值,具体的方案看作者想如何改动,我可以帮忙进行pr。

  1. 对于已经禁用的渠道需要自动激活时,感觉这个选项可以单独抽离出来不一定放在测试全部渠道时自动激活,可以单独测试已经禁用的渠道,如果成功了自动激活,而不是测试全部渠道的背景下。
yv5phkfx

yv5phkfx3#

是的,这里预期今天优化。

ki0zmccv

ki0zmccv4#

目前仅支持测试被禁用的渠道,其他功能需要等待后续优化。

相关问题