添加多个OpenAI时,是随机选择哪一个吗?还是只会使用第一个,用完余额后自行删除?
rhfm7lfc1#
随机负载均衡。
在合并PR后,可以指定优先级,有限使用哪个渠道。
设置里开启自动禁用渠道,用完余额后会自动禁用渠道。
w1e3prcc2#
@songquanpeng 这个不算bug,测试合并后可以close了
72qzrwbm3#
好的。
brtdzjyr4#
请问有没有办法让它自动 fallback?比如我渠道 A 比较快但是有限额,则自动在限额消耗完之后使用更低优先度的渠道 B?
4条答案
按热度按时间rhfm7lfc1#
随机负载均衡。
在合并PR后,可以指定优先级,有限使用哪个渠道。
设置里开启自动禁用渠道,用完余额后会自动禁用渠道。
w1e3prcc2#
@songquanpeng 这个不算bug,测试合并后可以close了
72qzrwbm3#
好的。
brtdzjyr4#
请问有没有办法让它自动 fallback?比如我渠道 A 比较快但是有限额,则自动在限额消耗完之后使用更低优先度的渠道 B?