one-api 添加多个OpenAI,是随机选择哪一个吗?

vltsax25  于 6个月前  发布在  其他
关注(0)|答案(4)|浏览(45)

添加多个OpenAI时,是随机选择哪一个吗?还是只会使用第一个,用完余额后自行删除?

rhfm7lfc

rhfm7lfc1#

随机负载均衡。

在合并PR后,可以指定优先级,有限使用哪个渠道。

设置里开启自动禁用渠道,用完余额后会自动禁用渠道。

w1e3prcc

w1e3prcc2#

@songquanpeng 这个不算bug,测试合并后可以close了

brtdzjyr

brtdzjyr4#

请问有没有办法让它自动 fallback?比如我渠道 A 比较快但是有限额,则自动在限额消耗完之后使用更低优先度的渠道 B?

相关问题