one-api 是否可以支持open AI批处理接口

huwehgph  于 4个月前  发布在  其他
关注(0)|答案(3)|浏览(45)

例行检查

  • 我已确认目前没有类似问题
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此问题,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的问题可能会被无视或直接关闭

功能描述
https://platform.openai.com/docs/guides/batch 是否可以支持open AI批处理接口,这样可以便宜一半的价格

应用场景
批量调用open AI接口,用来生成批量数据

vm0i2vca

vm0i2vca1#

这个应该不可以吧?我看文心一言也有这个批量预测的,需要配和bos使用,这个不太好集成到这个项目中吧。

sg2wtvxw

sg2wtvxw2#

对于中转场景不太现实,接口是隔天拉数据,如果隔天你提交批处理的这个渠道没了,那就尴尬了。

8oomwypt

8oomwypt3#

初步看来,支持可能会比较麻烦,请求需要与 key 关联在一起。但我理解,支持这个接口确实也蛮有意义的。

相关问题