one-api 模型缺少`index`和`role`字段导致问题

eanckbw9  于 6个月前  发布在  其他
关注(0)|答案(3)|浏览(56)

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,尤其是常见问题部分
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
    问题描述

具体来说,使用ChatCompletionsStreamResponseChoice的模型,如果不是OpenAI官方API,choices[0]里没有index以及第一条消息的role=assistant会导致某些库调用失败,例如openai官方的库去调用就会报错。完整choices应该是:

{"choices":[{"delta":{"role":"assistant","content":""},"index":0,"finish_reason":null}]
y0u0uwnf

y0u0uwnf1#

index 这个已经修复,感谢反馈

vaj7vani

vaj7vani2#

这个报错是什么呢?因为改动量有点大,我想先确认一下。

kq4fsx7k

kq4fsx7k3#

这个报错是什么呢?因为这个改动量有点大,我想先确认一下。会提示Error: missing role for choice 0。根据官方的流式传输格式,只需要在第一个chunk里加入"role":"assistant"就可以。

相关问题