例行检查
- 我已确认目前没有类似 issue
- 我已确认我已升级到最新版本
- 我已完整查看过项目 README,尤其是常见问题部分
- 我理解并愿意跟进此 issue,协助测试和提供反馈
- 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
问题描述
具体来说,使用ChatCompletionsStreamResponseChoice的模型,如果不是OpenAI官方API,choices[0]里没有index以及第一条消息的role=assistant会导致某些库调用失败,例如openai官方的库去调用就会报错。完整choices应该是:
{"choices":[{"delta":{"role":"assistant","content":""},"index":0,"finish_reason":null}]
3条答案
按热度按时间y0u0uwnf1#
index 这个已经修复,感谢反馈
vaj7vani2#
这个报错是什么呢?因为改动量有点大,我想先确认一下。
kq4fsx7k3#
这个报错是什么呢?因为这个改动量有点大,我想先确认一下。会提示Error: missing role for choice 0。根据官方的流式传输格式,只需要在第一个chunk里加入"role":"assistant"就可以。