例行检查
- 我已确认目前没有类似 issue
- 我已确认我已升级到最新版本
- 我已完整查看过项目 README,尤其是常见问题部分
- 我理解并愿意跟进此 issue,协助测试和提供反馈
- 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
问题描述
在 Azure 上,我已经将模型名和部署名配置成一样的 gpt-35-turbo-16k,但是无法成功。我发现渠道配置的时候只能选 gpt-3.5-turbo-16k,我应该怎么配置?是渠道模型名跟 Azure 上不一致导致的问题吗?
复现步骤
5条答案
按热度按时间3lxsmp7m1#
不要自定义模型, 用gpt-3.5-turbo-16k就可以了
nzkunb0c2#
您好,GPT-3.5-turbo-16k是一种基于GPT-3.5的模型,它不需要自定义模型。如果您在使用过程中遇到了问题,可以尝试重定向。
3xiyfsfu3#
我也发现了这个问题,如何解决呢?
snz8szmq4#
之后会专门针对 Azure 的配置问题进行优化,需要时间处理。
mccptt675#
您好,根据您的描述,这个问题的根本原因是在 Azure 部署中,部署名只能是 gpt-35-xxx,中间不能带点号。但是 one 的默认模型名都是带点号的,比如 gpt-3.5-turbo、gpt-3.5-turbo-0125 等等。在 API 调用的时候 one 内部应该是把点号去掉了,所以可以请求成功。但是测试的时候,如果只有 gpt-3.5-turbo-0125 或者 gpt-3.5-turbo-16k,这个时候去请求 Azure 会报 404,应该是没有去掉点号的原因。因为使用自定义模型不带点号 gpt-35-turbo-0125 的时候可以测试成功。这个测试时候去掉点号,好像只对 gpt-3.5-turbo 做了处理,其他版本都没有处理。需要加上,就是所有带后缀类型的 3.5 中间的点号在测试的时候也都需要把中间的点号去掉请求,否则就会 404。