one-api Azure OpenAI gpt-35-turbo-16k 渠道检测404

4c8rllxm  于 6个月前  发布在  其他
关注(0)|答案(5)|浏览(44)

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,尤其是常见问题部分
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述

在 Azure 上,我已经将模型名和部署名配置成一样的 gpt-35-turbo-16k,但是无法成功。我发现渠道配置的时候只能选 gpt-3.5-turbo-16k,我应该怎么配置?是渠道模型名跟 Azure 上不一致导致的问题吗?

复现步骤

3lxsmp7m

3lxsmp7m1#

不要自定义模型, 用gpt-3.5-turbo-16k就可以了

nzkunb0c

nzkunb0c2#

您好,GPT-3.5-turbo-16k是一种基于GPT-3.5的模型,它不需要自定义模型。如果您在使用过程中遇到了问题,可以尝试重定向。

3xiyfsfu

3xiyfsfu3#

我也发现了这个问题,如何解决呢?

snz8szmq

snz8szmq4#

之后会专门针对 Azure 的配置问题进行优化,需要时间处理。

mccptt67

mccptt675#

您好,根据您的描述,这个问题的根本原因是在 Azure 部署中,部署名只能是 gpt-35-xxx,中间不能带点号。但是 one 的默认模型名都是带点号的,比如 gpt-3.5-turbo、gpt-3.5-turbo-0125 等等。在 API 调用的时候 one 内部应该是把点号去掉了,所以可以请求成功。但是测试的时候,如果只有 gpt-3.5-turbo-0125 或者 gpt-3.5-turbo-16k,这个时候去请求 Azure 会报 404,应该是没有去掉点号的原因。因为使用自定义模型不带点号 gpt-35-turbo-0125 的时候可以测试成功。这个测试时候去掉点号,好像只对 gpt-3.5-turbo 做了处理,其他版本都没有处理。需要加上,就是所有带后缀类型的 3.5 中间的点号在测试的时候也都需要把中间的点号去掉请求,否则就会 404。

相关问题