one-api 请问如何兼容fireworks的api?

xpszyzbs  于 4个月前  发布在  其他
关注(0)|答案(4)|浏览(37)

它有两种接口 /v1/completions/v1/chat/completions ,前者自定义渠道也不能用,不知道该如何添加渠道?

curl --request POST \
  --url https://api.fireworks.ai/inference/v1/completions \
  -H 'Accept: application/json' \
  -H 'Content-Type: application/json' \
  -H 'Authorization: Bearer <API_KEY>' \
  --data '{ 
    "model": "accounts/fireworks/models/starcoder-7b",
    "max_tokens": 1024,
    "top_p": 1,
    "top_k": 40,
    "presence_penalty": 0,
    "frequency_penalty": 0,
    "temperature": 0.1,
    "prompt": ""
  }'
yqkkidmi

yqkkidmi1#

这看起来兼容OpenAI格式,试试选择OpenAI渠道,然后接口地址填https://api.fireworks.ai/inference

zy1mlcev

zy1mlcev2#

尝试了OpenAI,但不行。它的请求必须是 /v1/completions,如果是 /v1/chat/completions 就出错。

w46czmvw

w46czmvw3#

尝试了OpenAI,但不行,它的请求必须是/v1/completions,如果是/v1/chat/completions就出错。
你不是说支持chat接口吗?

vshtjzan

vshtjzan4#

尝试了OpenAI,但不行,它的请求必须是/v1/completions,如果是/v1/chat/completions就出错。
你不是说支持chat接口吗?
看了一下它完整的接口是:https://api.fireworks.ai/inference/v1/completions

相关问题