one-api 一个API正在重构中,

au9on6nz  于 4个月前  发布在  其他
关注(0)|答案(8)|浏览(44)

重构完成后会解决什么问题?

  • 现有的重试是通过跳转完成的,非内部重试;
  • 计费逻辑与 relay 逻辑耦合,不支持按次数计费;
  • relay 逻辑与渠道相关的逻辑严重耦合,难以适配新的渠道类型;
  • 非 OpenAI 类型的渠道测试功能缺失;
  • image、text & audio 存在大量的重复代码,这使得适配更新吃力;
  • relay 功能没有细粒度拆分,导致难以进行单测;
  • 无法作为 Golang 库使用,不利于配套程序的编写;
f3temu5u

f3temu5u2#

诚然,重构并非一朝一夕能够完成的事情,个人只能投入周末时间处理,在此期间对其他非紧急问题的响应会有延迟,也请各位理解,心有余而力不足。

重构是为了之后能更快地响应功能请求与 issue 处理,也是为了方便其他开发者能更容易地提交 PR,为了项目能更健康地发展,所以我理解这是一件必须要做的事情。

s4chpxco

s4chpxco3#

建议:

  1. 在可用模型对应的模型边上加上倍率或者单价,省去做价格表的功夫。
  2. 既然存在非标openai模型,与其一个个去手动匹配,不如做一个万能模型,自定义接入json所匹配的字段,以及中转出去的json格式,定价可以暂时粗放一些,之前在 #873 提过。
iyzzxitl

iyzzxitl4#

建议增强回退、自动重试和负载均衡的能力。可以参考: https://github.com/Portkey-AI/gateway

db2dz4w8

db2dz4w85#

希望支持 https://xinghuo.xfyun.cn/botcenter 讯飞助手,它和讯飞星火格式一直,唯一区别是接口地址变化。优势是助手可以随意创建,每个助手有10000000 token,可以自定义数据集。这样可以通过创建助手白嫖。

b09cbbtk

b09cbbtk6#

相关 PR & commit:

  1. refactor: refactor relay part #935
  2. refactor: refactor relay part #957
  3. b9d3cb0
    能否使用 ts 开发系统呢,这样更多的开发者可以协助
fhg3lkii

fhg3lkii7#

建议支持支付功能。

rbpvctlc

rbpvctlc8#

各位,relay部分已经基本重构完成,在此基础上会继续更新解决之前遗留的问题。

相关问题