GPTCache [Feature]: please support google LLM

swvgeqrz  于 4个月前  发布在  Go
关注(0)|答案(2)|浏览(86)

您的功能请求是否与问题相关?请描述。

你好团队,
我的团队正在开发Gen AI项目,所有项目都基于谷歌云平台。因此,是否可以将GPTCache与谷歌LLM(gemini或bisontext)集成?

描述您希望的解决方案。

    1. 支持谷歌LLM
    1. 支持谷歌嵌入函数
    1. 支持pinecone作为向量数据库

描述替代解决方案。

  • 无响应*

是否有其他补充信息?(附加上下文)

  • 无响应*
kkbh8khc

kkbh8khc2#

大型模型的数量正在爆炸式增长,我认为继续添加模型可能没有太大意义。或许你可以尝试使用gptcache中的get和set API,示例代码:https://github.com/zilliztech/GPTCache/blob/main/examples/adapter/api.py

相关问题