你好团队,我的团队正在开发Gen AI项目,所有项目都基于谷歌云平台。因此,是否可以将GPTCache与谷歌LLM(gemini或bisontext)集成?
uwopmtnx1#
+1
kkbh8khc2#
大型模型的数量正在爆炸式增长,我认为继续添加模型可能没有太大意义。或许你可以尝试使用gptcache中的get和set API,示例代码:https://github.com/zilliztech/GPTCache/blob/main/examples/adapter/api.py
2条答案
按热度按时间uwopmtnx1#
+1
kkbh8khc2#
大型模型的数量正在爆炸式增长,我认为继续添加模型可能没有太大意义。或许你可以尝试使用gptcache中的get和set API,示例代码:https://github.com/zilliztech/GPTCache/blob/main/examples/adapter/api.py