一种在RAG应用程序中重用ollama API的方法,

wtlkbnrh  于 4个月前  发布在  其他
关注(0)|答案(3)|浏览(36)

你好,我想构建一个RAG应用,但我不想让它有自己的API,而是想重用现有的Ollama API,这样它就可以与许多现有客户端一起工作。有什么办法可以实现这个目标吗?

3lxsmp7m

3lxsmp7m1#

你好,@sandangel,如果你按照我们的规范构建API,这是可能的。你可以在这里找到文档:
https://github.com/jmorganca/ollama/blob/main/docs/api.md
但是你需要注意Ollama发布的新API端点和更改。

y53ybaqx

y53ybaqx2#

BruceMacD,我们可以将API发布为接口包,用户可以将其自己的处理程序钩入其中吗?

wlsrxk51

wlsrxk513#

你们有没有计划或者对将矢量存储打包到Ollama(类似于Weviate)中,并为该存储提供API的想法持开放态度?
cc @jimlloyd

相关问题