你好,我想构建一个RAG应用,但我不想让它有自己的API,而是想重用现有的Ollama API,这样它就可以与许多现有客户端一起工作。有什么办法可以实现这个目标吗?
3lxsmp7m1#
你好,@sandangel,如果你按照我们的规范构建API,这是可能的。你可以在这里找到文档:https://github.com/jmorganca/ollama/blob/main/docs/api.md但是你需要注意Ollama发布的新API端点和更改。
y53ybaqx2#
BruceMacD,我们可以将API发布为接口包,用户可以将其自己的处理程序钩入其中吗?
wlsrxk513#
你们有没有计划或者对将矢量存储打包到Ollama(类似于Weviate)中,并为该存储提供API的想法持开放态度?cc @jimlloyd
3条答案
按热度按时间3lxsmp7m1#
你好,@sandangel,如果你按照我们的规范构建API,这是可能的。你可以在这里找到文档:
https://github.com/jmorganca/ollama/blob/main/docs/api.md
但是你需要注意Ollama发布的新API端点和更改。
y53ybaqx2#
BruceMacD,我们可以将API发布为接口包,用户可以将其自己的处理程序钩入其中吗?
wlsrxk513#
你们有没有计划或者对将矢量存储打包到Ollama(类似于Weviate)中,并为该存储提供API的想法持开放态度?
cc @jimlloyd