anything-llm [特性]: GPT4ALL + sBert (RAG/Localdocs)

p1tboqfb  于 5个月前  发布在  其他
关注(0)|答案(2)|浏览(119)

您希望看到什么?

希望看到对Gpt4all和sBert插件的支持。

pbossiut

pbossiut1#

具体来说,GPT4ALL能提供哪些功能?例如,它是否可以作为你的LLM使用?你是否有关于sBERT插件的文档——这方面我不太熟悉。

3pmvbmvn

3pmvbmvn2#

你应该能够选择本地llm选项之一,并在其中输入你的Gpt4All服务器模式端点,因为它们都遵循openAI API标准。作为一个例子,我正在使用llamafile进行推理,并将我的llamafile端点放入LocalAI选项中。

相关问题