描述问题
当对话代理与由检索QA链支持的链工具和开源LLM(如PALM 2)一起使用时，其工作不正常，并且100%的时间都无法从向量存储中获取数据。
重现步骤
- 在Flowise UI中按照以下方式进行设置。
- 放置一个包含客户ID、姓名和电话号码的csv文件。
- 提出如下截图所示的问题。
预期行为
对话代理应该能够使用客户-qna链工具并通过查询向量存储来获取结果。
截图
流程
已添加聊天流程json文件以帮助您重现问题。
Google Palm Flow - Chatflow.json
设置
- 安装 [
yarn start] - Flowise版本 [例如：1.3.8]
- OS: [Windows]
- 浏览器 [chrome]
附加上下文
- 即使我用“对话检索QA链”替换了“检索QA链”，结果也是相同的。
- 我还没有尝试过Open AI,因为我没有为此做任何投资。
解决此问题将通过Flowise解锁更多开源模型的领域。
4条答案
按热度按时间af7jpaap1#
我建议首先创建一个流程，将文档插入到矢量存储中。然后使用
Conversational Retrieval Agent模板从矢量存储中检索：crcmnpdw2#
首先，感谢你对此进行调查。主要目标是在流程中使用"工具",而不仅仅是一个简单的Q&A流程。主要问题是"开源模型"(如PALM或Hugging Face模型)与代理(如"对话代理")、检索链(如"检索问答链"或"对话检索问答链")和开源模型的组合效果不佳。
我相信，如果将开源模型替换为Open AI模型(我没有任何付费密钥),这可能会起作用，但这完全违背了Flowise的无模型论原则。
j13ufse23#
是的，我同意。大多数开源模型不适用于代理/复杂链，因为底层提示更适合于ChatGPT。在这种情况下，尝试使用
Prompt Chaining with VectorStore模板，这意味着创建自己的PromptTemplate和LLMChain,并将其用作ChainTool。ncecgwcz4#
@HenryHengZJ 目前我能在Flowise中使用哪个
agent组件，它能很好地与open source model一起工作？如果你有关于它的聊天流程示例，那就太好了！