haystack 修改现有的聊天+ RAG食谱,以包含之前的用户聊天消息

s8vozzvw  于 4个月前  发布在  其他
关注(0)|答案(5)|浏览(65)

修改演示的Colab以支持用户消息的内存。

ffscu2ro

ffscu2ro1#

背景:deepset-ai/haystack-cookbook#90
这是我们即将合并到cookbooks仓库的PR。但由于用户消息没有保存在内存中,我们没有这样做。

bcs8qyzn

bcs8qyzn2#

让我们在你开始处理这个问题时讨论一下。

atmip9wb

atmip9wb3#

为了提高可见性:@annthurium@TuanaCelik 我更新了提议的 notebook ,以包含用户的问题。主要的变化是将直接问题注入到 OutputAdapter 中,从而节省了问题和答案(我们已经保存了那个)。我稍微调整了一下提示,并使用 gpt-4 获得了更少的“错误”答案。
我建议开发团队参考上面的笔记本,自己运行它,根据需要进行调整(也许可以减少冗余等),如果还有其他需要,请告知。

mcdcgff0

mcdcgff04#

@vblagoje -感谢创建这个。然而,这让我产生了一个关于输出适配器的问题。我记得你和@julian-risch曾经做过一些工作来移除输出适配器?在这个场景中,我们需要保留它,因为这是我们获得用户消息的唯一途径吗?

qmb5sa22

qmb5sa225#

我可以建议一个类似于这样的解决方案:https://colab.research.google.com/drive/1kJqMWRrP96YoXek6WIZNlnh-fW1fRvKe?usp=sharing
这意味着用户不必担心输出适配器等,因为它都包含在一个Memory组件中。
此外,由于Vlad正在开发一个消息编写器,我们甚至可能不需要那个!

相关问题