FastGPT 希望知识库查询的内容能放到系统提示里,

k7fdbhmy  于 5个月前  发布在  其他
关注(0)|答案(6)|浏览(67)

例行检查

  • 我已确认目前没有类似功能
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此功能,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的功能可能会被无视或直接关闭

功能描述

希望知识库查询的结果可以放到系统 prompt 里,或者至少有一个选项可以选择。目前是放在最后一个用户的 message 里,通过参数把用户的问题拼接进来,造成知识和问题的混合。

应用场景

我的场景中,用户可以用多种语言问答,而 ChatGPT 原生能够跟随用户语言(就是用什么语言提问,就用什么语言回复),但是在插入知识库之后,即使用户用英文提问,AI 也有很大概率中文回复。以前用 LangChain-ChatChat 时遇到过相同的问题,后来移到 system prompt 里就解决了,效果应该是没问题的。

相关示例

bxpogfeg

bxpogfeg2#

我为了能让在指定位置插入上下文自己搞了个<@-n>标签解析

pgpifvop

pgpifvop3#

例行检查

  • 我已确认目前没有类似 features
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此 features,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 features 可能会被无视或直接关闭

功能描述

希望知识库查询的结果可以放到 system prompt 里,或者至少有一个选项可以选择。目前是放在最后一个 user 的 message 里,通过参数把用户的问题拼接进来,造成知识和问题的混合。

应用场景

我的场景中,用户可以用多种语言问答,而 ChatGPT 原生能够跟随用户语言(就是用什么语言提问,就用什么语言回复),但是在插入知识库之后,即使用户用英文提问,AI 也有很大概率中文回复。以前用 LangChain-ChatChat 时遇到过相同的问题,后来移到 system prompt 里就解决了,效果应该是没问题的。

相关示例


我使用 langchain-chatchat 的知识库,一致报 “未检索到,此答案是大模型回复”,明明知识库已经创建了,上传个 pdf,构建一个知识库,然后对话的时候选择这个知识库,但没啥用,你的可以用?

5gfr0r5j

5gfr0r5j4#

我正在使用langchain-chatchat的知识库,但始终收到“未检索到,此答案是大模型回复”的提示。尽管我已经创建并上传了PDF文件,构建了一个知识库,并在对话时选择了这个知识库,但似乎并没有什么作用。你的知识库可以正常使用吗?

如果其他配置都正确,可能是问题的匹配度太低,或者是PDF文件没有成功导入。这可能是langchain-chatchat的问题。你可以在相应的项目里提交issue,或者加入他们的微信群寻求帮助。

uqcuzwp8

uqcuzwp85#

你使用的是可以匹配到的吗?...
---原始邮件--- 发件人: ***@***.***&gt; 发送时间: 2024年6月4日(周二) 下午4:58 收件人: ***@***.***&gt;; 抄送: ***@***.******@***.***&gt;; 主题: Re: [labring/FastGPT] 希望知识库查询的内容能放到system prompt里 (Issue #1666) 我使用langchain-chatchat 的知识库,一致报 “未检索到,此答案是大模型回复”,明明知识库已经创建了,上传个pdf,构建一个知识库,然后对话的时候选择这个知识库,但没啥用,你的可以用? 其他配置没错的话,可能是问题的匹配度太低,也可能是pdf压根没导入进去。这是langchain-chatchat的问题了,到相应项目里提issue吧,或者加他们的微信群。 — 回复此电子邮件,查看GitHub上的直接回复,或取消订阅。您收到此电子邮件是因为您评论了。消息ID: ***@***.***&gt;
zhte4eai

zhte4eai6#

关于知识库查询内容能否放入system prompt的问题,我使用的是langchain-chatchat的知识库。尽管我已经创建了知识库并上传了PDF文件,但在对话时选择该知识库似乎没有起到作用。请问您使用的是什么知识库?

如果其他配置都正确,可能是问题匹配度太低,或者是PDF文件没有成功导入。这个问题可能是langchain-chatchat的bug,建议您在该项目的GitHub仓库中提交issue,或者加入他们的微信群寻求帮助。

相关问题