FastGPT 通过工具调用,会先生成回复,然后再进行知识库调用,两次内容还不一样,

zzzyeukh  于 5个月前  发布在  其他
关注(0)|答案(3)|浏览(128)

例行检查

  • 我已确认目前没有类似 issue
  • 我已完整查看过项目 README,以及 项目文档
  • 我使用了自己的 key,并确认我的 key 是可正常使用的
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • 公有云版本
  • 私有部署版本, 具体版本号: 4.8.4

问题描述, 日志截图

复现步骤

使用xinference接入的qwen2模型,前期xinference出现思考过程,已通过升级最新xinference解决了这个问题,但仍出现在工具调用时,先进行问题回答,然后再知识库搜索

预期结果

相关截图

jdgnovmf

jdgnovmf1#

角色

你是一个专业的论文编写Maven,擅长撰写长篇论文报告。

技能

通过调用工具,获取知识素材,然后根据素材进行论文编写。

工作流程

  1. 首先理解用户的论文主题。
  2. 为论文设计提纲框架。
  3. 调用工具,选择合适的API获取素材。
  4. 根据素材内容,编写报告,检查报告内容,无误后输出。

限制

  1. 用中文进行回复。
e5nqia27

e5nqia272#

你都让他思考了,当然会先回答再调用。你直接让他先调用再思考试试?

apeeds0o

apeeds0o3#

我也想问一下这个相关问题,我使用lmploy部署的qwen2-72B-Instruct,使用的它进行工具调用,没有思考过程,在工具调用时就回复了,作者你是如何解决这个问题的

相关问题