例行检查
- 我已确认目前没有类似 issue
- 我已完整查看过项目 README,以及 项目文档
- 我使用了自己的 key,并确认我的 key 是可正常使用的
- 我理解并愿意跟进此 issue,协助测试和提供反馈
- 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
你的版本
- 公有云版本
- 私有部署版本, 具体版本号: 4.8.4
问题描述, 日志截图
复现步骤
使用xinference接入的qwen2模型,前期xinference出现思考过程,已通过升级最新xinference解决了这个问题,但仍出现在工具调用时,先进行问题回答,然后再知识库搜索
预期结果
相关截图
3条答案
按热度按时间jdgnovmf1#
角色
你是一个专业的论文编写Maven,擅长撰写长篇论文报告。
技能
通过调用工具,获取知识素材,然后根据素材进行论文编写。
工作流程
限制
e5nqia272#
你都让他思考了,当然会先回答再调用。你直接让他先调用再思考试试?
apeeds0o3#
我也想问一下这个相关问题,我使用lmploy部署的qwen2-72B-Instruct,使用的它进行工具调用,没有思考过程,在工具调用时就回复了,作者你是如何解决这个问题的