[BUG] < title>使用qanything-python分支时,使用qwen-turbo接口,文件上传成功,但是问答的时候报错:range of top_p should be (0.0,1.0).然后我创建了一个generation_config.json文件添加到了/QAnything/assets/custom_models/qwen-turbo/generation_config.json,内容为:{ "do_sample": true, "temperature": 0.6, "top_p": 0.8, "repetition_penalty": 1.05, } 但是没解决问题,我应该怎么办?

x9ybnkn6  于 2个月前  发布在  Python
关注(0)|答案(1)|浏览(29)

[BUG] 使用qanything-python分支时,使用qwen-turbo接口,文件上传成功,但是问答的时候报错:range of top_p should be (0.0,1.0).然后我创建了一个generation_config.json文件添加到了/QAnything/assets/custom_models/qwen-turbo/generation_config.json。内容为:{ "do_sample": true, "temperature": 0.6, "top_p": 0.8, "repetition_penalty": 1.05, } 但是没解决问题,我应该怎么办?

qco9c6ql

qco9c6ql1#

那是因为qwen-turbo的top_p是(0,1.0),llm_for_openai_api.py里面写死的是1.0,我直接改成了0.9

相关问题