vllm [Bug]: ValueError: 模型 QWenLMHeadModel 不支持 LoRA,但已启用,未来可能会添加对该模型的支持,如果您对此很重要，请在 github 上打开一个问题,

qacovj5a 于 4个月前发布在 Git

关注(0)|答案(4)|浏览(185)

当前环境

The output of `python collect_env.py`

🐛 描述错误
ValueError:模型QWenLMHeadModel不支持LoRA,但已启用LoRA。未来可能会添加对该模型的支持。如果您对此很重要，请在github上打开一个问题。

4条答案

chatglm和baichuan模型不受支持。

这些模型支持lora(chatglm和baichuan),但不支持qwen,您可以使用qwen1.5代替。

备份？为什么我在使用qwen lora时遇到了错误？

qwen 不支持，但 qwen1.5 支持 lora。