报错:NameError: name 'FlashMHA' is not defined终止子进程 131988尝试使用pip安装flash_attn时报错。
oxalkeyp1#
您好,请问您是pip install flash_attn失败了吗?需要成功pip install flash_atten后才能通过 --use-flash-attention 启用FlashAttention。另外,建议您注意下安装的flash-attn的版本,目前需要在2.0以下,如 pip install flash-attn==0.2.8。
--use-flash-attention
pip install flash-attn==0.2.8
zzoitvuj2#
运行 setup.py clean 以清除 flash-attn构建 flash-attn 失败安装收集到的软件包:flash-attn运行 setup.py install 以安装 flash-attn ... 错误
pw9qyyiw3#
kx5bkwkv4#
您好,请问可以提供下完整报错吗?
brvekthn5#
完整报错太长了,截图截不全
nbnkbykc6#
您好,请问您的命令是 pip install flash-attn==0.2.8 吗?建议您升级Pytorch版本到1.12及以上,另外可以参考一下flash-attn官方仓库的installation部分。
vlju58qv7#
你好,
7条答案
按热度按时间oxalkeyp1#
您好,请问您是pip install flash_attn失败了吗?需要成功pip install flash_atten后才能通过
--use-flash-attention
启用FlashAttention。另外,建议您注意下安装的flash-attn的版本,目前需要在2.0以下,如pip install flash-attn==0.2.8
。zzoitvuj2#
运行 setup.py clean 以清除 flash-attn
构建 flash-attn 失败
安装收集到的软件包:flash-attn
运行 setup.py install 以安装 flash-attn ... 错误
pw9qyyiw3#
kx5bkwkv4#
您好,请问可以提供下完整报错吗?
brvekthn5#
完整报错太长了,截图截不全
nbnkbykc6#
您好,请问您的命令是
pip install flash-attn==0.2.8
吗?建议您升级Pytorch版本到1.12及以上,另外可以参考一下flash-attn官方仓库的installation部分。vlju58qv7#
你好,