安装:从vllm导入LLM时出错

ws51t4hk  于 3个月前  发布在  其他
关注(0)|答案(3)|浏览(31)

我当前的环境

我正在使用Linux系统,RTX 4080显卡,CUDA版本:12.1,Python版本-3.9

from vllm import LLM
ImportError: cannot import name 'LLM' from 'vllm' (unknown location)

你是如何安装vllm的

pip install vllm
q3qa4bjr

q3qa4bjr1#

你能运行pip list并查看vllm是否在已安装的软件包列表中吗?如果你正在管理多个Python环境,请确保你使用的是正确的环境。

j2cgzkjk

j2cgzkjk2#

是的,我已经正确安装了,已经检查过了。

x0fgdtte

x0fgdtte3#

这个问题是否已经解决?

相关问题