vllm 安装错误:pip install -e .

0h4hbjxa  于 5个月前  发布在  其他
关注(0)|答案(8)|浏览(84)

获取文件:///home/house365ai/xxm/vllm2
安装构建依赖项...完成
检查构建后端是否支持构建可编辑的...完成
获取构建可编辑所需的要求...错误
错误:子进程退出时出错
× 获取构建可编辑的要求未成功运行。
退出代码:1
╰─> [22行输出]
/tmp/pip-build-env-wmgabzo_/overlay/lib/python3.10/site-packages/torch/nn/modules/transformer.py:20: UserWarning: 无法初始化NumPy:没有名为'numpy'的模块(在../torch/csrc/utils/tensor_numpy.cpp:84触发)
设备:torch.device = torch.device(torch._C._get_default_device()), # torch.device('cpu'),
/home/house365ai/anaconda3/envs/vllm2/bin/python:没有名为pip的模块
Traceback (most recent call last):
File "/home/house365ai/anaconda3/envs/vllm2/lib/python3.10/site-packages/pip/_vendor/pyproject_hooks/_in_process/_in_process.py", line 353, in main()
File "/home/house365ai/anaconda3/envs/vllm2/lib/python3.10/site-packages/pip/_vendor/pyproject_hooks/_in_process/_in_process.py", line 335, in main
json_out['return_val'] = hook(**hook_input['kwargs'])
File "/home/house365ai/anaconda3/envs/vllm2/lib/python3.10/site-packages/pip/_vendor/pyproject_hooks/in_process/in_process.py", line 132, in get_requires_for_build_editable
return hook(config_settings)
File "/tmp/pip-build-env-wmgabzo
/overlay/lib/python3.10/site-packages/setuptools/build_meta.py", line 448, in get_requires_for_build_editable
return self.get_requires_for_build_wheel(config_settings)
File "/tmp/pip-build-env-wmgabzo
/overlay/lib/python3.10/site-packages/setuptools/build_meta.py", line 325, in get_requires_for_build_wheel
return self.get_build_requires(config_settings, requirements=['wheel'])
File "/tmp/pip-build-env-wmgabzo
/overlay/lib/python3.10/site-packages/setuptools/build_meta.py", line 295, in get_build_requires
self.run_setup()
File "/tmp/pip-build-env-wmgabzo

htrmnn0y

htrmnn0y1#

同样的,回滚到82091b8版本修复了这个问题。

jdgnovmf

jdgnovmf2#

应该由#3269处理,该问题已提交到主分支。

bis0qfac

bis0qfac4#

请尝试以下解决方案:

  1. 确保已安装numpy库。在Docker容器中,您可以使用以下命令安装numpy:
pip install numpy
  1. 如果您使用的是NVIDIA Docker镜像,请确保已安装正确的CUDA版本。根据错误信息,您需要安装CUDA 8.9或更高版本。您可以在Dockerfile中添加以下内容来安装所需的CUDA版本:
RUN apt-get update && apt-get install -y --no-install-recommends \n    cuda-toolkit=11.0.3-1+cu110 \n    libcudnn7=8.6.5.32-1+cuda11.0 \n    libnccl2=2.4.8-1+cuda11.0 \n    libnccl-dev=2.4.8-1+cuda11.0 \n    libstdc++-7=9.3.0-14ubuntu2~20.04

请注意,上述命令中的cuda-toolkitlibcudnn7等包名可能需要根据您的CUDA版本进行调整。您可以查阅NVIDIA官方文档以获取适用于您的CUDA版本的软件包名称。

krugob8w

krugob8w5#

我的显卡是英伟达T4。

h43kikqp

h43kikqp6#

我安装了vllm在nvidia A10上,它可以工作。

rsaldnfx

rsaldnfx7#

请尝试使用 pip install -vvv -e . 来提供更多的错误信息,jinggaizi。

72qzrwbm

72qzrwbm8#

我在这里也遇到了相同的错误,你是如何解决的?

相关问题