inference QUESTION: Encoutering libcudart.so.12: cannot open shared object file: No such file or directory

eqzww0vc 于 5个月前发布在其他

关注(0)|答案(2)|浏览(60)

描述bug

清晰简洁地描述bug是什么。
ImportError: [address=0.0.0.0:44627, pid=1165786] libcudart.so.12: 无法打开共享对象文件：没有这样的文件或目录
当我在运行qwen1.5-14b时出现这个错误，我查看了过往的问题并没有相关的问题。

重现问题

为了帮助我们重现这个问题，请提供以下信息：

你的Python版本。Python 3.10.13
xinference的版本。0.10.0
crucial包的版本。
错误的完整堆栈信息。
最小化重现错误的代码。

预期行为

清晰简洁地描述你期望会发生什么。

其他上下文

在这里添加关于问题的任何其他上下文。

来源：https://github.com/xorbitsai/inference/issues/1286

2条答案

按热度按时间

你能粘贴完整的错误堆栈吗？

赞(0）回复(0）举报 5个月前

解：既然已经成功解决了主要问题，那就是vlm找不到libcudart.so.12。我的解决方案是CUDA Toolkit 12.4 Update 1 Downloads .

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get -y install cuda-toolkit-12-4

赞(0）回复(0）举报 5个月前

相关问题

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 4个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 4个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 4个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 4个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 4个月前