vllm已更新至最新版本，但出现了以下问题：(VllmWorkerProcess pid=3253) 警告 08-13 11:31:37 shm_broadcast.py:386] 在60秒内未找到可用的块，任务被暂停，等待其他操作，似乎无法正常工作。
(VllmWorkerProcess pid=3253) 警告 08-13 11:31:37 shm_broadcast.py:386] 在60秒内未找到可用的块。
xvw2m8pv1#
这个错误通常是因为vLLM引擎在某个地方挂起，导致其他进程无法从vLLM引擎获取新的输入。请按照https://docs.vllm.ai/en/latest/getting_started/debugging.html中的调试提示来确定vLLM引擎挂起的位置，这样我们才能更好地帮助您。
1条答案
按热度按时间xvw2m8pv1#
这个错误通常是因为vLLM引擎在某个地方挂起，导致其他进程无法从vLLM引擎获取新的输入。请按照https://docs.vllm.ai/en/latest/getting_started/debugging.html中的调试提示来确定vLLM引擎挂起的位置，这样我们才能更好地帮助您。