运行glm4-9b模型时,长时间对话后会偶发性地回复GGGGGGG。显卡信息如下:
Linux
Intel
0.3.0
rxztt3cl1#
不一定运行久,有时候第一次正常,再来一次就失败了。
ibrsph3r2#
这可能是导致错误的原因。我建议你在llama.cpp上发布你的问题。
llama.cpp
2条答案
按热度按时间rxztt3cl1#
不一定运行久,有时候第一次正常,再来一次就失败了。
ibrsph3r2#
这可能是导致错误的原因。我建议你在
llama.cpp
上发布你的问题。