DB-GPT [BUG]: EOFError: 数据长度不足

vatpfxk5  于 4个月前  发布在  其他
关注(0)|答案(4)|浏览(80)

启动日志如下,已启动并终止,没有明显报错。

vxqlmq5t

vxqlmq5t1#

环境信息跟机器配置信息也提供一下呢? 单这个错误不太好看

ldfqzlk8

ldfqzlk82#

请提供一下环境信息和机器配置信息。这个错误不太好看。
Ubuntu 22.4, RTX 3060 12G GPU, 使用的是默认的vicuna-13b-v1.5。

5f0d552i

5f0d552i3#

12G显存有点小,跑13B需要跑4bit量化,详细可以查看这个文档:https://db-gpt.readthedocs.io/en/latest/getting_started/install/deploy/deploy.html

yjghlzjz

yjghlzjz4#

我想请问上述运行日志:add db connect info error2!这一行的错误是什么原因导致的。我的运行日志是有这个错误的,这个错误没关系吗? 如果有关系,它是什么原因导致的呢?我该如何修正这个错误
12G显存有点小, 跑13B要跑4bit量化跑,详细可以看下这个文档 https://db-gpt.readthedocs.io/en/latest/getting_started/install/deploy/deploy.html

相关问题