启动日志如下,已启动并终止,没有明显报错。
vxqlmq5t1#
环境信息跟机器配置信息也提供一下呢? 单这个错误不太好看
ldfqzlk82#
请提供一下环境信息和机器配置信息。这个错误不太好看。Ubuntu 22.4, RTX 3060 12G GPU, 使用的是默认的vicuna-13b-v1.5。
5f0d552i3#
12G显存有点小,跑13B需要跑4bit量化,详细可以查看这个文档:https://db-gpt.readthedocs.io/en/latest/getting_started/install/deploy/deploy.html
yjghlzjz4#
我想请问上述运行日志:add db connect info error2!这一行的错误是什么原因导致的。我的运行日志是有这个错误的,这个错误没关系吗? 如果有关系,它是什么原因导致的呢?我该如何修正这个错误12G显存有点小, 跑13B要跑4bit量化跑,详细可以看下这个文档 https://db-gpt.readthedocs.io/en/latest/getting_started/install/deploy/deploy.html
4条答案
按热度按时间vxqlmq5t1#
环境信息跟机器配置信息也提供一下呢? 单这个错误不太好看
ldfqzlk82#
请提供一下环境信息和机器配置信息。这个错误不太好看。
Ubuntu 22.4, RTX 3060 12G GPU, 使用的是默认的vicuna-13b-v1.5。
5f0d552i3#
12G显存有点小,跑13B需要跑4bit量化,详细可以查看这个文档:https://db-gpt.readthedocs.io/en/latest/getting_started/install/deploy/deploy.html
yjghlzjz4#
我想请问上述运行日志:add db connect info error2!这一行的错误是什么原因导致的。我的运行日志是有这个错误的,这个错误没关系吗? 如果有关系,它是什么原因导致的呢?我该如何修正这个错误
12G显存有点小, 跑13B要跑4bit量化跑,详细可以看下这个文档 https://db-gpt.readthedocs.io/en/latest/getting_started/install/deploy/deploy.html