bisheng rt模型无法下线

dffbzjpn  于 4个月前  发布在  其他
关注(0)|答案(1)|浏览(75)

基本信息:
组件版本:bisheng 0.2.2.5、rt 0.0.6.3
模型:Yi-6B
技能:PythonREPLTOOL + ZerpShotAgent + HostYiChat
在对话过程中,陷入循环,无超时等配置无法终止,GPU一直在计算。点击“模型”-“下线”,状态一直是“下线中”,30分钟后下线成功。
期望:
1、rt模型,增加单次计算最长时间参数配置
2、模型-下线时,增加强行终止模型进程的逻辑或设定。

luaexgnf

luaexgnf1#

如果模型下线缓慢且内部无法复现,可以尝试刷新页面以查看是否已显示下线。

相关问题