系统信息 / 系统信息
无
是否使用 Docker 运行 Xinference? / 是否使用 Docker 运行 Xinfernece?
- docker / docker
- pip install / 通过 pip install 安装
- installation from source / 从源码安装
版本信息 / 版本信息
latest
用以启动 xinference 的命令 / 用以启动 xinference 的命令
手动进入pod后,运行注册模型,和启动模型,模型成功运行;(以一张卡为例)
复现过程 / 复现过程
手动进入pod后,运行注册模型,和启动模型,模型成功运行;(以一张卡为例)
期待表现 / 期待表现
希望能够直接通过k8s拉起模型
1条答案
按热度按时间puruo6ea1#
我也是使用k8s部署的,没有遇到什么问题。请查看xinference的具体报错信息。