DeepSpeed-MII

DeepSpeed-MII+ 关注

文章：0|问答：0|关注：0

暂无介绍

1回答
64浏览
DeepSpeed-MII Performance with vllm DeepSpeed-MII
其他 1rhkuytd4个月前浏览 (64)4个月前
1回答
68浏览
DeepSpeed-MII ValueError: 不支持的模型类型phi3 DeepSpeed-MII
其他 py49o6xq4个月前浏览 (68)4个月前
2回答
85浏览
DeepSpeed-MII 无法运行Yi-34B-Chat => ValueError: 不支持的q_ratio: 7 DeepSpeed-MII
其他 ctrmrzij4个月前浏览 (85)4个月前
2回答
82浏览
DeepSpeed-MII 配置服务器日志级别 DeepSpeed-MII
其他 00jrzges4个月前浏览 (82)4个月前
2回答
65浏览
DeepSpeed-MII支持多节点推理, DeepSpeed-MII
其他 ne5o7dgx4个月前浏览 (65)4个月前
5回答
62浏览
DeepSpeed-MII 非持久性简单示例不起作用, DeepSpeed-MII
其他 6ioyuze24个月前浏览 (62)4个月前
2回答
156浏览
如何使用DeepSpeed-MII从DeepSpeed/Megatron-DeepSpeed训练的检查点部署LLM模型？ DeepSpeed-MII
其他 nle07wnf4个月前浏览 (156)4个月前
2回答
165浏览
DeepSpeed-MII ``` ValueError: 不支持的模型类型 roberta ``` DeepSpeed-MII
其他 iyzzxitl4个月前浏览 (165)4个月前
2回答
135浏览
DeepSpeed-MII可以在只有1个副本的情况下在多个GPU上进行推理吗？ DeepSpeed-MII
其他 dffbzjpn4个月前浏览 (135)4个月前
3回答
164浏览
DeepSpeed-MII qwen1.5模型支持？ DeepSpeed-MII
其他 sdnqo3pr4个月前浏览 (164)4个月前
9回答
119浏览
DeepSpeed-MII [BUG] Issue serving Mixtral 8x7B on H100 DeepSpeed-MII
其他 3npbholx4个月前浏览 (119)4个月前
1回答
247浏览
DeepSpeed-MII 服务器因某种原因崩溃，无法继续进行, DeepSpeed-MII
其他 h22fl7wq4个月前浏览 (247)4个月前
1回答
106浏览
DeepSpeed-MII Cohere的Command-R模型支持 DeepSpeed-MII
其他 q35jwt9p4个月前浏览 (106)4个月前
3回答
80浏览
DeepSpeed-MII 在多进程中，当调用客户端推理时阻塞, DeepSpeed-MII
其他 vnjpjtjt4个月前浏览 (80)4个月前
1回答
139浏览
DeepSpeed-MII 如何启动除cuda:0之外的图形卡上的API? DeepSpeed-MII
其他 kxeu7u2r4个月前浏览 (139)4个月前
1回答
69浏览
DeepSpeed-MII 运行时错误：服务器套接字无法在任何本地网络地址上监听, DeepSpeed-MII
其他 5t7ly7z54个月前浏览 (69)4个月前
2回答
145浏览
DeepSpeed-MII 将DS-inference和ZeRO-inference配置暴露给用户 DeepSpeed-MII
其他 insrf1ej4个月前浏览 (145)4个月前
3回答
197浏览
DeepSpeed-MII 支持多节点部署？ DeepSpeed-MII
其他 yebdmbv44个月前浏览 (197)4个月前
1回答
116浏览
DeepSpeed-MII 支持Fairseq翻译模型 DeepSpeed-MII
其他 cnh2zyt34个月前浏览 (116)4个月前
3回答
216浏览
功能请求：为deepspeed-mii提供Docker镜像, DeepSpeed-MII
Docker ctehm74n4个月前浏览 (216)4个月前
2回答
141浏览
DeepSpeed-MII 支持Salesforce/CodeGen DeepSpeed-MII
其他 quhf5bfb4个月前浏览 (141)4个月前
1回答
119浏览
DeepSpeed-MII是否也能支持像YOLO/Detectron2/FCOS/VitDet这样的模型/库？ DeepSpeed-MII
其他 t1qtbnec4个月前浏览 (119)4个月前
4回答
121浏览
DeepSpeed-MII 如何查询远程DeepSpeed服务器？ DeepSpeed-MII
其他 beq87vna4个月前浏览 (121)4个月前
3回答
84浏览
DeepSpeed-MII 运行时错误：此事件循环已经在运行中, DeepSpeed-MII
其他 avkwfej44个月前浏览 (84)4个月前
3回答
110浏览
DeepSpeed-MII 支持FLAN-T5 DeepSpeed-MII
其他 olhwl3o24个月前浏览 (110)4个月前
4回答
104浏览
DeepSpeed-MII 停止序列 DeepSpeed-MII
其他 g6ll5ycj4个月前浏览 (104)4个月前
1回答
137浏览
DeepSpeed-MII 在MII部署中，是否有与单个模型进行通信的方法？ DeepSpeed-MII
其他 0lvr5msh4个月前浏览 (137)4个月前
5回答
156浏览
DeepSpeed-MII AML部署错误，由于缺少az cli参数 DeepSpeed-MII
其他 dgjrabp24个月前浏览 (156)4个月前
1回答
158浏览
DeepSpeed-MII 支持艾伯特和Swin/ViT DeepSpeed-MII
其他 zhte4eai4个月前浏览 (158)4个月前
2回答
128浏览
DeepSpeed-MII 模型在OPT TP模式下是否进行拆分？ DeepSpeed-MII
其他 whhtz7ly4个月前浏览 (128)4个月前

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 3个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 3个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 2个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 3个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 3个月前