DeepSpeed-MII

DeepSpeed-MII+ 关注

文章：0|问答：0|关注：0

暂无介绍

1回答
85浏览
DeepSpeed-MII Performance with vllm DeepSpeed-MII
其他 1rhkuytd6个月前浏览 (85)6个月前
1回答
97浏览
DeepSpeed-MII ValueError: 不支持的模型类型phi3 DeepSpeed-MII
其他 py49o6xq6个月前浏览 (97)6个月前
2回答
116浏览
DeepSpeed-MII 无法运行Yi-34B-Chat => ValueError: 不支持的q_ratio: 7 DeepSpeed-MII
其他 ctrmrzij6个月前浏览 (116)6个月前
2回答
103浏览
DeepSpeed-MII 配置服务器日志级别 DeepSpeed-MII
其他 00jrzges6个月前浏览 (103)6个月前
2回答
86浏览
DeepSpeed-MII支持多节点推理, DeepSpeed-MII
其他 ne5o7dgx6个月前浏览 (86)6个月前
5回答
91浏览
DeepSpeed-MII 非持久性简单示例不起作用, DeepSpeed-MII
其他 6ioyuze26个月前浏览 (91)6个月前
2回答
175浏览
如何使用DeepSpeed-MII从DeepSpeed/Megatron-DeepSpeed训练的检查点部署LLM模型？ DeepSpeed-MII
其他 nle07wnf6个月前浏览 (175)6个月前
2回答
186浏览
DeepSpeed-MII ``` ValueError: 不支持的模型类型 roberta ``` DeepSpeed-MII
其他 iyzzxitl6个月前浏览 (186)6个月前
2回答
164浏览
DeepSpeed-MII可以在只有1个副本的情况下在多个GPU上进行推理吗？ DeepSpeed-MII
其他 dffbzjpn6个月前浏览 (164)6个月前
3回答
185浏览
DeepSpeed-MII qwen1.5模型支持？ DeepSpeed-MII
其他 sdnqo3pr6个月前浏览 (185)6个月前
9回答
136浏览
DeepSpeed-MII [BUG] Issue serving Mixtral 8x7B on H100 DeepSpeed-MII
其他 3npbholx6个月前浏览 (136)6个月前
1回答
277浏览
DeepSpeed-MII 服务器因某种原因崩溃，无法继续进行, DeepSpeed-MII
其他 h22fl7wq6个月前浏览 (277)6个月前
1回答
126浏览
DeepSpeed-MII Cohere的Command-R模型支持 DeepSpeed-MII
其他 q35jwt9p6个月前浏览 (126)6个月前
3回答
100浏览
DeepSpeed-MII 在多进程中，当调用客户端推理时阻塞, DeepSpeed-MII
其他 vnjpjtjt6个月前浏览 (100)6个月前
1回答
181浏览
DeepSpeed-MII 如何启动除cuda:0之外的图形卡上的API? DeepSpeed-MII
其他 kxeu7u2r6个月前浏览 (181)6个月前
1回答
87浏览
DeepSpeed-MII 运行时错误：服务器套接字无法在任何本地网络地址上监听, DeepSpeed-MII
其他 5t7ly7z56个月前浏览 (87)6个月前
2回答
164浏览
DeepSpeed-MII 将DS-inference和ZeRO-inference配置暴露给用户 DeepSpeed-MII
其他 insrf1ej6个月前浏览 (164)6个月前
3回答
206浏览
DeepSpeed-MII 支持多节点部署？ DeepSpeed-MII
其他 yebdmbv46个月前浏览 (206)6个月前
1回答
143浏览
DeepSpeed-MII 支持Fairseq翻译模型 DeepSpeed-MII
其他 cnh2zyt36个月前浏览 (143)6个月前
3回答
249浏览
功能请求：为deepspeed-mii提供Docker镜像, DeepSpeed-MII
Docker ctehm74n6个月前浏览 (249)6个月前
2回答
185浏览
DeepSpeed-MII 支持Salesforce/CodeGen DeepSpeed-MII
其他 quhf5bfb6个月前浏览 (185)6个月前
1回答
148浏览
DeepSpeed-MII是否也能支持像YOLO/Detectron2/FCOS/VitDet这样的模型/库？ DeepSpeed-MII
其他 t1qtbnec6个月前浏览 (148)6个月前
4回答
149浏览
DeepSpeed-MII 如何查询远程DeepSpeed服务器？ DeepSpeed-MII
其他 beq87vna6个月前浏览 (149)6个月前
3回答
106浏览
DeepSpeed-MII 运行时错误：此事件循环已经在运行中, DeepSpeed-MII
其他 avkwfej45个月前浏览 (106)5个月前
3回答
126浏览
DeepSpeed-MII 支持FLAN-T5 DeepSpeed-MII
其他 olhwl3o26个月前浏览 (126)6个月前
4回答
130浏览
DeepSpeed-MII 停止序列 DeepSpeed-MII
其他 g6ll5ycj5个月前浏览 (130)5个月前
1回答
157浏览
DeepSpeed-MII 在MII部署中，是否有与单个模型进行通信的方法？ DeepSpeed-MII
其他 0lvr5msh6个月前浏览 (157)6个月前
5回答
175浏览
DeepSpeed-MII AML部署错误，由于缺少az cli参数 DeepSpeed-MII
其他 dgjrabp25个月前浏览 (175)5个月前
1回答
181浏览
DeepSpeed-MII 支持艾伯特和Swin/ViT DeepSpeed-MII
其他 zhte4eai6个月前浏览 (181)6个月前
2回答
178浏览
DeepSpeed-MII 模型在OPT TP模式下是否进行拆分？ DeepSpeed-MII
其他 whhtz7ly6个月前浏览 (178)6个月前

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 4个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 4个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 4个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 4个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 4个月前