DeepSpeed-MII

DeepSpeed-MII+ 关注

文章：0|问答：0|关注：0

暂无介绍

1回答
110浏览
DeepSpeed-MII Performance with vllm DeepSpeed-MII
其他 1rhkuytd8个月前浏览 (110)8个月前
1回答
134浏览
DeepSpeed-MII ValueError: 不支持的模型类型phi3 DeepSpeed-MII
其他 py49o6xq8个月前浏览 (134)8个月前
2回答
147浏览
DeepSpeed-MII 无法运行Yi-34B-Chat => ValueError: 不支持的q_ratio: 7 DeepSpeed-MII
其他 ctrmrzij8个月前浏览 (147)8个月前
2回答
143浏览
DeepSpeed-MII 配置服务器日志级别 DeepSpeed-MII
其他 00jrzges8个月前浏览 (143)8个月前
2回答
126浏览
DeepSpeed-MII支持多节点推理, DeepSpeed-MII
其他 ne5o7dgx8个月前浏览 (126)8个月前
5回答
128浏览
DeepSpeed-MII 非持久性简单示例不起作用, DeepSpeed-MII
其他 6ioyuze28个月前浏览 (128)8个月前
2回答
217浏览
如何使用DeepSpeed-MII从DeepSpeed/Megatron-DeepSpeed训练的检查点部署LLM模型？ DeepSpeed-MII
其他 nle07wnf8个月前浏览 (217)8个月前
2回答
211浏览
DeepSpeed-MII ``` ValueError: 不支持的模型类型 roberta ``` DeepSpeed-MII
其他 iyzzxitl8个月前浏览 (211)8个月前
2回答
207浏览
DeepSpeed-MII可以在只有1个副本的情况下在多个GPU上进行推理吗？ DeepSpeed-MII
其他 dffbzjpn8个月前浏览 (207)8个月前
3回答
206浏览
DeepSpeed-MII qwen1.5模型支持？ DeepSpeed-MII
其他 sdnqo3pr8个月前浏览 (206)8个月前
9回答
166浏览
DeepSpeed-MII [BUG] Issue serving Mixtral 8x7B on H100 DeepSpeed-MII
其他 3npbholx8个月前浏览 (166)8个月前
1回答
314浏览
DeepSpeed-MII 服务器因某种原因崩溃，无法继续进行, DeepSpeed-MII
其他 h22fl7wq8个月前浏览 (314)8个月前
1回答
144浏览
DeepSpeed-MII Cohere的Command-R模型支持 DeepSpeed-MII
其他 q35jwt9p8个月前浏览 (144)8个月前
3回答
122浏览
DeepSpeed-MII 在多进程中，当调用客户端推理时阻塞, DeepSpeed-MII
其他 vnjpjtjt8个月前浏览 (122)8个月前
1回答
250浏览
DeepSpeed-MII 如何启动除cuda:0之外的图形卡上的API? DeepSpeed-MII
其他 kxeu7u2r8个月前浏览 (250)8个月前
1回答
113浏览
DeepSpeed-MII 运行时错误：服务器套接字无法在任何本地网络地址上监听, DeepSpeed-MII
其他 5t7ly7z58个月前浏览 (113)8个月前
2回答
189浏览
DeepSpeed-MII 将DS-inference和ZeRO-inference配置暴露给用户 DeepSpeed-MII
其他 insrf1ej8个月前浏览 (189)8个月前
3回答
224浏览
DeepSpeed-MII 支持多节点部署？ DeepSpeed-MII
其他 yebdmbv48个月前浏览 (224)8个月前
1回答
173浏览
DeepSpeed-MII 支持Fairseq翻译模型 DeepSpeed-MII
其他 cnh2zyt38个月前浏览 (173)8个月前
3回答
268浏览
功能请求：为deepspeed-mii提供Docker镜像, DeepSpeed-MII
Docker ctehm74n8个月前浏览 (268)8个月前
2回答
214浏览
DeepSpeed-MII 支持Salesforce/CodeGen DeepSpeed-MII
其他 quhf5bfb8个月前浏览 (214)8个月前
1回答
211浏览
DeepSpeed-MII是否也能支持像YOLO/Detectron2/FCOS/VitDet这样的模型/库？ DeepSpeed-MII
其他 t1qtbnec8个月前浏览 (211)8个月前
4回答
202浏览
DeepSpeed-MII 如何查询远程DeepSpeed服务器？ DeepSpeed-MII
其他 beq87vna8个月前浏览 (202)8个月前
3回答
136浏览
DeepSpeed-MII 运行时错误：此事件循环已经在运行中, DeepSpeed-MII
其他 avkwfej48个月前浏览 (136)8个月前
3回答
148浏览
DeepSpeed-MII 支持FLAN-T5 DeepSpeed-MII
其他 olhwl3o28个月前浏览 (148)8个月前
4回答
181浏览
DeepSpeed-MII 停止序列 DeepSpeed-MII
其他 g6ll5ycj8个月前浏览 (181)8个月前
1回答
189浏览
DeepSpeed-MII 在MII部署中，是否有与单个模型进行通信的方法？ DeepSpeed-MII
其他 0lvr5msh8个月前浏览 (189)8个月前
5回答
224浏览
DeepSpeed-MII AML部署错误，由于缺少az cli参数 DeepSpeed-MII
其他 dgjrabp28个月前浏览 (224)8个月前
1回答
216浏览
DeepSpeed-MII 支持艾伯特和Swin/ViT DeepSpeed-MII
其他 zhte4eai8个月前浏览 (216)8个月前
2回答
212浏览
DeepSpeed-MII 模型在OPT TP模式下是否进行拆分？ DeepSpeed-MII
其他 whhtz7ly8个月前浏览 (212)8个月前

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 7个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 7个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 7个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 7个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 7个月前