DeepSpeed-MII

DeepSpeed-MII+ 关注

文章：0|问答：0|关注：0

暂无介绍

1回答
125浏览
DeepSpeed-MII Performance with vllm DeepSpeed-MII
其他 1rhkuytd10个月前浏览 (125)10个月前
1回答
163浏览
DeepSpeed-MII ValueError: 不支持的模型类型phi3 DeepSpeed-MII
其他 py49o6xq10个月前浏览 (163)10个月前
2回答
169浏览
DeepSpeed-MII 无法运行Yi-34B-Chat => ValueError: 不支持的q_ratio: 7 DeepSpeed-MII
其他 ctrmrzij10个月前浏览 (169)10个月前
2回答
174浏览
DeepSpeed-MII 配置服务器日志级别 DeepSpeed-MII
其他 00jrzges10个月前浏览 (174)10个月前
2回答
157浏览
DeepSpeed-MII支持多节点推理, DeepSpeed-MII
其他 ne5o7dgx10个月前浏览 (157)10个月前
5回答
147浏览
DeepSpeed-MII 非持久性简单示例不起作用, DeepSpeed-MII
其他 6ioyuze210个月前浏览 (147)10个月前
2回答
236浏览
如何使用DeepSpeed-MII从DeepSpeed/Megatron-DeepSpeed训练的检查点部署LLM模型？ DeepSpeed-MII
其他 nle07wnf10个月前浏览 (236)10个月前
2回答
229浏览
DeepSpeed-MII ``` ValueError: 不支持的模型类型 roberta ``` DeepSpeed-MII
其他 iyzzxitl10个月前浏览 (229)10个月前
2回答
236浏览
DeepSpeed-MII可以在只有1个副本的情况下在多个GPU上进行推理吗？ DeepSpeed-MII
其他 dffbzjpn10个月前浏览 (236)10个月前
3回答
228浏览
DeepSpeed-MII qwen1.5模型支持？ DeepSpeed-MII
其他 sdnqo3pr10个月前浏览 (228)10个月前
9回答
179浏览
DeepSpeed-MII [BUG] Issue serving Mixtral 8x7B on H100 DeepSpeed-MII
其他 3npbholx10个月前浏览 (179)10个月前
1回答
343浏览
DeepSpeed-MII 服务器因某种原因崩溃，无法继续进行, DeepSpeed-MII
其他 h22fl7wq10个月前浏览 (343)10个月前
1回答
159浏览
DeepSpeed-MII Cohere的Command-R模型支持 DeepSpeed-MII
其他 q35jwt9p10个月前浏览 (159)10个月前
3回答
136浏览
DeepSpeed-MII 在多进程中，当调用客户端推理时阻塞, DeepSpeed-MII
其他 vnjpjtjt10个月前浏览 (136)10个月前
1回答
261浏览
DeepSpeed-MII 如何启动除cuda:0之外的图形卡上的API? DeepSpeed-MII
其他 kxeu7u2r10个月前浏览 (261)10个月前
1回答
125浏览
DeepSpeed-MII 运行时错误：服务器套接字无法在任何本地网络地址上监听, DeepSpeed-MII
其他 5t7ly7z510个月前浏览 (125)10个月前
2回答
200浏览
DeepSpeed-MII 将DS-inference和ZeRO-inference配置暴露给用户 DeepSpeed-MII
其他 insrf1ej10个月前浏览 (200)10个月前
3回答
238浏览
DeepSpeed-MII 支持多节点部署？ DeepSpeed-MII
其他 yebdmbv410个月前浏览 (238)10个月前
1回答
188浏览
DeepSpeed-MII 支持Fairseq翻译模型 DeepSpeed-MII
其他 cnh2zyt310个月前浏览 (188)10个月前
3回答
295浏览
功能请求：为deepspeed-mii提供Docker镜像, DeepSpeed-MII
Docker ctehm74n10个月前浏览 (295)10个月前
2回答
229浏览
DeepSpeed-MII 支持Salesforce/CodeGen DeepSpeed-MII
其他 quhf5bfb10个月前浏览 (229)10个月前
1回答
235浏览
DeepSpeed-MII是否也能支持像YOLO/Detectron2/FCOS/VitDet这样的模型/库？ DeepSpeed-MII
其他 t1qtbnec10个月前浏览 (235)10个月前
4回答
226浏览
DeepSpeed-MII 如何查询远程DeepSpeed服务器？ DeepSpeed-MII
其他 beq87vna10个月前浏览 (226)10个月前
3回答
150浏览
DeepSpeed-MII 运行时错误：此事件循环已经在运行中, DeepSpeed-MII
其他 avkwfej410个月前浏览 (150)10个月前
3回答
172浏览
DeepSpeed-MII 支持FLAN-T5 DeepSpeed-MII
其他 olhwl3o210个月前浏览 (172)10个月前
4回答
203浏览
DeepSpeed-MII 停止序列 DeepSpeed-MII
其他 g6ll5ycj10个月前浏览 (203)10个月前
1回答
208浏览
DeepSpeed-MII 在MII部署中，是否有与单个模型进行通信的方法？ DeepSpeed-MII
其他 0lvr5msh10个月前浏览 (208)10个月前
5回答
239浏览
DeepSpeed-MII AML部署错误，由于缺少az cli参数 DeepSpeed-MII
其他 dgjrabp210个月前浏览 (239)10个月前
1回答
231浏览
DeepSpeed-MII 支持艾伯特和Swin/ViT DeepSpeed-MII
其他 zhte4eai10个月前浏览 (231)10个月前
2回答
228浏览
DeepSpeed-MII 模型在OPT TP模式下是否进行拆分？ DeepSpeed-MII
其他 whhtz7ly10个月前浏览 (228)10个月前

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 9个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 9个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 9个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 9个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 9个月前