text-generation-inference 警告:您正在使用一个后端 < class 'text_generation_server.utils.dist.FakeGroup'> 作为进程组,自PyTorch 2.0起,这种用法已被弃用,

at0kjp5o  于 2个月前  发布在  其他
关注(0)|答案(1)|浏览(84)

系统信息

如标题所示
line in stderr: /opt/conda/lib/python3.10/site-packages/torch/distributed/distributed_c10d.py:658: UserWarning: You are using a Backend <class 'text_generation_server.utils.dist.FakeGroup'> as a ProcessGroup. This usage is deprecated since PyTorch 2.0. Please use a public API of PyTorch Distributed instead.

信息

  • Docker
  • 直接使用CLI

任务

  • 一个官方支持的命令
  • 我自己的修改

复现

强制在Rust中打印stderr

预期行为

无警告

hof1towb

hof1towb1#

这个问题已经过期,因为它已经打开了30天,没有活动。请移除过期标签或评论,否则将在5天内关闭。

相关问题