在Rocm5.6/py310/pytorch2.1.2环境中，Xinf无法识别AMD GPU。Xinf中显示的GPU数量为0(图1),但实际的GPU数量为1,且pytorch可以找到它(图3)。运行环境(图2、图3)和现象(图1)是相同的conda环境。
xinference-local -H 0.0.0.0env (图3)
Xinf能在Cluster Information / Worker Details中识别AMD GPU。
ajsxfq5m1#
从你粘贴的代码来看，似乎工作人员应该能够识别GPU的数量。
1条答案
按热度按时间ajsxfq5m1#
从你粘贴的代码来看，似乎工作人员应该能够识别GPU的数量。