pytorch torch.cuda.memory_stats和torch,cuda.memory_snapshot返回空数据结构

5vf7fwbs  于 2023-04-30  发布在  其他
关注(0)|答案(1)|浏览(209)

根据这个pytorch文档,命令torch.cuda.memory_stats(device="cuda")torch.cuda.memory_snapshot()应该返回一个dict和一个包含内容的列表。然而,第一个给出了OrderedDict(),第二个给出了[]
为什么会这样呢?
torch.cuda.is_available()返回True

qncylg1j

qncylg1j1#

因为你没有使用gpu内存,例如,尝试启动一个内核并实现以下代码:

import torch
print(torch.cuda.memory_stats(device="cuda"))
print(torch.cuda.memory_snapshot())
x = torch.randn(10, 10).to('cuda')
print(torch.cuda.memory_stats(device="cuda"))
print(torch.cuda.memory_snapshot())

第一个会给予你空的字典和列表,而最后一个会给你想要的静态

相关问题