如何将numpy数组列表加载到pytorch数据集加载器?

t3irkdon  于 2022-12-26  发布在  其他
关注(0)|答案(3)|浏览(156)

我有一个很大的numpy数组列表,这里每个数组代表一个图像,我想用torch.utils.data.dataloader对象加载它。但是torch.utils.data.dataloader的文档提到它直接从一个文件夹加载数据。我如何修改它呢?我是pytorch的新手,任何帮助都将非常感谢。我的一个单一图像的numpy数组看起来像这样。图像为RBG图像。

[[[ 70  82  94]
  [ 67  81  93]
  [ 66  82  94]
  ..., 
  [182 182 188]
  [183 183 189]
  [188 186 192]]

 [[ 66  80  92]
  [ 62  78  91]
  [ 64  79  95]
  ..., 
  [176 176 182]
  [178 178 184]
  [180 180 186]]

 [[ 62  82  93]
  [ 62  81  96]
  [ 65  80  99]
  ..., 
  [169 172 177]
  [173 173 179]
  [172 172 178]]

 ...,
p1tboqfb

p1tboqfb1#

我认为DataLoader实际上需要的是一个子类化Dataset的输入,您可以编写自己的子类化Dataset的数据集类,也可以像下面这样使用TensorDataset

import torch
import numpy as np
from torch.utils.data import TensorDataset, DataLoader

my_x = [np.array([[1.0,2],[3,4]]),np.array([[5.,6],[7,8]])] # a list of numpy arrays
my_y = [np.array([4.]), np.array([2.])] # another list of numpy arrays (targets)

tensor_x = torch.Tensor(my_x) # transform to torch tensor
tensor_y = torch.Tensor(my_y)

my_dataset = TensorDataset(tensor_x,tensor_y) # create your datset
my_dataloader = DataLoader(my_dataset) # create your dataloader

对我有用。

pqwbnv8z

pqwbnv8z2#

因为你有图像,你可能想对它们进行转换,所以TensorDataset不是最好的选择,相反你可以创建自己的Dataset,比如:

import torch
from torchvision import transforms
from torch.utils.data import Dataset, DataLoader
import numpy as np
from PIL import Image

class MyDataset(Dataset):
    def __init__(self, data, targets, transform=None):
        self.data = data
        self.targets = torch.LongTensor(targets)
        self.transform = transform
        
    def __getitem__(self, index):
        x = self.data[index]
        y = self.targets[index]
        
        if self.transform:
            x = Image.fromarray(self.data[index].astype(np.uint8).transpose(1,2,0))
            x = self.transform(x)
        
        return x, y
    
    def __len__(self):
        return len(self.data)

# Let's create 10 RGB images of size 128x128 and 10 labels {0, 1}
data = list(np.random.randint(0, 255, size=(10, 3, 128, 128)))
targets = list(np.random.randint(2, size=(10)))

transform = transforms.Compose([transforms.Resize(64), transforms.ToTensor()])
dataset = MyDataset(data, targets, transform=transform)
dataloader = DataLoader(dataset, batch_size=5)
axr492tv

axr492tv3#

PyTorch DataLoader需要一个DataSet,因为你可以签入docs。正确的方法是用途:

torch.utils.data.TensorDataset(*tensors)

这是一个用于 Package Tensor的数据集,其中每个样本将通过沿着第一维索引Tensor来检索。参数*tensors表示具有与第一维相同大小的Tensor。
另一个class torch.utils.data.Dataset是一个抽象类。
下面是如何将numpy数组转换为Tensor:

import torch
import numpy as np
n = np.arange(10)
print(n) #[0 1 2 3 4 5 6 7 8 9]
t1 = torch.Tensor(n)  # as torch.float32
print(t1) #tensor([0., 1., 2., 3., 4., 5., 6., 7., 8., 9.])
t2 = torch.from_numpy(n)  # as torch.int32
print(t2) #tensor([0, 1, 2, 3, 4, 5, 6, 7, 8, 9], dtype=torch.int32)

已接受的答案使用torch.Tensor构造。如果您有一个像素为0-255的图像,则可以使用以下构造:

timg = torch.from_numpy(img).float()

或torchvision to_tensor方法,该方法将PIL图像或numpy.ndarray转换为Tensor。
但是这里有个小技巧你可以直接把你的numpy数组。

x1 = np.array([1,2,3])
d1 = DataLoader( x1, batch_size=3)

这也可以,但如果打印d1.dataset,请键入:

print(type(d1.dataset)) # <class 'numpy.ndarray'>

虽然我们实际上需要使用CUDA的Tensor,所以最好使用Tensor来填充DataLoader

相关问题