pytorch 关于使用1*1卷积的技巧

bf1o4zei  于 2023-05-22  发布在  其他
关注(0)|答案(2)|浏览(155)

我曾经读过下面关于使用1*1卷积的声明,它可以帮助连接不同维度的输入和输出:
例如,要将激活维度(HxW)减少2倍,可以使用步长为2的1x1卷积。
如何理解这个例子?

w6mmgewl

w6mmgewl1#

您可以使用 2 的步幅。然而,我不会说这是一个“技巧”,不像一个神奇的解决方案,以保留信息。你会失去一半的信息。我也不会将此方法限定为池化方法。
内核大小为一个像素高和一个像素宽,并且将一次移动(stride)两个像素。因此,对于行上存在的每个像素,内核将每两个像素输出单个值,即将输出该行上一半数量的像素。同样对于高度,内核将完全丢弃一半的行。
下面是一个大小为 1x1,步幅为 2 的2D卷积在 6x6 输入上的示例。在左边,深黄色的 1x1 块是内核的连续位置。右边是形状为 3x3 的结果图像。

rryofs0p

rryofs0p2#

这在块之间的ResNet身份Map中使用,其中conv特征通道加倍,但空间分辨率减半。1X1卷积用于使特征通道加倍,而2滴的步幅交替行和列,如上文Ivan所述

相关问题