python - 如何实现 maxpool : taking a maximum on sliding window on image or tensor

简而言之: 我正在寻找 numpy 的简单 Maxpool(可能是 oneliner)实现 - 在 numpy.narray 上的窗口上的最大值，用于跨维度的窗口的所有位置。

更详细地说: 我正在实现一个卷积神经网络(“CNN”)，这种网络中的典型层之一是 MaxPool 层(例如 here )。写作y = MaxPool(x, S) , x 是输入 narray ， S 是参数，使用伪代码， MaxPool 的输出由下式给出:

     y[b,h,w,c] = max(x[b, s*h + i, s*w + j, c]) over i = 0,..., S-1; j = 0,...,S-1.

也就是说， y 是 narray ，其中索引 b,h,w,c 处的值等于沿输入 S x S 的第二和第三维大小为 x 的窗口的最大值，窗口“角”位于索引 b,h,w,c 处。

一些额外的细节: 网络是使用 numpy 实现的。 CNN 有许多“层”，其中一层的输出是下一层的输入。层的输入是 numpy.narray s，称为“张量”。在我的例子中，张量是 4 维 numpy.narray 的， x 。也就是说 x.shape 是一个元组 (B,H,W,C) 。在张量被一层处理后，每个维度的大小都会发生变化，例如层 i= 4 的输入可以具有大小 B = 10, H = 24, W = 24, C = 3 ，而输出，也就是 i+1 层的输入具有 B = 10, H = 12, W = 12, C = 5 。如注释中所示，应用 MaxPool 后的大小为 (B, H - S + 1, W - S + 1, C) 。

具体来说: 如果我使用

import numpy as np

y = np.amax(x, axis = (1,2))

其中 x.shape 表示 (2,3,3,4) 这将给我我想要的东西，但是对于退化的情况，我最大化的窗口的大小是 3 x 3 ，即 x 的第二维和第三维的大小，这不是我想要的。

最佳答案

这是一个使用 np.lib.stride_tricks.as_strided 创建滑动窗口的解决方案，产生一个 6D 形状数组: (B,H-S+1,W-S+1,S,S,C) 然后简单地沿第四和第五轴执行 max ，产生一个形状输出数组: (B,H-S+1,W-S+1,C) 。中间的 6D 数组将是输入数组的 View ，因此不会再占用内存。 max 的后续操作是减少将有效地利用滑动 views 。

因此，一个实现将是 -

# Based on http://stackoverflow.com/a/41850409/3293881
def patchify(img, patch_shape):
    a, X, Y, b = img.shape
    x, y = patch_shape
    shape = (a, X - x + 1, Y - y + 1, x, y, b)
    a_str, X_str, Y_str, b_str = img.strides
    strides = (a_str, X_str, Y_str, X_str, Y_str, b_str)
    return np.lib.stride_tricks.as_strided(img, shape=shape, strides=strides)

out = patchify(x, (S,S)).max(axis=(3,4))

sample 运行 -

In [224]: x = np.random.randint(0,9,(10,24,24,3))

In [225]: S = 5

In [226]: np.may_share_memory(patchify(x, (S,S)), x)
Out[226]: True

In [227]: patchify(x, (S,S)).shape
Out[227]: (10, 20, 20, 5, 5, 3)

In [228]: patchify(x, (S,S)).max(axis=(3,4)).shape
Out[228]: (10, 20, 20, 3)

关于python - 如何实现 maxpool : taking a maximum on sliding window on image or tensor，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/41881638/