感受野(视野)

介绍

感受野(Receptive Field):卷积神经网络 输出的特征图(feature map),每个像素点在 原始图像 上映射 的区域大小

原始图像是指:是经过预处理(如resize,warp,crop)后的图像,要输入神经网络的图像

例子

原始图像7 x 7,经过 第一次卷积(kernel_size=3, stride=2),输出第一个特征图3 x 3,经过 第二次 卷积(kernel_size=2, stride=1),输出第二个特征图大小为2 x 2

1.原始图像的感受野是1,每个像素只能看到自己
2.第一个特征图,1个像素点,映射在 原图像 的区域大小是3 x 3
3.第二个特征图,1个像素点,映射在 第一个特征图 的区域大小是2 x 2
4.第二个特征图,1个像素点,映射在 原图像 的区域大小是5 x 5,即:经过第二次卷积,感受野是5

感受野是个相对概念,某特征图(feature map)上的像素映射到前面不同层上的区域范围是不同的,通常感受野指的是输入图像上的区域。

规律

  • 原始图像的感受野是1,每个像素只能看到自己
  • 下一层的像素点,映射到上一层的区域大小,就是 卷积核大小

感受野的计算

感受野大小和它之前所有层的 卷积核大小 和 步长 有关系
涉及到这两个参数的有 卷积层 和 pooling层

n:表示第n层
k:表示kernel_size
s:表示stride
r:表示receptive_field
∏:求积运算,形式上类似于Σ(求和运算)

上面例子算法:
3*2-(2-1)*(3-2)=5

由公式引出结论

  • 卷积核大小1 x 1,那么不改变感受野
  • ReLU、BN层、dropout层 等不会改变感受野
  • short-cut 操作不会改变感受野

AlexNet 各层感受野

感谢:
https://www.jianshu.com/p/9997c6f5c01e
https://blog.csdn.net/mzpmzk/article/details/86564509