CNN有三个主要特征:局部连接,权值共享,输入/输出数据的结构化。
在卷积神经网络中,由于卷积的局部连接性,输出特征图上的每个节点的取值,是由卷积核在输入特征图上对应的位置进行卷积操作而得到的,因此这个节点的取值会受到该卷积层的输入特征图,也就是上一层的输出特征图上某个局部区域的影响。感受野的定义是,对于某层输出特征图的某点,在卷积神经网络的原始输入数据上能影响到这个点的取值的区域。
以二维卷积神经网络为例,如果网络的原始输入特征图的尺寸为
,记网络第
层节点的感受野大小为
,其中
分别代表宽和高两个方向,则可按照式(1-1)~式(1-4)来计算。
- 若第
层为卷积层或者池化层(pooling layer),则有
(1-1) 其中,
是第
层卷积核/池化核的尺寸,
是第
层的步长。特别地,对于第0层,即原始输入层,有:
(1-2)
- 若第
层为激活层、批归一化层等,则其步长为1,感受野大小为:
(1-3)
- 若第
层为全连接层,则其感受野的输入为整个输入数据全域,即:
(1-4)