CS231n学习记录Lec6 Convolutional Neural Networks卷积神经网络

Lec6 Convolutional Neural Networks卷积神经网络

1.Layers

卷积层conv layer

卷积的局部关注性，不关注输入图片的全部，而是局部。

感受野/卷积核/filter，让同一个卷积核划过图片（遍历），在每一个位置和数据点进行点积运算，得到一张特征映射图（maps）。卷积核的数量就是深度。

卷积层可以保留原始数据的空间结构，不会像全连接那样需要把原始数据拉伸操作。

采用多个卷积核来提取多种”特征”，（深度、层数的概念），每一个的输出maps尺寸相同。多层卷积核的输出结果堆叠效果示意：



卷积过程中的参数问题。如果要补零，N的大小则是补零后的边长数目，示意如下：



每个卷积核公用一个偏值b，计算参数数目的时候不要忘记了b。

池化层pooling layer

降采样，使后面的参数量减少。不做深度方向的降采样，只做平面上的降采样。滑动步长设置要避免重叠，让每一个值更好的代替一个区域。

max pooling相对于均值pooling能使受刺激程度更显著。

全连接层 fully connected layer

“stretch to”



层间堆叠示意

conv layer、Reli layer（某种激活层）、pooling layer、fullcon layer的堆叠示意：



池化的次数、滑动步长和核的大小等都是超参数， 需要try and see。一个趋势是卷积核小化，层数更深。