卷积神经网络（CNN）的理解与总结

卷积神经网络模型的历史演化：

0. 核心思想

two main ideas：

use only local features

在不同位置上使用同样的特征；

池化层的涵义在于，更高的层次能捕捉图像中更大的范围和区域；

1. feature map

依然是 feature map（特征映射），再次可见，深度神经网络其实就是一种 feature learning 框架。

如何获取一幅图像（输入图像）的特征映射（将原始图像映射到其特征空间中）：

用一个线性滤波器（linear filter）对输入图像进行卷积，

加上一定的 bias

将一个非线性函数应用在 卷积+bias 的结果上；

数学的方式描述如下：

将给定层对应的 feature map 记为 h(k)（也即任一层都可能存在多重 feature maps，以便获得更为丰富的特征表示，{h(k),k=0,…,K}），它们（h(k)，feature maps）各自对应的滤波器由权值矩阵 W(k) 和 bias b(k) 确定：

h(k)ij=tanh(W(k)⋆x)ij+bk)

2. 卷积操作实战

二维卷积算子接口所在：

theano.tensor.nnet.conv.conv2d：最常使用；

theano.tensor.signal.conv2d：只作用在单 channel 的输入上

这两个函数接收两个符号输入：

input：4D 的 tensor，各个维度分别对应于，

mini-batch

number of input feature maps，比如一副彩色图像，对应着 3 个色彩通道（RGB）

image height

image width

weight Matrix W，其维度为：

number of feature maps at layer m（后一层）

number of feature maps at layer m-1（前一层）

filter height

filter width

import numpy as np
import theano.tensor as T
from theano.tensor.nnet import conv

rng = np.random.RandomState(23455);
inpt = T.sensor4(name='inpt')
W_shp = (2, 3, 9, 9)        # 第一维是 2，表示下一层的 map 数，
# 第二维是 3，表示前一层的 map 是三（也就是 RGB），
W_bound = np.sqrt(3*9*9)
W = theano.shared(
np.asarray(
rng.uniform(
low=-1./W_bound,
high=1./W_bound,
size=W_shp,
)
dtype=theano.config.floatX
), name='W'
)

b_shp = (2, )       # 下一层的 maps 数
b = theano.shared(np.asarray(rng.uniform(low=-.5, high=.5, size=b_shp), dtype=theano.config.floatX), name='b')

conv_out = conv.conv2d(inpt, W)
output = T.nnet.sigmoid(conv_out + b.dimshuffle('x', 0, 'x', 'x'))                  # b 从 (2, ) ⇒ (1, 2, 1, 1)

f = theano.function([inpt], output)

3. maxpooling

max-pooling 本质上是一种非线性的降采样（down-sampling）。Maxpooling 机制将输入图像划分为不重叠的矩形区域，对于每一个子区域，输出其中的最大值。

maxpooling 之所以能在计算机视觉中应用基于以下两个原因：

通过排除一些不是最大值的点，降低上一层的计算复杂度；

它提供了一种平移不变性（translation invariance）的变换；

image processing - Translation invariance in max-pooling and cascading with convolutional layer - Signal Processing Stack Exchange

maxpooling 具有平移不变性，指的是，执行 maxpooling 之后得到的 feature map，不会因图像的平移而发生改变，而影响后续的处理结果。

考虑 2*2 的 maxpooling 窗口，对于一个 2*2 的图像子区域，2*2 的图像子区域存在 8 个可行的平移方向（仅移动一个像素），分别是（上下左右，左上右上左下右下），此时针对这 8 种情况下，如下图：



只有右侧的三种情况，会使在原有位置上（中心的 4 个点）执行 maxpooling 后获得的最大值和未发生平移变化之前的是一致的，也即对平移保持不变；

同理对于 3*3 的图像子区域，也是 8 个可以平移的方向，只有其中的 5 个保持平移不变。