深度学习在图像识别中的应用--学习笔记6

卷积神经网络

1、CNN特点之一：它是唯一一个不需要预训练便能直接训练的深度网络。

2、与深度置信网络对比：在深度置信网络中，网络节点是全连接的，而卷积神经网络中连接是局部的。



CNN网络中，每个上层节点只与部分的下层节点连接，并且，这些连接的权值是共享的，即相同颜色的连接代表其权值相等。好处是：局部连接将会大大减少网络的连接数量，而权值共享又会大大减少网络的参数数量。卷积网络的设计目的是让网络拥有更多的连接，而拥有更少的权值。尽管这里连接数量上卷积网络要比全连接网络少。但是我们后面将会看到，卷积网络将通过多张特征图构造出更多的连接。

CNN一般用于用于图像识别与声音识别两个领域。

下面的论文用于推荐CNN的语音识别。

1-- Abdel-Hamid O, Mohamed A r, Jiang H, et al. Applying convolutional neural

networks concepts to hybrid NN-HMM model for speech recognition[C]//Acoustics,

Speech and Signal Processing (ICASSP), 2012 IEEE International Conference on.

.[S.l.]: [s.n.] , 2012:4277–4280.

2 --Sukittanon S, Surendran A C, Platt J C, et al. Convolutional networks for speech

detection.[C]//. .[S.l.]: [s.n.] .

3--LeCun Y, Bengio Y. Convolutional networks for images, speech, and time series[J].

The handbook of brain theory and neural networks, 1995, 3361(10).