caffe学习笔记28-全卷积网络FCN笔记

结合全卷积网络FCN分析：
1.传统的手工特征算子，没有优化同一个目标函数，Learner的error不能传递给特征的representation
2.深度学习提取特征是数据驱动，任务的具体特征提取。
3.结合BP优化
4.传统的卷积+全连接：在图像层次的表达上面，丢失了空间上下文信息
5.卷积网络适用于空间相关的信号，递归网络适用于时间相关的信号。卷积和递归是一种嵌入到结构中的先验。
6.图像分割：逐像素点预测，对于输入的每个像素点，我们都想知道它属于哪一个对象的（类）。
7.用反卷积层代替全连接层，进行逐像素的分类和预留空间背景（deconv:特征图上采样，crop确保输入输出都是同样的大小）type:"Deconvolution"
8.反卷积中使用双线性插值上采样，使得最终结构非常coarse粗糙，FCN+CRF（条件随机场） refine得到最终结果是目前语义分割的标配
示例：训练参数：预设权重，0学习率，Batch_size=1,Momentum=0.99
Layer{

    type:"Deconvolution"

    name:"deconv1"

    bottom:"pool1"

    top:"deconv1"

    param{

      lr_mult:0 #0学习率

      decay_mult:1

    }

    param{

      lr_mult:0

      decay_mult:1

    }

    convolution_param{

    stride:2

      kernel_size:4

      padding:1

      num_output:1

    }
}