[记录caffe学习]1.caffe自带数字识别例子

   学习了一段时间的caffe ,虽然对于这个深度学习平台有了一点认识,基本上也可以从网上download下别人训练好的模型来fine tuning

(原谅我真的无法从头来训练,单位给我配的渣渣电脑),但是想要成为一名老司机,这远远是不够的

,所以本司机打算从头好好系统的学习下,整理成博客的形式.作为一个新手,对caffe的认识肯定有很多的不足之处,有不到位的地方,希望各位老司机轻拍

.

    因为接触caffe时间不长,对caffe的印象是,这个深度学习框架,天生就是为了VC而生的,据说也可以用于NLP等其他的领域,但是需要对架构改动,新手表示还搞不了.

至于caffe的安装与配置,就不讲了,不过吐槽下,caffe的确比较不好安装,按照网上的教程也很少一次成功的.我安装了两天,哎,不说了,都是泪.安装教程网上很多,大家可以自行百度了.例如ubuntu14.0.4+CPU+caffe.YY一下,

啥时候可以pip
install caffe就好了网上caffe的学习教程太多了,当然对于一个新手,拿caffe自带的例子来上手真是再好不过了.

   所谓mnist,就是手写数字数据集,由于起采用的lenet模型比较简单,一般的深度学习框架都拿来作为入门教程.如caffe,tensorflow等(原谅我只熟悉这俩个深度学习框架)

  caffe是啥玩意?coffee? 据说caffe名字的由来,是因为贾杨清团队成员喜欢喝coffee,厉害了,我的偶像.

caffe自带的模型有lenet,Alexnet,googlenet,caffenet,rcnn

mnist模型的训练

步骤:
1.获取mnist数据集
~cd caffe #cd 进caffe的根目录
./data/mnist/get_mnist.sh
2.创建lmdb/level文件(caffe数据都是通过KV数据库输入,当然也可以直接图片输入,不过效率太低)
依然在caffe根目录下
./examples/mnist/create_mnist.sh
        在/examples/mnist/文件夹下出现mnist-test-leveldb,mnist_test_lmdb,mnist-train-leveldb,mnist_train_lmdb就对了.

到此,训练的数据已经准备完毕,万事俱备,只欠"训练"了.训练之前还是熟悉下咱们的模型吧,所谓知己知彼:minist采用的lenet模型.相对来讲,算是一个很简单的CNN模型了.这里的流程图借花献佛了,他是有两个卷积+采样层,再加上两个全连接.



上图的流程,在$CAFFE_ROOT/examples/mnist/lenet_train_test.prototxt中可以看到,对比图跟文件,网络结构很清晰.

caffe的特点:
caffe的模型与相应优化都是以文本形式给出的.包括模型的定义,参数的设置.

网络由N个layer(layers,与layer意义一样,又不完全一样,参数type会稍微有点差异,之前掉这个坑里了)组成无向图
caffe中的数据又blob存储(即数据的传递采用的blob形式在层间流动).
每层由层属性与层参数组成

网络层定义

name: "LeNet"   //网络名称是LeNet

layer {

  name: "mnist"   //数据层名称是mnist,可以随意取

  type: "Data"     //类型是数据,表示数据来源于leveldb或者lmdb

  top: "data"        //输出数据到两个Blob，分别是data和label

  top: "label"

  include {

    phase: TRAIN //说明该层只在训练过程中调用,如果没有include参数,说明该层既在训练模型中,又在测试模型中

  }

  transform_param {

    scale: 0.00390625    //确保输出数据在[0,1)之间，所以乘以1/256

  }

  data_param {

    source: "examples/mnist/mnist_train_lmdb"    //从这里获得数据

    batch_size: 64        //每次读取数据个数

    backend: LMDB     //数据类型,level还是lmdb,默认是level

  }

}

layer {

  name: "mnist"

  type: "Data"

  top: "data"

  top: "label"

  include {

    phase: TEST

  }

  transform_param {

    scale: 0.00390625

  }

  data_param {

    source: "examples/mnist/mnist_test_lmdb"

    batch_size: 100    //每次处理的数据个数

    backend: LMDB

  }

}

其他集中数据层:

1.数据来自于内存

层类型：MemoryData

必须设置的参数：

 batch_size

：每一次处理的数据个数，比如2

 channels

：通道数

  height

：高度

   width: 宽度

示例：

layer {

  top: "data"

  top: "label"

  name: "memory_data"

  type: "MemoryData"

  memory_data_param{

    batch_size: 2

    height: 100

    width: 100

    channels: 1

  }

  transform_param {

    scale: 0.0078125

    mean_file: "mean.proto"

    mirror: false

  }

}

2、数据来自于HDF5

层类型：HDF5Data

必须设置的参数：

source: 读取的文件名称

batch_size: 每一次处理的数据个数

示例：

layer {

  name: "data"

  type: "HDF5Data"

  top: "data"

  top: "label"

  hdf5_data_param {

    source: "examples/hdf5_classification/data/train.txt"

    batch_size: 10

  }

}

3、数据来自于图片

层类型：ImageData

必须设置的参数：

  source: 一个文本文件的名字，每一行给定一个图片文件的名称和标签（label)

  batch_size: 每一次处理的数据个数，即图片数

可选参数：

  rand_skip: 在开始的时候，路过某个数据的输入。通常对异步的SGD很有用。

  shuffle: 随机打乱顺序，默认值为false

  new_height,new_width: 如果设置，则将图片进行resize

 示例：

layer {

  name: "data"

  type: "ImageData"

  top: "data"

  top: "label"

  transform_param {

    mirror: false

    crop_size: 227

    mean_file: "data/ilsvrc12/imagenet_mean.binaryproto"

  }

  image_data_param {

    source: "examples/_temp/file_list.txt"

    batch_size: 50

    new_height: 256

    new_width: 256

  }

}

4、数据来源于Windows

层类型：WindowData

必须设置的参数：

  source: 一个文本文件的名字

  batch_size: 每一次处理的数据个数，即图片数

示例：
layer {

  name: "data"

  type: "WindowData"

  top: "data"

  top: "label"

  include {

    phase: TRAIN

  }

  transform_param {

    mirror: true

    crop_size: 227

    mean_file: "data/ilsvrc12/imagenet_mean.binaryproto"

  }

  window_data_param {

    source: "examples/finetune_pascal_detection/window_file_2007_trainval.txt"

    batch_size: 128

    fg_threshold: 0.5

    bg_threshold: 0.5

    fg_fraction: 0.25

    context_pad: 16

    crop_mode: "warp"

  }

}
然后是第一个卷积层和下采样层：
layer {

  name: "conv1"

  type: "Convolution" //
layer: "Convolution" layers:CONVOLUTION

  bottom: "data"    //以下层传输过来的data Blob作为输入

  top: "conv1"    //这层数据输出到Blob conv1

  param {

    lr_mult: 1      //lr为learning rate，学习率

  } 

  param {

    lr_mult: 2      //bias的学习率是weight的两倍

  }

  convolution_param {

    num_output: 20     //输出有20个channel,说明有20个卷积核与data数据层卷积

    kernel_size: 5      //卷积核大小为5

    stride: 1             //卷积步长为1

    weight_filler {

      type: "xavier"      //使用xavier algorithm，根据输入和输出神经元的数目，自动确定初始化权重的范围

    }

    bias_filler {

      type: "constant"      //将偏置初始化为常数，且为0

    }

  }

}

layer {

  name: "pool1"

  type: "Pooling"      //层的类型是Pooling,layers对应的是POOLING

  bottom: "conv1"     //输入是conv1 Blob

  top: "pool1"            //输出是pool1 Blob

  pooling_param {

    pool: MAX             //下采样方式是最大值采样

    kernel_size: 2       //在2*2的区域内选择最大值

    stride: 2                 //步长为2，防止区域有重叠

  }

}

第二个卷积层和下采样层也都是类似的，就不再赘述了，下面是两个全连接层：
layer {

  name: "ip1"

  type: "InnerProduct"      //Fully Connection Layer在caffe中也叫Inner Product

  bottom: "pool2"              //输入是pool2 Blob

  top: "ip1"                         //输出是ip1 Blob

  param {

    lr_mult: 1

  }

  param {

    lr_mult: 2

  }

  inner_product_param {

    num_output: 500        //输出的神经元个数为500

    weight_filler {

      type: "xavier"

    }

    bias_filler {

      type: "constant"

    }

  }

}

layer {

  name: "relu1" 

  type: "ReLU"

  bottom: "ip1"                //把输入和输出的Blob设为同一个名字，可以是对单个元素操作的relu节省存储空间

  top: "ip1"

}

然后是另一个全连接层，不过只有10个输出，对应10个数字。接下来就是Loss层（和Accuracy层，只在test阶段使用）：
layer {

  name: "loss"

  type: "SoftmaxWithLoss"

  bottom: "ip2"               //将全连接层的prediction和data层输出的label作为输入

  bottom: "label"

  top: "loss"

}

这一层没有进一步的输出，只计算损失函数值，当BP开始时将loss 报告出来。这个网络的定义就到此结束了。
此外，还有一点需要注意的是，当如下的格式出现时，
layer {

  // ...layer definition...

  include: { phase: TRAIN }

}

说明这一层只在TRAIN阶段出现在网络中，当处在TEST阶段时，这一层不出现在网络中。没有这个标志的层始终出现在网络当中。所以在以上的定义中，DATA层以不同的BATCH出现了两次，分别是TRAIN和TEST阶段。另外在测试阶段还有一个Accuracy层，每100次迭代就计算一下准确率。

参数配置

一般caffe自带的模型的参数配置文件XXX_solver.prototxt，
 打开参数配置文件

 在CAFFE_ROOT下
vim  ./examples/mnist/lenet_solver.prototxt
可以看到
The train/test net protocol buffer definition
net: "examples/mnist/lenet_train_test.prototxt"//网络模型文件
# test_iter specifies how many forward passes the test should carry out.
# In the case of MNIST, we have test batch size 100 and 100 test iterations,
# covering the full 10,000 testing images.这个要与test_layer中的batch_size结合起来理解。batch_size为100，需要迭代100次才能将10000个数据全#部执行完，因此test_iter设置为100，执行完一次全部的数据为一个epoch
test_iter: 100
# Carry out testing every 500 training iterations.测试间隔，即每训练500次,才测试一次
test_interval: 500
# The base learning rate, momentum and the weight decay of the network.学习率，
base_lr: 0.01 #基础学习率
momentum: 0.9 #梯度更新的权重
weight_decay: 0.0005 #权重衰减项，防止过拟合
# The learning rate policy学习率策略，有六种。详见http://stackoverflow.com/questions/30033096/what-is-lr-policy-in-caffe 
lr_policy: "inv"
gamma: 0.0001
power: 0.75
# Display every 100 iterations 每训练100次在屏幕上显示一次，0不显示
display: 100
# The maximum number of iterations最大迭代次数
max_iter: 10000 
# snapshot intermediate results每5000次迭代，保存一次模型参数
snapshot: 5000
snapshot_prefix: "examples/mnist/lenet"  #保存路径，lenet应该是保存文件的前缀，如lenet_iter_5000.caffemodel
# solver mode: CPU or GPU运行模式
solver_mode: GPU

训练网络

依然在CAFFE_ROOT根目录下

./examples/mnist/train_lenet.sh

我的渣渣电脑，CPU训练，需要1个小时45分钟，伤不起