深度学习Matlab工具箱代码注释——cnntrain.m

%%=========================================================================
%函数名称：cnntrain（）
%输入参数：net，神经网络；x，训练数据矩阵；y，训练数据的标签矩阵；opts，神经网络的相关训练参数
%输出参数：net，训练完成的卷积神经网络
%算法流程：1）将样本打乱，随机选择进行训练；
%         2）取出样本，通过cnnff2（）函数计算当前网络权值和网络输入下网络的输出
%         3）通过BP算法计算误差对网络权值的导数
%         4）得到误差对权值的导数后，就通过权值更新方法去更新权值
%注意事项：1）使用BP算法计算梯度
%%=========================================================================
function net = cnntrain(net, x, y, opts)
m = size(x, 3);                      %m保存的是训练样本个数
disp(['样本总个数=' num2str(m)]);
numbatches = m / opts.batchsize;     %numbatches表示每次迭代中所选取的训练样本数
if rem(numbatches, 1) ~= 0           %如果numbatches不是整数，则程序发生错误
    error('numbatches not integer');
end

%%=====================================================================
%主要功能：CNN网络的迭代训练
%实现步骤：1）通过randperm（）函数将原来的样本顺序打乱，再挑出一些样本来进行训练
%         2）取出样本，通过cnnff2（）函数计算当前网络权值和网络输入下网络的输出
%         3）通过BP算法计算误差对网络权值的导数
%         4）得到误差对权值的导数后，就通过权值更新方法去更新权值
%注意事项：1）P = randperm(N),返回[1, N]之间所有整数的一个随机的序列，相当于把原来的样本排列打乱，
%            再挑出一些样本来训练
%         2）采用累积误差的计算方式来评估当前网络性能，即当前误差 = 以前误差 * 0.99 + 本次误差 * 0.01
%            使得网络尽可能收敛到全局最优
%%=====================================================================
net.rL = [];                         %代价函数值，也就是误差值
for i = 1 : opts.numepochs           %对于每次迭代
    disp(['epoch ' num2str(i) '/' num2str(opts.numepochs)]);
    tic;                             %使用tic和toc来统计程序运行时间
    
    %%%%%%%%%%%%%%%%%%%%取出打乱顺序后的batchsize个样本和对应的标签 %%%%%%%%%%%%%%%%%%%%
    kk = randperm(m);               
    for l = 1 : numbatches
        batch_x = x(:, :, kk((l - 1) * opts.batchsize + 1 : l * opts.batchsize));
        batch_y = y(:,    kk((l - 1) * opts.batchsize + 1 : l * opts.batchsize));
        
        %%%%%%%%%%%%%%%%%%%%在当前的网络权值和网络输入下计算网络的输出(特征向量)%%%%%%%%%%%%%%%%%%%%
        net = cnnff(net, batch_x); %卷积神经网络的前馈运算
        
        %%%%%%%%%%%%%%%%%%%%通过对应的样本标签用bp算法来得到误差对网络权值的导数%%%%%%%%%%%%%%%%%%%%
        net = cnnbp(net, batch_y); %卷积神经网络的BP算法
        
        %%%%%%%%%%%%%%%%%%%%通过权值更新方法去更新权值%%%%%%%%%%%%%%%%%%%%
        net = cnnapplygrads(net, opts);
        
        if isempty(net.rL)
            net.rL(1) = net.L;     %代价函数值，也就是均方误差值 ，在cnnbp.m中计算初始值 net.L = 1/2* sum(net.e(:) .^ 2) / size(net.e, 2);       
        end
        net.rL(end + 1) = 0.99 * net.rL(end) + 0.01 * net.L; %采用累积的方式计算累积误差
    end
    toc;
end
end