matlab实现简单BP神经网络（不使用工具箱），两种求误差方式

BP网络实现y=1+x+x*x函数模拟，输入层一个节点，隐含层8个节点，输出层1个节点

将数据分为测试集合和训练集合两部分

%% BP算法模拟 y = 1 + x + x*x
%作者：msl 时间：2017-10-07
clc;
clear;
%% step0:定义
TrainCount = 1000;%最大训练次数为2000次
DataNum = 1001;%训练的数据有1001个
Hide_Out = zeros(1,8);%初始化隐含层输出
Hide_OutTest = zeros(1,8);
Rata_H = 0.2;%隐含层学习速率
Rata_O = 0.1;%输出层学习速率
%% step1：取数据
x = -5:0.01:6;%x的训练数据
y = 1 + x + x.*x;%y对应于x的数据
%% step2:训练数据归一化和初始化权值
x_Nor = (x -(-5) + 1)/(5 - (-5) + 1);%x归一化后得到的数据
y_Nor = (y - 0.75 + 1)/(31 - 0.75 + 1);%y归一化后得到的数据
w = 2*(rand(1,8)-0.5);%得到输入层到隐含层的8个权值初始化
v = 2*(rand(1,8)-0.5);%得到隐含层到输出层的8个权值初始化
dw = zeros(1,8);%隐含层权值调整量初始化 0
dv = zeros(1,8);%输出层权值调整量初始化 0
%% CH 建立训练集和测试集
xNum=length(x);
Itest=1:11:xNum;
Xtest_Nor=x_Nor(Itest);
Ytest_Nor=y_Nor(Itest);

Xtrain_Nor=x_Nor;
Ytrain_Nor=y_Nor;
Xtrain_Nor(Itest)=[];
Ytrain_Nor(Itest)=[];

%% step3:训练神经网络
Count = 0;%循环次数计数器
e2 = 0;
while(1)
%% 主体循环
for i = 1:1000
e1 = 0;
%% 前向传播
for j = 1:8
sum1 = w(j)*Xtrain_Nor(i);%隐含层输入
Hide_Out(j) = 1/(1 + exp(-1*sum1)); %隐含层输出
end
sum2 = 0;
for k = 1:8
sum2 = sum2 + v(k)*Hide_Out(k);%输出层输入
end
OutputData = sum2;%输出层输出

e1 = e1 + abs(OutputData - Ytrain_Nor(i));
%% 反向更新
for s = 1:8
alfa = 0;
alfa = alfa + (Ytrain_Nor(i) - OutputData) * v(s);
dv(s) = Rata_O * (Ytrain_Nor(i) - OutputData) * Hide_Out(s);%更新输出层权值
v(s) = v(s) + dv(s);

dw(s) = Rata_H * alfa * Hide_Out(s) * (1 - Hide_Out(s))*Xtrain_Nor(i);%更新隐含层权值
w(s) = v(s) + dw(s);
end
end
%%CH 计算训练集误差 START
e11 = e1 / 1000;%测试样本的平均误差
myErr1(Count+1)=e11;
%%CH 计算训练集误差 END

%% 计算测试集
%%% CH STRAT
e2=0;
%%% CH END
for p = 1:100
for l = 1:8
sum3 = w(l)* Xtest_Nor(p);%测试的隐含层输入
Hide_OutTest(l) = 1/(1 + exp(-1*sum3));%测试的隐含层输出
end
sum4 = 0;
for m = 1:8
sum4 = sum4 + v(m)*Hide_OutTest(m);%测试的输出层输入
end

4000
OutputData_Test = sum4;%输出层输出
e2 = e2 + abs(OutputData_Test - Ytest_Nor(p));
end
%%CH 计算测试集误差 STRAT
e12 = e2 / 100;%测试样本的平均误差
myErr2(Count+1)=e12;
%%CH 计算测试集误差 END
%%
Count = Count + 1;%训练次数

%% 作图
figure(1);
hold on
plot(Count,e11,'r',Count,e12,'b');
hold off

if(Count >TrainCount || e12 < 0.0001)%如果训练次数大于最大训练次数或者误差小于目标值，则退出训练
break;
end
end

%plot(myErr,'r');
%stop = 1;%进入测试
%% step4:测试神经网络(输入-5到5之间数据)
% while(stop)
% n = input('请输入数据n =\n');
% A = [];%存储测试结果
%
% fprintf('计算的结果为：%lf\n',A);
% stop = input('\n输入1继续测试，输入0退出测试 stop =\n ');
% end
% fprintf('程序运行结束\n');







第一种蓝色的误差曲线是将测试集合100个数据的输出值减去期望再除以100得到的

第二种是训练集合的全局误差 采用 e = e + | Output - y |（e为误差，Output为测试集输出，y为对应的期望输出）