神经网络学习笔记(一)感知器神经网络
2014-12-30 16:06
218 查看
感知器(Perceptron)是由美国科学家F.Rosenblatt于1957年提出的,是一种模仿生物感知机制,用于模式识别的简单神经网络。感知器模型如图1.
图1. 单个感知器模型
感知器的传递函数为
单个感知器的运算关系为
a=hardlim(wp+b)
若令权重向量为:
则样本x对应的实际输出为
其中d为样本空间的维数。
感知器学习算法:两分类问题
(k=1,2,…,n)分别属于+类和—类,感知器学习的目的在于寻找到合适的W使得感知器能够对样本进行正确的分类。
(1) 初始化:k=1,j=0, W赋予较小的随机值,给c赋值(学习速率);
(2) 输入训练样本;
(3) 计算 ;
(4) 修正权值向量,修正规则为:
其中为期望输出,为实际输出。(新的权重值为旧的加上误差值乘以输入,思想很简单。即用误差调整w和b,显然误差为0,就无调整。不为0,就朝着使误差减小的方向调整,即负反馈的思想。)
(期望输出为1,结果输出了0,所以误差为1)
(期望输出为0,结果输出了1,所以误差为-1)
其他情况W(j+1)=W(j);
(5) j=j+1;k=j-j/n*n+1(k=1,2,…,n往复循环),返回(2),直到W对所有的训练样本均稳定不变结束。
自己就先看了这点,还没有去实现。
图1. 单个感知器模型
感知器的传递函数为
单个感知器的运算关系为
a=hardlim(wp+b)
若令权重向量为:
则样本x对应的实际输出为
其中d为样本空间的维数。
感知器学习算法:两分类问题
(k=1,2,…,n)分别属于+类和—类,感知器学习的目的在于寻找到合适的W使得感知器能够对样本进行正确的分类。
(1) 初始化:k=1,j=0, W赋予较小的随机值,给c赋值(学习速率);
(2) 输入训练样本;
(3) 计算 ;
(4) 修正权值向量,修正规则为:
其中为期望输出,为实际输出。(新的权重值为旧的加上误差值乘以输入,思想很简单。即用误差调整w和b,显然误差为0,就无调整。不为0,就朝着使误差减小的方向调整,即负反馈的思想。)
(期望输出为1,结果输出了0,所以误差为1)
(期望输出为0,结果输出了1,所以误差为-1)
其他情况W(j+1)=W(j);
(5) j=j+1;k=j-j/n*n+1(k=1,2,…,n往复循环),返回(2),直到W对所有的训练样本均稳定不变结束。
自己就先看了这点,还没有去实现。
相关文章推荐
- 【摘要与笔记1】-单层感知器,两层神经网络与深度学习
- MATLAB神经网络学习笔记之:感知器网络实现‘或’门
- MATLAB神经网络学习笔记之:利用learnp函数对感知器网络实现‘或’门
- 神经网络学习笔记 - lecture3:The backpropagation learning proccedure
- UFLDL 教程学习笔记(一)神经网络
- 【神经网络学习笔记】BP神经网络-语音特征信号分类
- Coursera公开课笔记: 斯坦福大学机器学习第九课“神经网络的学习(Neural Networks: Learning)”
- 【神经网络学习笔记】遗传算法优化BP神经网络-非线性函数拟合
- Coursera公开课笔记: 斯坦福大学机器学习第九课“神经网络的学习(Neural Networks: Learning)”
- 斯坦福机器学习-week4 学习笔记——初识神经网络
- 【神经网络学习笔记】语音识别-matlab语音信号预处理
- 机器学习--学习笔记(三)--神经网络
- 【神经网络学习笔记】基于离散Hopfield神经网络的数字识别
- Deep Learning 学习笔记(6):神经网络( Neural Network )
- 【神经网络学习笔记】非线性函数拟合
- 神经网络学习笔记_1(BP网络分类双螺旋线)
- 神经网络学习笔记_1(BP网络分类双螺旋线) 作者:tornadomeet 出处:http://www.cnblogs.com/tornadomeet
- 人工神经网络学习笔记_各个参数的确定
- 人工神经网络学习笔记_Hamming网络_竞争网络
- 【神经网络学习笔记】粒子群算法和遗传算法比较