数学之路(3)-机器学习(3)-机器学习算法-神经网络[21]

针对上节的风景图片分类，我们也可以使用多层感知器的神经网络

我们将样本图片分块提取特征，然后这些特征做为样本所属类的输入，训练的输出目标我们使用下面的矩阵来表示

[0,0,1]
[0,1,0]
[1,0,0]
第一行表示第一类，以此类推，最后一行表示最后一类

本博客所有内容是原创，如果转载请注明来源

http://blog.csdn.net/myhaspl/

整理输入样本与输出目标的代码如下：

#x和d样本初始化
train_x =[]
d=[]
sp_d=[]
sp_d.append([0,0,1])
sp_d.append([0,1,0])
sp_d.append([1,0,0])
#读取图片
for ii in xrange(1,4):
for jj in xrange(1,3):
fn='p'+str(ii)+'-'+str(jj)+'.jpg'
pictz=readpic(fn)
train_x.append(pictz)
d.append(sp_d[ii-1])

myinput=np.array(train_x)
mytarget=np.array(d)
mymax=np.max(myinput)

训练完成，我们用样本和未知图片进行测试

print u'\n训练神经网络完毕'
pl.subplot(111)
pl.plot(err)
pl.xlabel('Epoch number')
pl.ylabel('error (default SSE)')
print u"对样本进行测试"
simd= bpnet.sim(myinput)
mysimd=getresult(simd)
print mysimd
print u"进行仿真"
testpictz=np.array([readpic('ptest1.jpg')])
simtest=bpnet.sim(testpictz)
mysimtest=getresult(simtest)
print mysimtest
testpictz=np.array([readpic('ptest2.jpg')])
simtest=bpnet.sim(testpictz)
mysimtest=getresult(simtest)
print mysimtest
testpictz=np.array([readpic('ptest3.jpg')])
simtest=bpnet.sim(testpictz)
mysimtest=getresult(simtest)
print mysimtest
pl.show()

另外，为了保证神经网络的泛化性,我们将训练的目标误差率设得较高，为0.2，另外对仿真输出结果通过一个函数运算得出最终的输出结果，这个函数的功能就是取输出矩阵的3个元素最大值，输出最大值所在的位置，因为仿真输出结果数组索引以0为起点，所以将其加上1后即为图片属于的类型。

def getresult(simjg):
jg=[]
for j in xrange(0,len(simjg)):
maxjg=-2
nowii=0
for i in xrange(0,len(simjg[0])):
if simjg[j][i]>maxjg:
maxjg=simjg[j][i]
nowii=i
jg.append(len(simjg[0])-nowii)
return jg

泛化性指对一个映射给出一定的必要的训练样本训练后，网络能否对样本以外的样本给出较为准确的预测，泛化能力也就是神经网络用于对未知数据预测的能力。

运行后，效果不错，泛化能力也不错。

>>> runfile(r'I:\book_prog\ann_bppicsb1.py', wdir=r'I:\book_prog')
http://blog.csdn.net/myhaspl
myhaspl@qq.com

正在处理中

正在建立神经网络

训练神经网络中...

Epoch: 5; Error: 1.0814420868;

Epoch: 10; Error: 0.441414239355;

Epoch: 15; Error: 0.282786951037;

Epoch: 20; Error: 0.265960631109;

Epoch: 25; Error: 0.264202738281;

Epoch: 30; Error: 0.2235438277;

The goal of learning is reached

训练神经网络完毕

对样本进行测试

[1, 1, 2, 2, 3, 3]

进行仿真

===ptest1.jpg===

[[-0.49165957  0.23890683  0.98145658]]

[1]

===ptest2.jpg===

[[ 0.6871799   0.97719221  0.63006021]]

[2]

===ptest3.jpg===

[[ 0.76380555  0.35239096  0.44558729]]

[3]

>>> 

下面是该 神经网络的误差训练效果，我们调用了第三方的纯python神经网络库来实现，每个样本的输入项有600个元素，训练速度较慢，但训练过程的误差下降比较平滑。