K近邻法及手写数字识别系统(二)

         在K近邻法及约会网站预测系统(一)，简单的介绍了K近邻法的定义和三要素，并使用K近邻法实现了简单的约会网站预测系统。本文在此基础上，构建识别数字0~9的手写数字识别系统。

        手写数字识别系统的训练集中每个数字大约有200个样本，一共约2000个数据，测试数据集包括大概900个数据。其中每个数据为32*32的二进制图像矩阵，如下图表示数字0。为了复用前面网站约会系统的分类函数，需要将矩阵转换为1*1024的向量。通过img2vector()函数创建一个1*1024的Numpy数组，循环读取给定文件的前32行，并将每行的前32个字符存入数组，返回数组。

def img2vector(filename):          #将32*32的二进制矩阵转换为1*1024的向量
returnVect = zeros((1,1024))   #构建1*1024数组
fr = open(filename)
for i in range(32):            #读取前32行
lineStr = fr.readline()
for j in range(32):        #读取前32个字符
returnVect[0,32*i+j] = int(lineStr[j])    #存入数组
return returnVect

def handwriterClassTest():            #手写数字识别系统
hwLabels = []                     #存储数据类别
trainingFileList = listdir('trainingDigits')    #给定目录下的所有文件名，需要从os模块导入listdir函数，"trainingDigits":训练数据集的文件夹
m = len(trainingFileList)                       #训练数据集长度
trainingMat = zeros((m,1024))                   #训练数据集的矩阵
for i in range(m):                              #遍历所有数据
fileNameStr = trainingFileList[i]           #获得当前文件，文件名为0_0.txt  第一个0代表数字类别，第二个0代表当前类别的序号
fileStr = fileNameStr.split('.')[0]         #截取文件名  如:0_0.txt ->  0_0
classNumStr = int(fileStr.split('_')[0])    #从文件名获取类别
hwLabels.append(classNumStr)                #将当前类别加入数组
trainingMat[i,:] = img2vector('trainingDigits/%s' % fileNameStr)  #将当前文件中的32*32矩阵转换成1*1024向量
testFileList = listdir('testDigits')            #测试数据集   "testDigits"为测试数据集的文件夹
errorCount = 0.0                                #记录错误数量
mTest = len(testFileList)                       #测试数据集数量
for i in range(mTest):                          #循环遍历测试数据
fileNameStr = testFileList[i]
fileStr = fileNameStr.split('.')[0]
classNumStr = int(fileStr.split('_')[0])
vectorUnderTest = img2vector('testDigits/%s' % fileNameStr)    #这四行代码和上面的训练数据集的处理方法一致
classifierResult = classify0(vectorUnderTest,trainingMat,hwLabels,3)    #使用上一篇中的分类函数进行分类
print('the classify came back with %d,the real answer is:%d' % (classifierResult,classNumStr))   #打印每条数据的实际类别和预测类别
if (classifierResult != classNumStr):       #如果不相等，errorCount加1
errorCount += 1.0
print('the total number of errors is :%d' % errorCount)            #打印错误数
print('the total error rate is:%f' % (errorCount/float(mTest)))    #打印错误率

          可以看出，错误数为11个，错误率约为0.01。

end