经典人脸识别算法小结——EigenFace, FisherFace & LBPH（下）

该文章由下面两部分组成：
1).经典人脸识别算法小结——EigenFace, FisherFace & LBPH（上），这部分介绍人脸开源库，和图片的读取等准备工作。
2).经典人脸识别算法小结——EigenFace, FisherFace & LBPH（下），这部分介绍三种人脸识别算法。
如果对于opencv中的人脸识别API感兴趣，可参看官方的说明：Face Recognition with OpenCV。
1.EigenFaceEigenFace(特征脸)在人脸识别历史上应该是具有里程碑式意义的，其被认为是第一种有效的人脸识别算法。1987年 Sirovich and Kirby 为了减少人脸图像的表示（降维）采用了PCA（主成分分析）的方法，1991年 Matthew Turk和Alex Pentland首次将PCA应用于人脸识别，即将原始图像投影到特征空间，得到一系列降维图像，取其主元表示人脸，因其主元有人脸的形状，估称为“特征脸”。
EigenFace是一种基于统计特征的方法，将人脸图像视为随机向量，并用统计方法辨别不同人脸特征模式。EigenFace的基本思想是，从统计的观点，寻找人脸图像分布的基本元素，即人脸图像样本集协方差矩阵的特征向量，以此近似的表征人脸图像，这些特征向量称为特脸。
下图对特征脸的应用进行了说明。从下图可以看出，一组特征脸基图像（特征脸1~d）组成一个特征脸子空间，任何一幅人脸图象（减去平均人脸后）都可投影到该子空间，得到一个权值向量(§1~d)。计算此向量和训练集中每个人的权值向量之间的欧式距离，取最小距离所对应的人脸图像的身份作为测试人脸图像的身份。而这里所提到的一组特征脸基图像（也就是特征脸，或者叫特征向量），正是利用PCA所求得的协方差矩阵的特征向量。具体可以参考主成分分析（PCA）和线性判别分析（LDA）原理简介。



EigenFace的工作流程如下所示，如果想要更具体的介绍可以参考：特征脸



下面代码是基于opencv的API，利用ORL的数据库来训练模型，并对test图像进行识别。为了更好的理解特征脸，下面也对第一幅图像进行了重建。#include<opencv.hpp>
#include<iostream>
#include<opencv2\face.hpp>

using namespace std;
using namespace cv;
using namespace cv::face;

int main(void)
{
//读取已经生成好的list.txt文件，关于list.txt文件的
//生成请参考：经典人脸识别算法小结——EigenFace, FisherFace & LBPH（上）
string fileName = string("D:/Opencv Picture/Face/list.txt");
ifstream file(fileName.c_str(), ios::in);
if (!file)
{
cout << "Load file ERR!" << '\n';
return -1;
}
string line, path, classLabel;
vector<Mat> images;
vector<int> labels;
char separater = ';';
while (getline(file, line))
{
stringstream line_c(line);
getline(line_c, path, separater);
getline(line_c, classLabel);
if (!path.empty() || !classLabel.empty())
{
Mat image = imread(path, 0);//读取灰度图像
images.push_back(image);
labels.push_back(atoi(classLabel.c_str()));
}
}

if (images.size() < 1 || labels.size() < 1)
{
cout << " File Path ERR!" << '\n';
return -1;
}

//将images中的最后一张图像作为test图像
Mat testImg=images[images.size()-1];
int test_label=labels[labels.size()-1];
images.pop_back();
labels.pop_back();

//训练模型
Ptr<BasicFaceRecognizer> model = createEigenFaceRecognizer();
//model->train(images, labels);
//model->save("model.xml");
model->load("model.xml");//对于已经训练好并保存的模型，可以直接调用

//对testImg进行识别
int predictLabel = model->predict(testImg);
cout << "The test image label is " << predictLabel << '\n';

//显示meanFace
Mat mean = model->getMean();
Mat meanFace = mean.reshape(1, testImg.rows);
Mat meanFace_norm;
if(meanFace.channels()==1)
normalize(meanFace, meanFace_norm, 0, 255, NORM_MINMAX, CV_8UC1);
else if(meanFace.channels()==3)
normalize(meanFace, meanFace_norm, 0, 255, NORM_MINMAX, CV_8UC3);
imshow("meanFace", meanFace_norm);

//显示前10个eigenFace
Mat eigenVectors = model->getEigenVectors();
for (int i = 0; i < min(10, eigenVectors.cols); ++i)
{
Mat eigenFace,eigenFace_norm;
Mat ev = eigenVectors.col(i).clone();
eigenFace = ev.reshape(1, testImg.rows);

if (eigenFace.channels() == 1)
normalize(eigenFace, eigenFace_norm, 0, 255, NORM_MINMAX, CV_8UC1);
else if (eigenFace.channels() == 3)
normalize(eigenFace, eigenFace_norm, 0, 255, NORM_MINMAX, CV_8UC3);

Mat colorFace;
applyColorMap(eigenFace_norm,colorFace,COLORMAP_RAINBOW);//为了方便观察
imshow("eigenFace "+to_string(i), colorFace);
}

//每隔15个eigenVector重建一副图像
imshow("original", images[0]);
for (int num = min(10, eigenVectors.cols); num < min(300, eigenVectors.cols); num+=15)
{
Mat evs = eigenVectors(Range::all(), Range(0, num));//提取eigenVectors的前num列数据
Mat projection = LDA::subspaceProject(evs, mean, images[0].reshape(1,1));//重建第一幅图像
Mat reconstraction = LDA::subspaceReconstruct(evs, mean, projection);

//显示重建的图像
Mat result = reconstraction.reshape(1, testImg.rows);
Mat result_norm;

if (result.channels() == 1)
normalize(result, result_norm, 0, 255, NORM_MINMAX, CV_8UC1);
else if (result.channels() == 3)
normalize(result, result_norm, 0, 255, NORM_MINMAX, CV_8UC3);

imshow("Rec_face " + to_string(num), result_norm);
}

cvWaitKey(0);
return 0;
}平均脸及前10个eigenFaces如下所示。



下面是第一幅图像的原图像，original和每隔15个特征向量进行重建后的效果图。很明显随着引入进来的特征向量越来越多，重建后的效果也越来越接近原图。





2. FisherFaceFisherFace 是一种基于LDA(全称Linear  Discriminant Analysis, 线性判别分析)的人脸识别算法，而LDA是Ronald Fisher于193年提出来的，所以LDA也被称作是Fisher Discriminant Analysis, 也正因为如此，该人脸识别算法被称为FisherFace。
关于LDA可以参考主成分分析（PCA）和线性判别分析（LDA）原理简介。LDA有和PCA相同的地方是，都有利用特征值排序找到主元的过程，但是不同的是PCA求的是协方差矩阵的特征值，而LDA是求的是一个更为复杂的矩阵的特征值（具体如下）。其中需要注意的是在求均值时，和PCA也是有所不同的，LDA对没个类别样本求均值，而PCA是对所有样本数据求均值，得到平均脸。
LDA的降维步骤如下：



如果用一句话来概括LDA的中心思想就是最大化类间距离，最小化类内距离。
由于LDA利用了类成员信息并抽取了一个特征向量集，该特征向量集强调的是不同人脸的差异而不是照明条件、人脸表情和方向的变化。因此，相比EigenFace（和谁比很重要），采用Fisherface方法对人脸进行识别对光照、人脸姿态的变化更不敏感，有助于提高识别效果。
在opencv中的调用类似于前面的EigenFace。只是得到的eigenvectors的维度不同（从400变为39），另外在重建的时候，由于FisherFace只关注各类目标间的不同特征，所有希望重建出原图像是不现实的。
训练模型：Ptr<BasicFaceRecognizer> model = createFisherFaceRecognizer();
//model->train(images, labels);
//model->save("model.xml");
model->load("model.xml");//对于已经训练好并保存的模型，可以直接调用图像重建for (int num =0; num < min(10, eigenVectors.cols); ++num)
{
Mat evs = eigenVectors.col(num);
Mat projection = LDA::subspaceProject(evs, mean, images[0].reshape(1, 1));//重建第一幅图像
Mat reconstraction = LDA::subspaceReconstruct(evs, mean, projection);

//显示重建的图像
Mat result = reconstraction.reshape(1, testImg.rows);
Mat result_norm;

if (result.channels() == 1)
normalize(result, result_norm, 0, 255, NORM_MINMAX, CV_8UC1);
else if (result.channels() == 3)
normalize(result, result_norm, 0, 255, NORM_MINMAX, CV_8UC3);

imshow("Rec_face " + to_string(num), result_norm);
}对于EigenFace 和 FisherFace，这两个方法的性能主要取决于输入数据，如果是左右偏转脑袋，可以容纳15°左右仍然保持较高的识别率，但是上下的偏转相对来说更敏感些。毕竟人脸是三维的，不是简单的旋转就能修复，稍微大一点的偏转最好还是通过3D建模来处理的。如果需要对光照有好的鲁棒性，可以考虑gabor和LBPH。
有分析显示，对于EigenFace和FisherFace，要想达到好的识别效果，每个样本对象至少要采集8副左右的图像。



3. LBPHLBPH是利用局部二值模式直方图的人脸识别算法。关于LBP的原理可以参考：LBP小结：LBP及改进版本的原理和opencv实现源代码。
下面是其计算步骤：



LBP是典型的二值特征描述子，所以相比前面EigenFace和FisherFace，更多的是整数计算，而整数计算的优势是可以通过各种逻辑操作来进行优化，因此效率较高。另外通常光照对图中的物件带来的影响是全局的，也就是说照片中的物体明暗程度，是往同一个方向改变的，可能是变亮或变暗，只是改变的幅度会因为距离光源的远近而有所不同。所以基本上局部相邻(Local)的像素间，受光照影响后数值也许会改变，但相对大小不会改变，因此LBP特征对光照具有比较好的鲁棒性。
LBPH在opencv的API调用如下：//训练模型
Ptr<LBPHFaceRecognizer> model = createLBPHFaceRecognizer();
model->train(images, labels);