非负矩阵分解(NMF,Nonnegtive Matrix Factorization)

转载地址：http://blog.csdn.net/waycaiqi/article/details/11734735

早在1999年，著名的科学杂志《Nature》刊登了两位科学家D.D.Lee和H.S.Seung对数学中非负矩阵研究的突出成果。其文章为《Learning the parts of objects by non-negative matrix factorization》。关于矩阵的分解有很多种方法，各种方法无非便是加入各种约束各种条条框框，最后生成一对矩阵相乘的形式来近似表达源矩阵。但在不同的约束下生成的分解矩阵有着不同的性质。下面将在此论文的基础上对NMf进行介绍。

1、基本概念：

给出非负矩阵分解定义为：找到非负矩阵

与

使得

。在计算中等式两者很难完全相等。在计算中往往是根据某更新法则迭代更新出两个乘子，当上式左右两端的距离（如欧式距离）满足我们设定的大小，停止迭代。

2、不同矩阵分解方法的对比：

上述的论文中，将主元分析PCA，矢量量化VQ与非负矩阵分解NMF进行对比。三种分解方式有着一个统一地表达形式：



。文中将在一个关于人脸图像处理的实验下阐述这三个方法。数据描述：矩阵

是一个

脸部数据矩阵。其中，每一列是一个有n个数据的脸部数据，一共有m个这样的脸部数据构成脸部数据矩阵

。

如上式，将人脸图像分解为一个基图像

与一个权重矩阵

。

转载地址：http://blog.csdn.net/waycaiqi/article/details/11734735