PCA学习笔记
2011-03-19 00:52
211 查看
常常看到论文的标题里带有矩阵分解的方法，最常见的有四个PCA, SVD, LDA和NMF。之前看论文内容一看到矩阵公式基本就不看，水平有限，短期内啃也啃不动。看来该学的还是绕不出去，只能慢慢补上了… 很早就听说主成分分析这个名词了，看到一个人写的博文，写得通俗易懂，一看就能明白 http://www.pinkyway.info/2010/08/31/covariance/ http://www.pinkyway.info/2011/02/24/covariance-pca/ 本来想贴个我的WORD总结，后来发现公式图片太多了，就算了, 基本上可以可以这么认为，PCA就是要让样本矩阵S 的协方差矩阵C上的对角线尽可能大，其余的地方为0。达到降噪和去冗余的目的， 为了达到这个目的，找到一个正交矩阵P，满足：PTCP=L （为啥可以这样，因为线代里有这么条定理：设A为n阶对称阵, 则必有正交阵P, 使P-1AP=PTAP=L, 其中L是以A的n个特征值为对角元的对角矩阵，协方差矩阵是对称的嘛，这个定理也不是一下子就冒出来的，但我也没精力再走一遍了）。 分解出P之后，通过过滤较小的特征值和对应特征向量，得到 S1= S 乘P1 。也就是S进行一个投影，得到一个新的矩阵，这个矩阵具有我们需要的良好性质~~ 很建议去看看两篇博文，讲解得很细致~ 我在baidu hi也写了篇一样的...感觉hi这这里写博客要好用，这个字体怎么改不了的啊？难道不支持chrome？受不了。。。
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- python数据挖掘学习笔记】十.Pandas、Matplotlib、PCA绘图实用代码补充
- 主元分析法PCA学习笔记
- 机器学习算法 -- PCA 学习笔记
- 深度学习入门教程UFLDL学习实验笔记三：主成分分析PCA与白化whitening
- 统计学习精要(The Elements of Statistical Learning)课堂笔记（二十五）：降维和PCA
- 人工智障学习笔记——机器学习(11)PCA降维
- 主成分分析PCA学习笔记
- MatLab建模学习笔记13——主成分分析（PCA）
- 学习笔记一LDA降维与PCA的区别
- Opencv学习笔记-----PCA原理及OpenCV实现
- OpenCV学习笔记（四十八）——PCA算法实现core
- Python scikit-learn 学习笔记—PCA+SVM人脸识别
- Robust PCA 学习笔记
- Andrew机器学习课程笔记（3）—— K均值、SVM、PCA
- PCA学习笔记 python实现
- 主成分分析PCA学习笔记
- 推荐功能学习笔记（二）PCA
- Robust PCA 学习笔记
- 机器学习实战学习笔记5——主成分分析（PCA）
- 降维学习笔记（一）PCA算法