PCA等降维操作与深度学习的不同点的一些思考

深度学习的本质上是将数据从低维空间映射到高维空间，但是并不仅仅有这个作用，拿全连接层举例，假设输入数据500维，可以映射到1000维做一个升维操作，也可以降维到256维，但往往经过一个完整的神经网络后，可以将数据映射到高维空间，这样做的目的就是让数据变得线性可分。因为线性分类器是非常简单的分类器，这样数据映射到高维空间后就能较为容易的分开。其他SVM、核方法、等等也有类似的基本思想。

但是在早期机器学习的研究中涉及到很多降维的方法，例如PCA、CCA、LDA等等，这些降维操作目的是从高维数据中选取较为重要的几个维度作为新的特征维度，这样做的好处是可以去除噪声。但是这样看来好像与深度学习等方法的方向完全相反。

其实方法确实不同，但是应用场景不同，早期机器学习的研究过程中，数据量很小，并且还在高维空间，这样就会有很多的噪声冗余成分，这时候就需要做降维操作。但是现在应用深度学习可以拥有足够大的数据量，这样可以将数据映射到高维空间使之变的线性可分，运用到高维空间中线性分类器的优势。

仅为本人的一点思考，欢迎讨论。