正交向量与正交子空间

在前面文章《矩阵的四个基本子空间》中提到：
        一个秩为r，m*n的矩阵A中，其行空间和列空间的维数为r，零空间和左零空间的维数分别为n-r，m-r，并且有行空间与零空间正交，列空间与左零空间正交。

       “掌握上面的这个结论就掌握了线性代数的半壁江山！”，MIT教授如是说。那么什么是正交子空间呢？我们首先从我们熟悉的正交向量说起。

1、正交向量

    我们都知道，如果两个向量x,y正交，则其夹角为90度，可表示为表达式：



注意：x，y的顺序没有区别，即下式也成立：



两个向量正交，可以表示为下图：



由勾股定理可知：



将上式展开得：



我们举例说明：假设两个向量分别为x,y，z=x+y：



其中x，y满足下式：



则向量的长度（即向量的2范数）为：



显然满足勾股定理：

上面的推导，已证明勾股定理，自己可以仔细领会。

2、正交子空间

    定义：两个子空间正交即两个子空间的任意两个向量正交。

    文章开头说到，行空间与零空间正交，列空间与左零空间正交。下面我们来证明行空间与零空间正交，列空间与左零空间正交。

    

行空间与零空间正交的证明    

    在《矩阵的零空间》一文中，我们知道，Ax=0的解就是矩阵的零空间，则：



展开可得：



上式说明，矩阵的每一行向量都与零空间正交，而矩阵的行空间就是其行向量的线性组合，则说明行空间与零空间正交。同理，我们亦可以证明列空间与左零空间正交，在此就不重复了。

原文：http://blog.csdn.net/tengweitw/article/details/41171579
作者：nineheadedbird