MIT 18.06 线性代数公开课笔记 Lecture10 四个基本子空间

本节要讲述联系列空间和行空间的重要结论.

• 列空间 C(A)C(A)C(A) in Rm\R^mRm

• 零空间 N(A)N(A)N(A) in Rn\R^nRn

• 行空间, AAA 的所有行的线性组合, 也就是 ATA^TAT 的列空间 C(AT)C(A^T)C(AT) in Rn\R^nRn

• ATA^TAT 的零空间 N(AT)N(A^T)N(AT) in Rm\R^mRm , 通常称作 AAA 的左零空间(left null space)

当 AAA 是 n×mn\times mn×m 时, 这四个空间在哪里呢? 画个草图:

这四个子空间的基是什么? 维数是多少?

C(A)C(A)C(A)

列空间的维数就是 rrr , 我们上节课讨论过, 并且列空间的一组基就是 AAA 的主列.

C(AT)C(A^T)C(AT)

行空间的维数也是 rrr , 行空间与列空间维数相同. 要找它的基, 我们举个栗子:
A=[123111211231]→[101101100000]=[Ir×rF00]=R A=\begin{bmatrix}1&2&3&1\\1&1&2&1\\1&2&3&1\end{bmatrix}\rightarrow\begin{bmatrix}1&0&1&1\\0&1&1&0\\0&0&0&0\end{bmatrix}=\begin{bmatrix}I_{r\times r}&F\\0&0\end{bmatrix}=R A=⎣⎡​111​212​323​111​⎦⎤​→⎣⎡​100​010​110​100​⎦⎤​=[Ir×r​0​F0​]=R
注意通过行变换后, 行空间并没有发生变化, 因为行变换就是行的线性组合, 但是列空间发生了变化, 比如 [111]\begin{bmatrix} 1\\1\\1 \end{bmatrix}⎣⎡​111​⎦⎤​ 在 C(A)C(A)C(A) 中但显然不在 C(R)C(R)C(R) 中. C(AT)C(A^T)C(AT) 的一组基就是 RRR 的前 rrr 行. 注意不一定是 AAA 的前 rrr 行.

N(A)N(A)N(A)

零空间的维数是 n−rn-rn−r , 每一个自由变量都可以产生一个特解. 这些特解组成了一组基. 行空间和零空间维数之和恰好是 nnn .

N(AT)N(A^T)N(AT)

左零空间的维数是 m−rm-rm−r , 并且左零空间和零空间维数之和恰好是 mmm .

为什么 N(AT)N(A^T)N(AT) 被称作左零空间? 如果 ATy=0A^T\mathbf{y}=\mathbf{0}ATy=0 , 那么 y\mathbf{y}y 就在 N(AT)N(A^T)N(AT) 中. 转置方程两边, 得到 yTA=0T\mathbf{y^T}A=\mathbf{0^T}yTA=0T , 得到 yT\mathbf{y^T}yT 左乘 AAA , 所以叫左零空间.

举个栗子来求左零空间的基.

我们想知道乘以一个什么矩阵可以让 AAA 变成 RRR . 我们还是使用Gauss-Jordan消元法:
E[Am×nIm×m]→[Rm×nEm×m]EA=R E\begin{bmatrix}A_{m\times n}&I_{m\times m}\end{bmatrix}\rightarrow\begin{bmatrix}R_{m\times n}&E_{m\times m}\end{bmatrix}\\[2ex]EA=R E[Am×n​​Im×m​​]→[Rm×n​​Em×m​​]EA=R
左零空间, 就是寻找得到零行向量的行组合, 对于上面的例子, 我们可以得到 EEE :
[123110011210101231001]⟶[1011−12001101−100000−101] \left[\begin{array}{cccc:ccc}1&2&3&1&1&0&0\\1&1&2&1&0&1&0\\1&2&3&1&0&0&1\end{array}\right]\longrightarrow \left[\begin{array}{cccc:ccc}1&0&1&1&-1&2&0\\0&1&1&0&1&-1&0\\0&0&0&0&-1&0&1\end{array}\right] ⎣⎡​111​212​323​111​100​010​001​⎦⎤​⟶⎣⎡​100​010​110​100​−11−1​2−10​001​⎦⎤​
对得到的 EEE , 我们可以发现由于 RRR 的最后一行是 0\mathbf{0}0 , 所以 EEE 的最后一行就是 AAA 行向量的一种产生零向量的线性组合.

当然也可以用矩阵乘法的基于行向量的方法, EA=REA=REA=R 产生了 RRR 中 m−rm-rm−r 个零行, 这些行都在最下面, 所以 EEE 最下面 m−rm-rm−r 行就是 N(AT)N(A^T)N(AT) 的一组基:
[−1201−10−101][123111211231]=[101101100000] \begin{bmatrix}-1&2&0\\1&-1&0\\\color{red}-1&\color{red}0&\color{red}1\end{bmatrix}\begin{bmatrix}1&2&3&1\\1&1&2&1\\1&2&3&1\end{bmatrix}=\begin{bmatrix}1&0&1&1\\0&1&1&0\\\color{red}0&\color{red}0&\color{red}0&\color{red}0\end{bmatrix} ⎣⎡​−11−1​2−10​001​⎦⎤​⎣⎡​111​212​323​111​⎦⎤​=⎣⎡​100​010​110​100​⎦⎤​

一种新的向量空间: 所有 3×33\times 33×3 矩阵

这次我们把矩阵看做"向量". 这种思想也就是把 RnR^nRn 的概念延伸至 Rn×nR^{n\times n}Rn×n .

向量空间的8条运算律对于矩阵都可以满足. 这个新的向量空间的子空间有哪些呢? 上三角矩阵, 下三角矩阵, 对称矩阵, 都是其子空间. 其中上三角矩阵和下三角矩阵的交集是对角矩阵.

想找到这些子空间的维数, 要先找到一组基. 对角矩阵的维数是3, 它的一组基是:
[100000000],[000010000],[000000001] \begin{bmatrix}1&0&0\\0&0&0\\0&0&0\end{bmatrix},\begin{bmatrix}0&0&0\\0&1&0\\0&0&0\end{bmatrix},\begin{bmatrix}0&0&0\\0&0&0\\0&0&1\end{bmatrix} ⎣⎡​100​000​000​⎦⎤​,⎣⎡​000​010​000​⎦⎤​,⎣⎡​000​000​001​⎦⎤​
预知后事如何, 请听下回分解.