MIT 18.06 线性代数公开课笔记 Lecture03 矩阵乘法和逆

矩阵乘法

回顾一下 C=ABC=ABC=AB 中单个元素的求法:
ci,j=(row i of A)⋅(column j of B) c_{i,j}=(\text{row i of }A)\cdot(\text{column j of }B) ci,j​=(row i of A)⋅(column j of B)
矩阵相乘不一定是方阵, Am×nBn×p=Cm×pA_{m\times n}B_{n\times p}=C_{m\times p}Am×n​Bn×p​=Cm×p​ .

让我们用行和列的方式去思考 AB=CAB=CAB=C :

把矩阵 CCC 想成是 ppp 个列向量, AAA 乘 BBB 的第一列得到 CCC 的第一列, 以此类推. 回想一下我们的big picture, 矩阵 AAA 乘一个列向量代表了 AAA 中列向量的线性组合, 也就是说矩阵 CCC 中的每一列都是 AAA 中列向量的线性组合. 这就是矩阵乘法的第二种方法.

而矩阵乘法的第三种方法也就是, 矩阵 CCC 中的每一行都是 BBB 中行向量的线性组合.

矩阵乘法的第四种方法: AB=Sum of (column of A)×(row of B)AB=\text{Sum of }(\text{column of }A)\times(\text{row of }B)AB=Sum of (column of A)×(row of B)

AAA 中的列乘 BBB 中的行将会得到一个 m×pm\times pm×p 矩阵. 这个矩阵中的每一行都是 BBB 中的行的倍数, 每一列都是 AAA 中的列的倍数:
[234][16]=[212318424] \begin{bmatrix}2\\3\\4\end{bmatrix}\begin{bmatrix}1&6\end{bmatrix}=\begin{bmatrix}2&12\\3&18\\4&24\end{bmatrix} ⎣⎡​234​⎦⎤​[1​6​]=⎣⎡​234​121824​⎦⎤​
这个矩阵的行空间(行所有可能的线性组合)是一个直线, 列空间也是一个直线.

矩阵乘法也可以是将矩阵分块, 再对分块之后的矩阵做乘法:
[A1A2A3A4][B1B2B3B4]=[A1B1+A2B3−−−]A B= C \begin{aligned}\begin{bmatrix}A_1&A_2\\A_3&A_4\end{bmatrix}\begin{bmatrix}B_1&B_2\\B_3&B_4\end{bmatrix}&=\begin{bmatrix}A_1B_1+A_2B_3&-\\-&-\end{bmatrix}\\A\qquad\qquad\ B\qquad&=\qquad\qquad\ C\end{aligned} [A1​A3​​A2​A4​​][B1​B3​​B2​B4​​]A B​=[A1​B1​+A2​B3​−​−−​]= C​
对块做乘法和基础的矩阵乘法很相似.

逆矩阵

A−1A=I=AA−1A^{-1}A=I=AA^{-1}A−1A=I=AA−1 if A is invertable or non-singular.

考虑Singular case(奇异矩阵, 也就是不可逆矩阵):
[1326] \begin{bmatrix}1&3\\2&6\end{bmatrix} [12​36​]
其行列式为0. 事实上用 AAA 去乘某个矩阵, 结果中的列都来自 AAA 中的列, 也就是都会是 AAA 中列的倍数, 不可能得到 10\begin{matrix} 1\\0 \end{matrix}10​ .

方阵 AAA 没有逆, 如果存在非零向量 x\mathbf{x}x 使得 Ax=0A\mathbf{x}=\mathbf{0}Ax=0 . 事实上, 我们假设 A−1A^{-1}A−1 存在 Ax=0A\mathbf{x}=\mathbf{0}Ax=0 两边乘上 A−1A^{-1}A−1 , 得到 x=0\mathbf{x}=\mathbf{0}x=0 , 矛盾.

也就是说, 奇异矩阵的列向量可以通过线性组合得到 0\mathbf{0}0 .

考虑可逆矩阵 A=[1327]A=\begin{bmatrix} 1&3\\2&7 \end{bmatrix}A=[12​37​] , 其列向量指向不同的方向, 其组合可以得到任何向量. 如何求其逆矩阵?
[1327][acbd]=[1001]A  A−1   =  I \begin{aligned}\begin{bmatrix}1&3\\2&7\end{bmatrix}\begin{bmatrix}a&c\\b&d\end{bmatrix}&=\begin{bmatrix}1&0\\0&1\end{bmatrix}\\A\ \ \qquad A^{-1}\ \ \ &=\quad\,\ I\end{aligned} [12​37​][ab​cd​]A  A−1   ​=[10​01​]= I​
可以得到方程组 A[ab]=[10]A \begin{bmatrix} a\\b \end{bmatrix}= \begin{bmatrix} 1\\0 \end{bmatrix}A[ab​]=[10​] 和 A[cd]=[01]A \begin{bmatrix} c\\d \end{bmatrix}= \begin{bmatrix} 0\\1 \end{bmatrix}A[cd​]=[01​] . 求 AAA 的逆和解这两个方程组是一回事.

Gauss-Jordan消元法: 一次解出两个方程组, 使用增广矩阵:
[13102701]⟶[131001−21]⟶[107−301−21]AIIA−1 \left[\begin{array}{cc:cc}1&3&1&0\\2&7&0&1\end{array}\right]\longrightarrow\left[\begin{array}{cc:cc}1&3&1&0\\0&1&-2&1\end{array}\right]\longrightarrow\left[\begin{array}{cc:cc}1&0&7&-3\\0&1&-2&1\end{array}\right]\\A\qquad\quad I\qquad\qquad\qquad\qquad\qquad\qquad\qquad\qquad I\qquad\quad A^{-1} [12​37​10​01​]⟶[10​31​1−2​01​]⟶[10​01​7−2​−31​]AIIA−1
为什么我们可以得到 A−1A^{-1}A−1 ? 因为我们对 AAA 和 III 左乘了相同的初等矩阵, 当 AAA 变成 III , 原来的 III 也就变成了 A−1A^{-1}A−1 .