齐次方程的解： 主变量 特解 RREF的IF分块 零空间矩阵(Lec7)

1. 主变量（pivot variable）与主列(pivot column)

Def 主列：做了高斯消元法后得到REF（row echelon from，行阶梯形）后，主元（piviot）所在的列即主列
Def 主变量：主列所对应的变量即主变量
Def 自由变量：不是主变量的变量即自由变量
Expl.
\begin{bmatrix}1 & 2 & 2 & 2 \\ 2 & 4 & 6 &8 \\ 3 & 6 & 8  &10 \end{bmatrix}\begin{bmatrix}x_{1}\\ x_{2}\\ x_{3}\\ x_{4}\end{bmatrix}=0

对A做高斯消元，得到矩阵U：
\begin{bmatrix}1 & 2 &2  &2 \\ 0&  0&  2&4 \\ 0&  0& 0 & 0\end{bmatrix}
主列第一列和第三列，主变量为x1和x3，自由变量为x2和x4

2. 特解（“Special solution”）

Def 特解：本只是指特殊的解，也就是具体的一些解；此定义为对自由变量（x2，x4）赋特殊值后，再回代解出x1, x3所得到的解
Expl.
Ux=0可写成：
\left\{\begin{matrix}x_1+2x_2+2x_3+2x_4=0\\ 2x_3+4x_4=0\end{matrix}\right.

令x2 = 1, x4 = 0，得到 x=(-2,1,0,0); 令x2 = 0, x4 = 1,得到 x =(2,0,-2,1)

两个解都是Ax=0或者Ux=0的特解，而且对自由变量赋了恰当的值使得两个特解线性无关
而只要对这两个解取线性组合，即得到Ax=0的整个解空间（零空间）：

结论：Ax=0的所有特解的所有线性组合，即矩阵A的零空间N(A)、Ax=0的解空间
自由变量个数对应一种特解（实际是由特解组成的零空间的某一个基向量），主变量个数对应矩阵的秩r
对于m*n矩阵，若秩为r，则其主列、主变量个数也为r；自由列、自由变量个数为n-r

3. RREF（行最简阶梯形）的分块、解零矩阵N

RREF的分块
将REF形矩阵继续进行若尔当消元得到RREF形矩阵，记作R；
R可分解为一块单位矩阵I，和一块由自由列构成的矩阵F，以及一系列的零矩阵O，i.e.
{\R = \begin{bmatrix}I &F \\ O &O \end{bmatrix}}
具有以下结论：

若m*n矩阵A的秩为r，则R有r个piviot rows（主行），r个piviot column（主列）
RREF里的单位矩阵I也对应有r行r列

F有n-r列（未知数个数-主列数）
//相应的，Rx=0的解x（特解的所有线性组合），正好也是零空间矩阵N的列所生成的空间（零空间矩阵的列都是特解，也即N的列空间），N的形式应该为：
\begin{bmatrix}-F\\ I\end{bmatrix}

零空间矩阵（Null space matrix）N
def：矩阵N的列都是Ax=0的特解，而且满足RN=0。零空间矩阵N的列空间（特解组成零基）刚好也是Ax=0的零空间
也就是说N的基是Ax=0的线性无关的一组特解，每个特解（n-r个）都由对自由变量（n-r个）的赋值产生，对应某个自由变量。N的基成为零基（刚好也是零空间的基）
（实际上在上面提到了一次零空间矩阵，这里这是重复了一遍。）

由上面知R=[I F; O O]，则N应为：
N = \begin{bmatrix}-F\\ I\end{bmatrix}
才能满足上面的式子。

Matlab求解Ax=0的特解的algorithm：

求A的rref形式R
找R中的主变量和自由变量（实际是写成[I F]形式）
对自由变量赋值（赋合适的0和1），再通过回代求得主变量的值（解），从而得到一组线性无关的特解
这组特解即组装成零空间矩阵N
上述所提的情况下Matlab中的“回代求主变量的解”，原理上是指:
RN = \begin{bmatrix}-F\\ I\end{bmatrix}\begin{bmatrix}x_{piviot}\\ x_{free}\end{bmatrix}
其中x_{piviot}是主变量们，x_{free}是自由变量们
用矩阵乘法展开上面的矩阵可求得x_{piviot}：
x_{piviot}=x_{free}F
从而求得在某种对自由变量们的赋值情况下，对应的主变量的值，从而得到一个特解

expl.
某矩阵A（实际是前面的A的转置）：
\begin{bmatrix}1 & 2 & 3  \\ 2 & 4 & 6\\ 2 & 6 & 8\\  2& 8& 10 \end{bmatrix}

求Ax=0（也即求A对应的零空间矩阵N）
Sol
A化为REF形式U：
\begin{bmatrix}1 & 2 & 3  \\ 0 & 2 & 2\\ 0 & 0 & 0\\  0& 0& 0 \end{bmatrix}

其有两个主列（第一、二列），有n-r=3-2=1个自由列，也即零空间N将会只有1列，刚好就是x的一个特解
令自由变量x3=1，得到一个特解：x=(-1,-1,1)
特解x乘以任意常数c，得到Ax=0的通解，c(-1,-1,1)就是A的零空间，A对应的零空间矩阵就是
\begin{bmatrix}-1  \\ -1\\ 1\end{bmatrix}

Remark:实际上矩阵的转置不改变秩/主列数量/主变量数

对U继续消元得到rref形R：
\begin{bmatrix}1 & 0 & 1  \\ 0 & 1 & 1\\ 0 & 0 & 0\\  0& 0& 0 \end{bmatrix}

恰好看到左上角为单位矩阵I，右上角就是F，下面是零矩阵
对照一下N = \begin{bmatrix}-F\\ I\end{bmatrix} = \begin{bmatrix}-1  \\ -1\\ 1\end{bmatrix}
刚好就是F=(1,1)，I=1