MIT18.06线性代数课程笔记9：线性无关、向量拓展空间、空间的基、空间维度

课程简介

18.06是Gilbert Strang教授在MIT开的线性代数公开课，课程视频以及相关资料请见https://ocw.mit.edu/courses/mathematics/18-06-linear-algebra-spring-2010/index.htm。

课程笔记

1. 线性无关

Strang给出的定义和矩阵以及Ax=0直接相关，如下：

v1,v2,⋯,vl are dependent ⇔∃c1,c2,⋯,cl, such that c1v1+c2v2+⋯+clvl=0, where [c1,c2,⋯,cl]T≠0。Otherwise, v1,v2,⋯,vl are independent

简单的说就是存在v1,v2,⋯,vl的某种非全零系数线性组合为零向量。

这个定义和Ax=0直接相关，即∃c≠0,[v1,v2,⋯,vl]c=0，其中[v1,v2,⋯,vl]共同组成n×l维矩阵A。所以向量线性无关等价于Ax=0不存在非零解，即null space维度为0，即r(A)==l。

笔者之前使用的线性相关定义如下：v1,v2,⋯,vl are dependent ⇔∃c1,c2,⋯,cl−1, such that c1v1+c2v2+⋯+cl−1vl−1=vl。其中vl的选取是任意的，即某一向量可以表示为其他向量的线性组合，那么所有向量线性相关。否则线性无关。两个定义明显是等价的，之间只差了一个cl的系数。

注意零向量的特殊性，零向量可以表示为任意向量的线性组合，所以包含零向量的size大于1的向量集合都是线性相关的。

从r(A)==l的限制还可以得到n≥l，以及A存在左逆元。即v1,v2,⋯,vl are independent ⇔r(A)==l⇔∃A−1,A−1A=I⇒n≥l。（关于秩的部分请参考 MIT18.06线性代数课程笔记8：求解Ax=b、矩阵的秩以及矩阵的逆）

2. span of vector

这个定义非常简单，即包含该向量的最小向量空间。其实就是A的column space。

具体地，任意空间S满足v1,v2,⋯,vl∈S，就有Ax∈S，即C(A)⊂S，其中An×l=[v1,v2,⋯,vl]。 而由MIT18.06线性代数课程笔记6：vector space，subspace，column space，null space可知C(A)是向量空间，所以C(A)即为span of vector，即span of v1,v2,⋯,vl is c1v1+c2v2+⋯+clvl for all c1,c2,⋯,cl∈R。

3. 空间的基

给定向量空间S，S的基可以有很多个。具体定义为满足span是S的线性无关向量集合。

span是S控制了集合大小的下界，线性无关控制了集合大小的上界。

举个例子：In的列向量集合即为Rn的基。容易证明∀x∈Rn,Ix=x，即x∈C(I)。同时r(I)==n⇒ I 的列向量之间线性无关。

因为基向量线性无关，所以其组成的矩阵A具有所有线性无关可以导出的性质，例如A存在左逆元。更进一步，可以推出若A存在左逆元，那么其列向量集合是C(A)的基。

一个空间可以有无数组基。具体地，任意左可逆方阵B，都满足C(BA)==C(A)。因为∀x,∃y,BAy=Ax，其中y=A−1B−1Ax。而左可逆方阵很容易得到，只需要l个线性无关的l维向量。而l维线性无关可以有无穷多个是易证的，例如假设之前l−1个线性无关向量是v1,v2,⋯,vl−1，那么最后一个l维线性无关向量可以为任意向量满足v∈Rl−C([v1,v2,⋯,vl−1])。

4. 空间维度

空间的基的个数即为空间维度。如上所述，一个空间的基可以有很多组，而空间维度是个固定的整数。这是因为一个空间的所有基都具有相同的向量数。证明如下：

回顾基的定义：满足span是S的线性无关向量集合。其中span是S限制了集合大小的下界，而线性无关则限制了集合大小的上界。具体地，假设S=C(An×m)，where r(A)==m。那么S的维度即为m。

假设存在数量小于m的向量集合Bn×k,k<m满足span是S。则有∃C,B=AC, since B∈C(A)。并且有∀x,∃y,By=Ax(since C(B)=C(A))⇒ACy=Ax⇒Cy=x(since A is invertible)，而Cm×k有r(C)≤k<m，所以不能满足对任意x都有解，即C(C)≠Rm。综上假设不成立，即不存在数量小于m的向量集合满足span是S。

假设存在数量大于m的线性无关向量集合Bn×k,k>m满足∀bi,∃ci,bi=Aci（即bi∈C(A)），且∄d≠0,Bd=0。由上诉条件可以推出∄d≠0,ACd=0，其中C是m×k的矩阵，且m<k。因为r(C)≤m<k，所以∃d≠0,Cd=0⇒∃d≠0,ACd=0。推出矛盾，综上假设不成立，即不存在数量大于m的位于C(A)内部线性无关的向量集合。

因为两者确定的上界和下界都是m，所以得证任意基的向量数为m，并定义其为向量维度。