线性代数笔记2:基本子空间的正交性及性质
2018-03-20 17:22
459 查看
基本子空间中有着更加特殊和精确的关系,由此可以引出向量空间的正交性及投影等问题。
AA的每一列是B1B1的列向量的线性组合,因此C(A)⊂C(B1)C(A)⊂C(B1)。
AA的每一列是B2B2的行向量的线性组合,因此C(AT)⊂C(BT2)C(AT)⊂C(B2T)。
B1B1是列满秩,则存在可逆n×nn×n矩阵E1E1,E1B1=(Ir 0)TE1B1=(Ir 0)T。
B2B2是行满秩,则存在可逆n×nn×n矩阵E2E2,B2E2=(Ir 0)B2E2=(Ir 0)。
C(A)=C(AE2)=C(B1(Ir 0))=C(B1)C(A)=C(AE2)=C(B1(Ir 0))=C(B1)。因此,dimC(A)=dimC(B1)dimC(A)=dimC(B1),即r(A)=r(B1)=rr(A)=r(B1)=r。
若AA的列向量线性无关,则ATAATA为可逆方阵。
AA列满秩 => Ax=0Ax=0只有零解 => ATAx=0ATAx=0 只有零解 => ATAATA列满秩。
又因为ATAATA是n×nn×n方阵,因此为可逆矩阵。
若S∩T≠{0}S∩T≠{0},则∃v∈S∩T,vTv≠0∃v∈S∩T,vTv≠0。因此SS和TT不正交。
命题:设SS和TT是RnRn中的两个子空间,且dimS+dimT>n,则S和TdimS+dimT>n,则S和T不正交。
设α∈N(AT)α∈N(AT),则αTA=0αTA=0。
因此α和Aα和A的全部列向量垂直。可以得到N(AT)⊥C(A)N(AT)⊥C(A)。
将AA 换成ATAT,可以得到C(AT)⊥N(A)C(AT)⊥N(A)。
四个子空间还存在着如下的关系:
N(AT)+C(A)=Rm,C(A)+N(AT)=RnN(AT)+C(A)=Rm,C(A)+N(AT)=Rn
我们说C(A)是N(AT)C(A)是N(AT)在RmRm上的正交补,C(AT)C(AT)是N(A)N(A)在RnRn上的正交补。
定义:设V⊂RnV⊂Rn是一个子空间,VV在RnRn中的正交补定义为集合
{w∈Rn|vTw=0,∀v∈V}{w∈Rn|vTw=0,∀v∈V}
ATAATA为对称阵,且N(A)=N(ATA),C(AT)=C(ATA)N(A)=N(ATA),C(AT)=C(ATA)。
Ax=0⇒ATAx=0⇒N(A)⊆N(ATA)Ax=0⇒ATAx=0⇒N(A)⊆N(ATA)
ATAx=0⇒xTATAx=0⇒Ax=0⇒N(ATA)⊆N(A)ATAx=0⇒xTATAx=0⇒Ax=0⇒N(ATA)⊆N(A)
⇒N(A)=N(ATA)⇒N(A)=N(ATA)
若Ax=bAx=b有解,则Ax=bAx=b在C(AT)C(AT)中有唯一解。
存在性:设Ax=bAx=b有解,则b∈C(A)b∈C(A)。又因为C(A)=C(AAT)C(A)=C(AAT),因此b∈C(AAT)b∈C(AAT)
∴∃y∈Rm⇒AATy=b∴∃y∈Rm⇒AATy=b
letxr=ATy⇒Axr=b∴xr∈C(AT)letxr=ATy⇒Axr=b∴xr∈C(AT)
唯一性(反证法):若x1r,x2r∈C(AT),and Ax1r=b=Ax2rxr1,xr2∈C(AT),and Axr1=b=Axr2
∴A(x1r−x2r)=0⇒x1r−x2r∈N(A)∴A(xr1−xr2)=0⇒xr1−xr2∈N(A)
∵x1r,x2r∈C(AT)∴x1r,x2r∈C(AT)∩N(A)={0}∵xr1,xr2∈C(AT)∴xr1,xr2∈C(AT)∩N(A)={0}
∴x1r=x2r∴xr1=xr2
欢迎关注我的个人博客。
正交性及正交补
定义:设SS和TT是RnRn的两个子空间(subspace),如果对于∀V∈S,w∈T,vTw=0∀V∈S,w∈T,vTw=0,则SS垂直于TT(S is perpendicular to T),并且,这个定义是对称的,即SS垂直于TT<=>TT垂直于SS。记做S⊥TS⊥T。也可以说SS和TT是正交的(S and T are orthogonal)。几个常见结论
设A=B1B2A=B1B2,其中B1B1是n×rn×r 矩阵,B2B2是r×nr×n矩阵,后两矩阵秩都为rr,则AA是一个n×n矩阵,且r(A)=rn×n矩阵,且r(A)=r。AA的每一列是B1B1的列向量的线性组合,因此C(A)⊂C(B1)C(A)⊂C(B1)。
AA的每一列是B2B2的行向量的线性组合,因此C(AT)⊂C(BT2)C(AT)⊂C(B2T)。
B1B1是列满秩,则存在可逆n×nn×n矩阵E1E1,E1B1=(Ir 0)TE1B1=(Ir 0)T。
B2B2是行满秩,则存在可逆n×nn×n矩阵E2E2,B2E2=(Ir 0)B2E2=(Ir 0)。
C(A)=C(AE2)=C(B1(Ir 0))=C(B1)C(A)=C(AE2)=C(B1(Ir 0))=C(B1)。因此,dimC(A)=dimC(B1)dimC(A)=dimC(B1),即r(A)=r(B1)=rr(A)=r(B1)=r。
若AA的列向量线性无关,则ATAATA为可逆方阵。
AA列满秩 => Ax=0Ax=0只有零解 => ATAx=0ATAx=0 只有零解 => ATAATA列满秩。
又因为ATAATA是n×nn×n方阵,因此为可逆矩阵。
若S∩T≠{0}S∩T≠{0},则∃v∈S∩T,vTv≠0∃v∈S∩T,vTv≠0。因此SS和TT不正交。
命题:设SS和TT是RnRn中的两个子空间,且dimS+dimT>n,则S和TdimS+dimT>n,则S和T不正交。
子空间的正交性
定理:设AA是 n×nn×n矩阵,则C(A)和N(AT)C(A)和N(AT)正交,C(AT)C(AT)和N(A)N(A)正交。设α∈N(AT)α∈N(AT),则αTA=0αTA=0。
因此α和Aα和A的全部列向量垂直。可以得到N(AT)⊥C(A)N(AT)⊥C(A)。
将AA 换成ATAT,可以得到C(AT)⊥N(A)C(AT)⊥N(A)。
四个子空间还存在着如下的关系:
N(AT)+C(A)=Rm,C(A)+N(AT)=RnN(AT)+C(A)=Rm,C(A)+N(AT)=Rn
我们说C(A)是N(AT)C(A)是N(AT)在RmRm上的正交补,C(AT)C(AT)是N(A)N(A)在RnRn上的正交补。
定义:设V⊂RnV⊂Rn是一个子空间,VV在RnRn中的正交补定义为集合
{w∈Rn|vTw=0,∀v∈V}{w∈Rn|vTw=0,∀v∈V}
子空间的性质
若AA对称,即A=ATA=AT,则C(A)=C(AT)C(A)=C(AT),因此C(A)⊥N(A)C(A)⊥N(A)。ATAATA为对称阵,且N(A)=N(ATA),C(AT)=C(ATA)N(A)=N(ATA),C(AT)=C(ATA)。
Ax=0⇒ATAx=0⇒N(A)⊆N(ATA)Ax=0⇒ATAx=0⇒N(A)⊆N(ATA)
ATAx=0⇒xTATAx=0⇒Ax=0⇒N(ATA)⊆N(A)ATAx=0⇒xTATAx=0⇒Ax=0⇒N(ATA)⊆N(A)
⇒N(A)=N(ATA)⇒N(A)=N(ATA)
若Ax=bAx=b有解,则Ax=bAx=b在C(AT)C(AT)中有唯一解。
存在性:设Ax=bAx=b有解,则b∈C(A)b∈C(A)。又因为C(A)=C(AAT)C(A)=C(AAT),因此b∈C(AAT)b∈C(AAT)
∴∃y∈Rm⇒AATy=b∴∃y∈Rm⇒AATy=b
letxr=ATy⇒Axr=b∴xr∈C(AT)letxr=ATy⇒Axr=b∴xr∈C(AT)
唯一性(反证法):若x1r,x2r∈C(AT),and Ax1r=b=Ax2rxr1,xr2∈C(AT),and Axr1=b=Axr2
∴A(x1r−x2r)=0⇒x1r−x2r∈N(A)∴A(xr1−xr2)=0⇒xr1−xr2∈N(A)
∵x1r,x2r∈C(AT)∴x1r,x2r∈C(AT)∩N(A)={0}∵xr1,xr2∈C(AT)∴xr1,xr2∈C(AT)∩N(A)={0}
∴x1r=x2r∴xr1=xr2
欢迎关注我的个人博客。
相关文章推荐
- 有关线性代数的Matlab代码笔记(5)——四个基本子空间
- 线性代数笔记-10 四个基本子空间
- 线性代数笔记1:矩阵的四个基本子空间
- 线性代数笔记1——矩阵的基本运算
- 机器学习数学基础--(三)线性代数之四个基本子空间
- MIT18.06线性代数课程笔记4b:打乱矩阵集合及相关性质
- 线性代数(十六) : 矩阵的左零空间及四个基本子空间总结
- MIT18.06线性代数课程笔记11:矩阵空间、子空间的交和、秩一矩阵
- 线性代数导论10——四个基本子空间
- 线性代数导论10——四个基本子空间
- MIT18.06线性代数课程笔记18:矩阵行列式的性质
- 线性代数笔记(1):向量空间与子空间
- MIT18.06线性代数课程笔记21:特征向量、特征值简介、求法与性质
- 机器学习笔记(2)线性模型的基本形式
- 线性代数基本知识-思维导图
- 线性代数基本公式结论简要总结(1)
- 线性代数学习笔记(五)
- 线性代数笔记6:行列式
- MIT线性代数笔记-第十二讲
- 线性代数笔记(线性方程组、线性空间,线性变换)