MIT18.06线性代数课程笔记1：矩阵和向量相乘的三种解释

课程简介

18.06是Gilbert Strang教授在MIT开的线性代数公开课，课程视频以及相关资料请见https://ocw.mit.edu/courses/mathematics/18-06-linear-algebra-spring-2010/index.htm。

课程笔记

笔者是上过线性代数的，来这里主要是学习一些insight，所以对处理细节关注不多。这节为introduction，介绍了矩阵和向量相乘的三种看待角度：row picture, column picture和matrix picture。其中column picture尤为重要，笔者在最近统计学习的学习中频繁使用，受益匪浅。

矩阵A=⎡⎣⎢⎢⎢a11,a12,⋯,a1ma21,a22,⋯,a2m…an1,an2,⋯,anm⎤⎦⎥⎥⎥, 向量X=[x1,x2,⋯,xm]T, b=[b1,b2,⋯,bn]T。

矩阵向量相乘为AX，求解线性方程组

a11x1+a12x2+⋯+a1mxm=b1a21x1+a22x2+⋯+a2mxm=b2⋯ an1x1+an2x2+⋯+anmxm=bn

等价于求解AX=b

row picture

row picture即把矩阵相乘转化A的行向量与X相乘，具体可以表示为上诉线性方程组的形式，每一行的公式都对应于m维空间的一个超平面。例如x1+x2=1对应于二维空间内的一条线。总共有n个等式，所以有n个超平面，所有超平面相交的区域都是AX=b的可行解。

column picture

定义ai=[a1i,a2i,⋯,ani]T，即ai为A的第i列，有A=[a1,a2,⋯,am]。这里就引入了AX的column picture，有AX=x1∗a1+x2∗a2+⋯+am∗xm，即AX的输出为A的列向量的线性组合linear combination，组合系数由X确定。所以求解AX=b问题对应于求解n维空间中m个列向量如何线性组合成为目标向量b。这里就可以讨论解的有无，上诉row picture中，需要讨论n个超平面是否存在相交区域。column picture中，AX的输出是A的列向量的线性组合，所以这个线性组合的可能输出是确定的，为A的column space，也是a1,a2,⋯,am的linear combination space。对于一个二维向量，那么其linear combination space为与其平行的所有向量；对于两个不平行的二维向量，那么其linear combination space是整个二维平面。若b位于A的column space里面，则有解；否则无解。

matrix picture

上诉线性方程组可以表示为AX=b即为matrix picture。