从机器学习中看矩阵理论和线性代数

什么是线性代数？
线性，其实就是一次，代数其实就是加减乘除，线性代数其实本质就是研究方程组的问题。
线性代数中的方程组都是一次方的。在学习中其实可以使用向量形式如(1,2)t*x1,+(2,3)t=(5,2)
这样表示，向量表示大家很熟悉，这其实就是(5,2)t是否可以由(1,2)和(2,3)进行线性表示，本来向量这样表示没有问题，但是当x比较多的时候，这就很麻烦了，表示就困难了，后来就出行了矩阵来表示，矩阵表示起来相对轻松起来，后来又衍生出了一大堆矩阵论。其实学的好多数学知识，都是围绕着方程和函数。向量和矩阵都只不过是个工具，要习惯用矩阵表示。

为什么矩阵会是行乘以列的形式？
刚刚前面提到向量表示线性方程组有点麻烦，所以用矩阵来表示，后来也就规定了矩阵是行乘以列的形式，就是这样AX=b，然后就可以去深入研究了，不要问问什么，人家就是这样规定了，要习惯这种表达方式。其实从点击的角度也可以这样看(1,2,3)*(x1,x2,x3)=b1(b1是b的第一行）其他行等等。用矩阵表示，其他不变，就是将x1,x2,x3,以列向量的写法来表示就行了。这就是AX=b

学习方程组可以从两个方面着手去学习
方程组研究，从行的角度看就是直线问题，直线和平面问题，超平面ax=b(x>3)就是超平面。
从列的角度看，就是线性相关问题。有一个解，多解，无穷解。

线性无关和线性相关
通俗的理解就是一个向量可以用其他向量的矢量和表示出来，就是线性相关，另外线性无关就是怎么也不能表示出来。

基和子空间，零空间，列空间，行空间，左列空间
假设3个向量他们线性无关，通过这三个向量就可以构成一个三维空间，如果三个向量线性先关，其中只有两个向量线性无关，那么就会成为一个平面，但是他们都是构成了原来三个向量可以组成三维空间的子空间，不关你是平面还是三维空间都是三维空间的子空间，则他们的三个向量的线性无关的两个构成了基，基就是构成什么的基本条件东西等等之类的。是谁的子空间，就看x值的个数
零空间比较特殊，就是AX=0的解，然后线性无关形成的一个空间。注意这个不适用于AX=b
行空间，和列空间差不多，以行为单位看起线性组合，左零空间： ATy=0(T是转置）的解得集合组成的空间（不相关的解构成了一组基）。