线性代数知识
一个矩阵乘一个列向量可以理解为这个矩阵中所有列向量的线性组合。
矩阵的列空间
考虑线性方程组Ax=b 是否在b取任意向量的时候方程组都有解,如果不是b取哪些向量的时候方程组有解？
根据上边的介绍我们知道矩阵乘列向量比如Ax 可以表示为组成矩阵A的列向量(这里假设为v1,...,vn)的线性组合。
根据这个可以知道只有当b是v1,...,vn的线性组合的时候Ax=b有解.而v1,...,vn的所有线性组合张成一个空间。
这个空间由矩阵的列向量张成，因此称为该矩阵的列空间.如果把A考虑为一个线性映射T。那么这个列空间
就是b的所有可能取值，也就是T的值域。
矩阵A的列空间(column space)记做： C(A)
很明显 C(A) = span(v1,v2,...,vn)
矩阵的零空间
考虑矩阵A的列向量(v1,...,vn)他们是否是线性无关的.或者说是否存在一个列向量对张成列空间没有贡献:
对于Ax 可以表示为 v1x1+v2x2+,..,+vnxn 根据线性无关的定义如果v1x1+v2x2+,..,+vnxn=0的唯一解是所有的
xi都为0则v1,...,vn线性无关,也就是 Ax=0存在唯一的解 ：x为零向量。我们把所有满足Ax=0的向量x构成的空间称为零空间。
(i)下边证明所有的这些x确实构成一个子空间：
如果Ax1=0，Ax2=0 , A(x1+x2)=Ax1+Ax2=0; Akx1= kAx1=0;因此可知这个空间对加法和数乘封闭。
并列零向量明显是Ax=0的解,综上Ax=0的解构成一个子空间，称为零空间(null space)记做N(A)
(ii)当一个矩阵的零空间只有零向量时，说明该矩阵的列向量线性无关.他们是列空间的一组基
当零空间中还有其他的元素时，说明列向量线性相关。
我们定义R(A)为A的列空间，N(A)为A的零空间，\(R(A^T) \)为A的行空间。
任意向量\(x\in R^n\), x=u+v, \(u\in R(A^T)\),\(v\in N(A^T)\)，\(R(A^T)=N(A)^{\bot}\),称为正交补
\(u^T v=(A^T z)^{T}v=(z)^T Av=0\) 为左零空间。
