14-正交向量与子空间

一、正交向量

　一个秩为r，m*n的矩阵A中，其行空间和列空间的维数为r，零空间和左零空间的维数分别为n-r，m-r，并且有行空间与零空间正交，列空间与左零空间正交

　“掌握上面的这个结论就掌握了线性代数的半壁江山！”，MIT教授如是说 

 

　我们都知道，如果两个向量x,y正交，则其夹角为90度，可表示为表达式：$x^{T} y=0$，注意：x，y的顺序没有区别，即下式也成立：$y^{T} x=0$

　两个向量正交，可以表示为下图：

 

 

　由勾股定理可知：$\|x\|^{2}+\|y\|^{2}=\|x+y\|^{2}$，将上式展开得：

$\begin{aligned} x^{T} x+y^{T} y &=(x+y)^{T}(x+y) \\ &=x^{T} x+y^{T} y+x^{T} y+y^{T} x \end{aligned}$

所以：$0=x^{T} y+y^{T} x \rightarrow x^{T} y=y^{T} x=0$

　举例说明：假设两个向量分别为x,y，z=x+y：

$x=\left[\begin{array}{l}{1} \\ {2} \\ {3}\end{array}\right], y=\left[\begin{array}{c}{2} \\ {-1} \\ {0}\end{array}\right], z=x+y=\left[\begin{array}{l}{3} \\ {1} \\ {3}\end{array}\right]$

　其中：其中x，y满足下式：

$x^{T} y=y^{T} x=0$

　则向量的长度（即向量的2范数）为：

$\|x\|^{2}=14,\|y\|^{2}=5,\|z\|^{2}=19$

 

二、正交子空间

　定义：两个子空间正交即两个子空间的任意两个向量正交。

　行空间与零空间正交，列空间与左零空间正交。下面我们来证明行空间与零空间正交，列空间与左零空间正交。

　我们解释一下行空间和零空间正交：行空间为矩阵各行的线性组合，矩阵各行与零空间中的任意向量相乘==0，也就是说行空间中任意向量与零空间中任意向量相乘结果为0