向量空间、列空间、零空间、可解性

向量空间#

向量构成的空间就是向量空间，这个空间必须对加法和数乘封闭，即取控件中两个向量相加结果还在空间内，取一个数乘向量结果还在空间内。

如$R^3$，是一个向量空间，由实数组成，每个向量有3个元素。

注意： 如果没有0向量，那么一定不是向量空间，0向量对加法和数乘都很关键。

• 0v = 0
• v+(-v) = 0

所以没0向量不中

子空间#

子空间即向量空间中的向量空间。

$R^2$中的子空间#

• 零向量（原点）
• 每条穿过原点的线
• $R^2$本身

$R^3$中的子空间#

• 零向量（原点）
• 每条穿过原点的线
• 每个穿过原点的平面
• $R^3$本身

原点#

是任何空间的子空间，这个空间只包括零向量。

子空间的交集并集#

现在有子空间$S1,S2$，$S1$是$R^3$中一过原点直线，$S2$是$R^3$中一过原点平面

$S1 \notin S2$#

• $S1 \cap S2$中只有原点，显然构成子空间
• $S1 \cup S2$不构成子空间，随便取$S1$中向量$a$和$S2$中向量$b$相加$(a,b \not = 0)$，结果都不在$S1 \cup S2$中。

$S1 \in S2$#

• 构成的子空间相当于$S2$本身，显然交集并集都构成子空间。

列空间#

列空间即矩阵列构成的向量空间，我们只需把矩阵中的每个列想象成一个向量，由它们的线性组合构成的空间即列空间。

如一$m \times n$矩阵$A$由列$v_1,v_2,...,v_n$组成，则它的列空间即所有$c_1v_1 + c_2v_2,...,c_nv_n$组成的空间。用矩阵语言描述就是$Ax$对于所有$x$所构成的空间。

所以可以说，$Ax=b$只有当$b$是$A$中各列的线性组合时才有解。

线性相关#

$$\left[ \begin{matrix} 1&1&2\\ 2&1&3\\ 3&1&4\\ 4&1&5 \end{matrix} \right]$$

这个矩阵只能构成$R^4$中的$R^2$平面，因为第三列本身就是一二列的线性组合，所以对列空间来说，它毫无贡献，这种情况就是线性相关。

线性无关#

$$\left[ \begin{matrix} 1&1&3\\ 2&1&3\\ 3&1&4\\ 4&1&5 \end{matrix} \right]$$

简单的修改下矩阵，这回他能构成$R^4$中完整的$R^3$空间了，这种情况叫线性无关。

零空间#

对于所有可以得出$Ax=0$的$x$所构成的空间。

$$\left[ \begin{matrix} 1&1&2\\ 2&1&3\\ 3&1&4\\ 4&1&5 \end{matrix} \right]$$

对于这个矩阵，显然原点是一个它的零空间。

第三行是第一行和第二行的线性组合，所以我们取1个行1，1个行2，-1个行3即可。这种组合还有很多，写出通用的$[c,c,-c]^T$，这就是它的零空间。

求解零空间#

如果存在零空间，一定是有线性相关的列，它们会在消元中体现出来

$$\left[ \begin{matrix} 1&2&2&2\\ 2&4&6&8\\ 3&6&8&10 \end{matrix} \right] -> \left[ \begin{matrix} 1&2&2&2\\ 0&0&2&4\\ 0&0&0&0 \end{matrix} \right]$$

第二列和第四列没主元且出现了一个零行。

秩

秩等于主元个数，上例中为2。

主元列和自由列

有主元的列叫主元列，其它的叫自由列，对于这种$m \times n(m<n)$矩阵，$Ax=0$不一定有确定解，我们需要通过自由列确定主元列。

自由列的数是随意分配的，这挺像参数方程。

所谓零空间也就是自由列的线性组合。

求解回代

对于上面的例子，我们先让$x=[c_1,1,c_2,0]^T$，方程就变成了

$$x_1+2+2x_3+0=0, 2x_3+0=0$$

这时$c_1,c_2$也能确定了，$x=[-2,1,0,0]^T$

测试一个向量显然得不到零空间所有线性组合，再让$x=[c1,0,c2,1]^T$，回代得到$x=[2,0,-2,1]$。

这两个x称为零空间的特解，零空间就是特解的线性组合。即$c_1[-2,1,0,0]^T+c_2[2,0,-2,1]^T$。

另一个通用解法

上面的解法确实能得到零空间，但是。。自由列一旦多起来很头疼，要测试所有的特解。

rref形式

rref（简化行阶梯）形式是对消元矩阵U的再一次简化，这个形式中主元全为1，主元上下全是0。

上面的矩阵可以通过行一减行二，行二乘1/2变为

$$\left[ \begin{matrix} 1&2&0&-2\\ 0&0&1&2\\ 0&0&0&0 \end{matrix} \right]$$

这就是rref形式，这个形式中所有主元构成一个单位阵，自由列构成一个矩阵，然后下面全是0：

$$\left[ \begin{matrix} 1&0&2&-2\\ 0&1&0&2\\ 0&0&0&0 \end{matrix} \right]$$

实际上我们这样交换的话，原方程组的未知数顺序也要交换。

矩阵最终变成这种形式

$$\left[ \begin{matrix} I&F\\ 0&0 \end{matrix} \right]$$

你会发现F位置正是我们通过构造特解求出的主元列的系数（符号相反，也就是$-F$）

其实化简rref形式就相当于回代，下面给出证明

$$\left[ \begin{matrix} I&F \end{matrix} \right] \left[ \begin{matrix} x_{piovt}\\ x_{free} \end{matrix} \right] =0$$

这个式子是我们把$Ax=0$经过一系列简化得到的$Rx=0$形式，其中，R就是列交换过的rref矩阵，x则是一个特解，R列互换了这个特解自然要行互换，这相当于交换方程组未知数顺序

$$x_{piovt} = -Fx_{free} = -F$$

这里只是把上面的矩阵乘法展开了，由于我们之前求特解分配的$x_{free}$是单位阵，那会取得都是1，0这种数，所以x的主元位置的未知数就是-F

可解性以及解的数量#

含有零空间的#

如果$Ax=b$有解，且其中的A满足$A \times some\, of x=0$，那么对于$Ax=b$的所有解都要加上其零空间，所以解的形式通常是这样的：

$$\left[ \begin{matrix} x1\\ x2\\ x3 \end{matrix} \right] + c \left[ \begin{matrix} ...\\ ...\\ ... \end{matrix} \right] + c \left[ \begin{matrix} ...\\ ...\\ ... \end{matrix} \right]$$

所以有无数个解

出现零行的#

若出现零行就可能无解，因为出现零行必有某个消元步骤出现全0，解也要满足那个条件等于0，就像下面

$$\left[ \begin{matrix} 1&2&b_1\\ 1&2&b_2 \end{matrix} \right] to \left[ \begin{matrix} 1&2&b_1\\ 0&0&b_2-b1 \end{matrix} \right]$$

所以b要满足$b2-b1=0$才有解

秩未满#

$r<m\,and\,r<n$，这种情况肯定有零空间，也可能有零行，所以有0或无穷多个解。

列满秩#

对于列满秩$r=n$，每一列都有主元，这个情况下$m>=n$，方程数大于等于未知数，无零空间，但可能出现零行，所以可能有0个或1个解

行满秩#

对于行满秩，$r=m$，每一行都有主元，这时$m<=n$，方程数小于等于未知数，没零行了，但肯定有存在有的列没主元。所以必定存在零空间，这时对于b肯定有无穷个解。

行列都满秩#

$r=m=n$，这个形式的rref是单位阵，无零行，无零空间，对于所有b都有且只有1个解。

参考资料#

• MIT线性代数公开课 p7 - bilibili