向量空间、列空间、零空间、可解性

向量空间

向量构成的空间就是向量空间，这个空间必须对加法和数乘封闭，即取控件中两个向量相加结果还在空间内，取一个数乘向量结果还在空间内。

如\(R^3\)，是一个向量空间，由实数组成，每个向量有3个元素。

注意： 如果没有0向量，那么一定不是向量空间，0向量对加法和数乘都很关键。

• 0v = 0
• v+(-v) = 0

所以没0向量不中

子空间

子空间即向量空间中的向量空间。

\(R^2\)中的子空间

• 零向量（原点）
• 每条穿过原点的线
• \(R^2\)本身

\(R^3\)中的子空间

• 零向量（原点）
• 每条穿过原点的线
• 每个穿过原点的平面
• \(R^3\)本身

原点

是任何空间的子空间，这个空间只包括零向量。

子空间的交集并集

现在有子空间\(S1,S2\)，\(S1\)是\(R^3\)中一过原点直线，\(S2\)是\(R^3\)中一过原点平面

\(S1 \notin S2\)

• \(S1 \cap S2\)中只有原点，显然构成子空间
• \(S1 \cup S2\)不构成子空间，随便取\(S1\)中向量\(a\)和\(S2\)中向量\(b\)相加\((a,b \not = 0)\)，结果都不在\(S1 \cup S2\)中。

\(S1 \in S2\)

• 构成的子空间相当于\(S2\)本身，显然交集并集都构成子空间。

列空间

列空间即矩阵列构成的向量空间，我们只需把矩阵中的每个列想象成一个向量，由它们的线性组合构成的空间即列空间。

如一\(m \times n\)矩阵\(A\)由列\(v_1,v_2,...,v_n\)组成，则它的列空间即所有\(c_1v_1 + c_2v_2,...,c_nv_n\)组成的空间。用矩阵语言描述就是\(Ax\)对于所有\(x\)所构成的空间。

所以可以说，\(Ax=b\)只有当\(b\)是\(A\)中各列的线性组合时才有解。

线性相关

\[\left[ \begin{matrix} 1&1&2\\ 2&1&3\\ 3&1&4\\ 4&1&5 \end{matrix} \right] \]

这个矩阵只能构成\(R^4\)中的\(R^2\)平面，因为第三列本身就是一二列的线性组合，所以对列空间来说，它毫无贡献，这种情况就是线性相关。

线性无关

\[\left[ \begin{matrix} 1&1&3\\ 2&1&3\\ 3&1&4\\ 4&1&5 \end{matrix} \right] \]

简单的修改下矩阵，这回他能构成\(R^4\)中完整的\(R^3\)空间了，这种情况叫线性无关。

零空间

对于所有可以得出\(Ax=0\)的\(x\)所构成的空间。

\[\left[ \begin{matrix} 1&1&2\\ 2&1&3\\ 3&1&4\\ 4&1&5 \end{matrix} \right] \]

对于这个矩阵，显然原点是一个它的零空间。

第三行是第一行和第二行的线性组合，所以我们取1个行1，1个行2，-1个行3即可。这种组合还有很多，写出通用的\([c,c,-c]^T\)，这就是它的零空间。

求解零空间

如果存在零空间，一定是有线性相关的列，它们会在消元中体现出来

\[\left[ \begin{matrix} 1&2&2&2\\ 2&4&6&8\\ 3&6&8&10 \end{matrix} \right] -> \left[ \begin{matrix} 1&2&2&2\\ 0&0&2&4\\ 0&0&0&0 \end{matrix} \right] \]

第二列和第四列没主元且出现了一个零行。

秩

秩等于主元个数，上例中为2。

主元列和自由列

有主元的列叫主元列，其它的叫自由列，对于这种\(m \times n(m<n)\)矩阵，\(Ax=0\)不一定有确定解，我们需要通过自由列确定主元列。

自由列的数是随意分配的，这挺像参数方程。

所谓零空间也就是自由列的线性组合。

求解回代

对于上面的例子，我们先让\(x=[c_1,1,c_2,0]^T\)，方程就变成了

\[x_1+2+2x_3+0=0, 2x_3+0=0 \]

这时\(c_1,c_2\)也能确定了，\(x=[-2,1,0,0]^T\)

测试一个向量显然得不到零空间所有线性组合，再让\(x=[c1,0,c2,1]^T\)，回代得到\(x=[2,0,-2,1]\)。

这两个x称为零空间的特解，零空间就是特解的线性组合。即\(c_1[-2,1,0,0]^T+c_2[2,0,-2,1]^T\)。

另一个通用解法

上面的解法确实能得到零空间，但是。。自由列一旦多起来很头疼，要测试所有的特解。

rref形式

rref（简化行阶梯）形式是对消元矩阵U的再一次简化，这个形式中主元全为1，主元上下全是0。

上面的矩阵可以通过行一减行二，行二乘1/2变为

\[\left[ \begin{matrix} 1&2&0&-2\\ 0&0&1&2\\ 0&0&0&0 \end{matrix} \right] \]

这就是rref形式，这个形式中所有主元构成一个单位阵，自由列构成一个矩阵，然后下面全是0：

\[\left[ \begin{matrix} 1&0&2&-2\\ 0&1&0&2\\ 0&0&0&0 \end{matrix} \right] \]

实际上我们这样交换的话，原方程组的未知数顺序也要交换。

矩阵最终变成这种形式

\[\left[ \begin{matrix} I&F\\ 0&0 \end{matrix} \right] \]

你会发现F位置正是我们通过构造特解求出的主元列的系数（符号相反，也就是\(-F\)）

其实化简rref形式就相当于回代，下面给出证明

\[\left[ \begin{matrix} I&F \end{matrix} \right] \left[ \begin{matrix} x_{piovt}\\ x_{free} \end{matrix} \right] =0 \]

这个式子是我们把\(Ax=0\)经过一系列简化得到的\(Rx=0\)形式，其中，R就是列交换过的rref矩阵，x则是一个特解，R列互换了这个特解自然要行互换，这相当于交换方程组未知数顺序

\[x_{piovt} = -Fx_{free} = -F \]

这里只是把上面的矩阵乘法展开了，由于我们之前求特解分配的\(x_{free}\)是单位阵，那会取得都是1，0这种数，所以x的主元位置的未知数就是-F

可解性以及解的数量

含有零空间的

如果\(Ax=b\)有解，且其中的A满足\(A \times some\, of x=0\)，那么对于\(Ax=b\)的所有解都要加上其零空间，所以解的形式通常是这样的：

\[\left[ \begin{matrix} x1\\ x2\\ x3 \end{matrix} \right] + c \left[ \begin{matrix} ...\\ ...\\ ... \end{matrix} \right] + c \left[ \begin{matrix} ...\\ ...\\ ... \end{matrix} \right] \]

所以有无数个解

出现零行的

若出现零行就可能无解，因为出现零行必有某个消元步骤出现全0，解也要满足那个条件等于0，就像下面

\[\left[ \begin{matrix} 1&2&b_1\\ 1&2&b_2 \end{matrix} \right] to \left[ \begin{matrix} 1&2&b_1\\ 0&0&b_2-b1 \end{matrix} \right] \]

所以b要满足\(b2-b1=0\)才有解

秩未满

\(r<m\,and\,r<n\)，这种情况肯定有零空间，也可能有零行，所以有0或无穷多个解。

列满秩

对于列满秩\(r=n\)，每一列都有主元，这个情况下\(m>=n\)，方程数大于等于未知数，无零空间，但可能出现零行，所以可能有0个或1个解

行满秩

对于行满秩，\(r=m\)，每一行都有主元，这时\(m<=n\)，方程数小于等于未知数，没零行了，但肯定有存在有的列没主元。所以必定存在零空间，这时对于b肯定有无穷个解。

行列都满秩

\(r=m=n\)，这个形式的rref是单位阵，无零行，无零空间，对于所有b都有且只有1个解。

参考资料

• MIT线性代数公开课 p7 - bilibili