矩阵论 - 7 - 求解Ax=0：主变量、特解

求解Ax=0：主变量、特解

求零空间(Nullspace)

矩阵 \(A\) 的零空间即满足 \(Ax=0\) 的所有构成 \(x\) 的向量空间。

对于矩阵 \(A\) 进行“行操作”并不会改变 \(Ax=0\) 的解，因此也不会改变零空间。（但是会改变列空间。）因为等号右侧的向量\(b=0\)，因此不需要应用增广矩阵。

通过消元法，将 \(A\) 化为行阶梯矩阵 \(U\) ，过程如下：

\[A= \begin{bmatrix} 1 & 2 & 2 & 2\\ 2 & 4 & 6 & 8\\ 3 & 6 & 8 & 10\\ \end{bmatrix} \underrightarrow{消元} \begin{bmatrix} \underline{1} & 2 & 2 & 2\\ 0 & 0 & \underline{2} & 4\\ 0 & 0 & 0 & 0\\ \end{bmatrix} =U \]

矩阵的秩（rank）就是矩阵的主元的个数。

主变量（pivot variable，下划线元素）的个数为2。

矩阵的秩（rank）就是矩阵的主元的个数，即矩阵 \(A\) 和矩阵 \(U\) 的秩（rank）为2，即\(r=2\)。

主变量所在的列为主列（pivot column），其余列为自由列（free column）。

自由列中的变量为自由变量（free variable），自由变量的个数为\(n-r=4-2=2\)。

求特解

当我们将系数矩阵变换为行阶梯矩阵 \(U\) 时，就可以用回代求得方程 \(Ux=0\) 的解。

即：

\[\begin{bmatrix} \underline{1} & 2 & 2 & 2\\ 0 & 0 & \underline{2} & 4\\ 0 & 0 & 0 & 0\\ \end{bmatrix} \begin{bmatrix} x_1\\ x_2\\ x_3\\ x_4\\ \end{bmatrix} =\begin{bmatrix} 0\\ 0\\ 0\\ \end{bmatrix}\]

在本例中，包含主元的矩阵第1列和第3列为主元列，而不包含主元的第2列和第4列为自由列。

对自由变量（free variable）x2和x4我们可以进行赋值。(方法是自由变量一次一个1，其他全0)。

\(Ux=0\) 可以表示为(使用矩阵乘法展开)：\(\begin{cases}2x_3+4x_4=0\\ x_1+2x_2+2x_3+2x_4=0\end{cases}\)

令\(x_2=1, x_4=0\)，求得特解：\(x=c_1\begin{bmatrix}-2\\1\\0\\0\\\end{bmatrix}\)；

令\(x_2=0, x_4=1\)，求得特解：\(x=c_2\begin{bmatrix}2\\0\\-2\\1\\\end{bmatrix}\)；

矩阵 \(A\) 的零空间就是这些“特解”向量的线性组合所构成的向量空间,即\(c_1\begin{bmatrix}-2\\1\\0\\0\\\end{bmatrix}+c_2\begin{bmatrix}2\\0\\-2\\1\\\end{bmatrix}\)。

主元列和自由列的一个重要区别就是，自由列可以表示为其左侧所有主元列的线性组合，而主元列则不可以。

\[\begin{bmatrix} \underline{*} & * & * & *\\ 0 & 0 & \underline{*} & *\\ 0 & 0 & 0 & \underline{*}\\ \end{bmatrix}\]

行最简阶梯矩阵

可以将 \(U\) 进一步简化，即将\(U\)矩阵化简为\(R\)矩阵（Reduced row echelon form），即简化行阶梯形式。

在简化行阶梯形式中，主元上下的元素都是\(0\)：

\[U=\begin{bmatrix}\underline{1} & 2 & 2 & 2\\0 & 0 & \underline{2} & 4\\0 & 0 & 0 & 0\\\end{bmatrix}\underrightarrow{化简}\begin{bmatrix}\underline{1} & 2 & 0 & -2\\0 & 0 & \underline{1} & 2\\0 & 0 & 0 & 0\\\end{bmatrix}=R \]

将\(R\)矩阵中的主变量放在一起，自由变量放在一起（列交换），得到:

\[R= \begin{bmatrix} \underline{1} & 2 & 0 & -2\\ 0 & 0 & \underline{1} & 2\\ 0 & 0 & 0 & 0\\ \end{bmatrix} \underrightarrow{列交换} \left[ \begin{array}{c c | c c} 1 & 0 & 2 & -2\\ 0 & 1 & 0 & 2\\ \hline 0 & 0 & 0 & 0\\ \end{array} \right] = \begin{bmatrix} I & F \\ 0 & 0 \\ \end{bmatrix} \textrm{，其中}I\textrm{为单位矩阵，}F\textrm{为自由变量组成的矩阵} \]

计算零空间矩阵\(N\)（nullspace matrix），其列为特解，有\(RN=0\)。

原方程 \(Ax=0\) 变为求解 \(R\) 的主元行乘以 \(x\)，\(\begin{bmatrix} I & F \\ \end{bmatrix} \begin{bmatrix} x_{pivot} \\ x_{free} \\ \end{bmatrix}=0\)。

将 \(Ax=0\) 的特解作为列向量写成一个矩阵 \(N\)，即零空间矩阵,\(N=\begin{bmatrix} \;\\ I\\ \end{bmatrix}\)。

从矩阵分块乘法运算可知零空间矩阵上半部分为 \(-F\) ，即 \(N\) 最终形式为\(N=\begin{bmatrix} -F \\ I \\ \end{bmatrix}\)

对于上述例子：

\[R=\begin{bmatrix}\underline{1} & 2 & 0 & -2\\0 & 0 & \underline{1} & 2\\0 & 0 & 0 & 0\\\end{bmatrix}\underrightarrow{列交换}\left[\begin{array}{c c | c c}1 & 0 & 2 & -2\\0 & 1 & 0 & 2\\\hline0 & 0 & 0 & 0\\\end{array}\right]=\begin{bmatrix}I & F \\0 & 0 \\\end{bmatrix}\textrm{，其中}I\textrm{为单位矩阵，}F\textrm{为自由变量组成的矩阵} \]

从上面推论可得：\(N=\begin{bmatrix}-F \\I \\\end{bmatrix}=\begin{bmatrix}-2 & 2\\ 0 & -2\\1 & 0\\0 & 1\end{bmatrix}\)

对于矩阵 \(R\) 而言，求零空间特解就变得非常简单，只需要将消元的到的 \(F\) 部分拼接上单位阵就可以得到所有的通解。注意如果在变换出 \(R\) 左上角的单位阵的过程中采用了列交换，则最后的解要完成逆变换。

进行逆变换(三行和二行交换)，可得\(N=\begin{bmatrix} -F \\ I \\ \end{bmatrix}=\begin{bmatrix}-2 & 2\\ 0 & -2\\1 & 0\\0 & 1\end{bmatrix}\underrightarrow{行交换}\begin{bmatrix}-2 & 2\\ 1 & 0\\0 & -2\\0 & 1\end{bmatrix}\)，与上面求得的两个\(x\)特解一致。

总结

1. \(A\) 的零空间是 \(Ax=0\) 中 \(x\) 的解组成的集合；

2. 解法1：

   • 消元，将矩阵化为行阶梯矩阵 \(U\)，得出自由列个数
   • 自由列一个个赋1，其他皆0，求解方程，得出自由列个数个特解
   • 特解的线性组合就是 \(A\) 的零空间

3. 解法2：

   • 消元，将矩阵化为行最简阶梯矩阵 \(R\)
   • 通过某些列变化将 \(R\) 化成如下形式：\(R=\begin{bmatrix}I & F \\0 & 0 \\\end{bmatrix}\textrm{，其中}I\textrm{为单位矩阵，}F\textrm{为自由变量组成的矩阵}\)
   • 得到解：\(N=\begin{bmatrix} -F \\ I \\ \end{bmatrix}\)
   • 若进行了列变化，则最后的解要完成逆变换

reference

[1] textbook

[2] mit18.06学习笔记-0

[3] mit18.06学习笔记-1