阅读翻译Mathematics for Machine Learning之2.6 Generating Set and Basis

关于：

首次发表日期：2024-07-19
Mathematics for Machine Learning官方链接： https://mml-book.com
ChatGPT和KIMI机翻，人工润色
非数学专业，如有错误，请不吝指出

2.6.1 Basis and Rank (基与秩)

定义 2.13（生成集与张成）。考虑一个向量空间 $V = (V, +, \cdot)$ 和一组向量 $A = {x_{1}, \dots, x_{k}} \subseteq V$ 。如果 $V$ 中的每一个向量 $v$ 都可以表示为 $x_{1}, \dots, x_{k}$ 的线性组合，则称 $A$ 为 $V$ 的一个生成集。向量 $A$ 中所有向量的线性组合构成的集合称为 $A$ 的张成。如果 $A$ 张成了向量空间 $V$ ，我们写作 $V = span [A]$ 或 $V = span [x_{1}, \dots, x_{k}]$ 。

生成集是张成向量（子）空间的向量集合，即每一个向量都可以表示为生成集中向量的线性组合。现在，我们将更加具体地描述张成向量（子）空间的最小生成集。

定义 2.14（基）。考虑一个向量空间 $V = (V, +, \cdot)$ 和 $A \subseteq V$ 。如果不存在比 $A$ 更小的集合 $\tilde{A} ⊊ A \subseteq V$ 能张成 $V$ ，那么 $V$ 的生成集 $A$ 被称为最小生成集。 $V$ 的每一个线性无关的生成集都是最小的，并且被称为 $V$ 的一个基。

设 $V = (V, +, \cdot)$ 是一个向量空间， $B \subseteq V, B \neq \emptyset$ 。那么，以下陈述是等价的：

$B$ 是 $V$ 的一个基。
$B$ 是一个最小生成集。
$B$ 是 $V$ 中的最大线性无关向量集，即向这个集合中添加任何其他向量都会使其线性相关。
每一个向量 $x \in V$ 都是来自 $B$ 的向量的线性组合，并且每个线性组合都是唯一的，即：

\begin{matrix} (2.77) & x = \sum_{i = 1}^{k} λ_{i} b_{i} = \sum_{i = 1}^{k} ψ_{i} b_{i} \end{matrix}

且 $λ_{i}, ψ_{i} \in R, b_{i} \in B$ ，这意味着 $λ_{i} = ψ_{i}, i = 1, \dots, k$ 。

基是一个最小的生成集和一个最大的线性无关向量集合。

**例2.16**

在 $R^{3}$ 中，标准基是

B = {[\begin{array}{l} 1 \\ 0 \\ 0 \end{array}], [\begin{array}{l} 0 \\ 1 \\ 0 \end{array}], [\begin{array}{l} 0 \\ 0 \\ 1 \end{array}]}

$R^{3}$ 中不同的基是

B_{1} = {[\begin{array}{l} 1 \\ 0 \\ 0 \end{array}], [\begin{array}{l} 1 \\ 1 \\ 0 \end{array}], [\begin{array}{l} 1 \\ 1 \\ 1 \end{array}]}, B_{2} = {[\begin{array}{l} 0.5 \\ 0.8 \\ 0.4 \end{array}], [\begin{array}{l} 1.8 \\ 0.3 \\ 0.3 \end{array}], [\begin{matrix} - 2.2 \\ - 1.3 \\ 3.5 \end{matrix}]} .

集合

A = {[\begin{array}{l} 1 \\ 2 \\ 3 \\ 4 \end{array}], [\begin{matrix} 2 \\ - 1 \\ 0 \\ 2 \end{matrix}], [\begin{matrix} 1 \\ 1 \\ 0 \\ - 4 \end{matrix}]}

是线性无关的，但不是 $R^{4}$ 的生成集（也不是基）：例如，向量 $[1, 0, 0, 0]^{⊤}$ 不能通过 $A$ 中元素的线性组合得到。

注释每个向量空间 $V$ 都有一个基 $B$ 。前面的例子表明，一个向量空间 $V$ 可以有许多不同的基，即没有唯一的基。然而，所有的基都具有相同数量的元素，即基向量。

我们只考虑有限维向量空间 $V$ 。在这种情况下， $V$ 的维数是其基向量的数量，记作 $\dim (V)$ 。如果 $U \subseteq V$ 是 $V$ 的子空间，则 $\dim (U) ⩽ \dim (V)$ ，且当且仅当 $U = V$ 时 $\dim (U) = \dim (V)$ 。直观地说，向量空间的维数可以理解为这个空间中独立方向的数量。

注释向量空间的维数不一定是向量中元素的数量。例如，向量空间 $V = span [[\begin{array}{l} 0 \\ 1 \end{array}]]$ 是一维的，尽管基向量具有两个元素。

向量空间的维数对应于其基向量的数量。

注释子空间 $U = span [x_{1}, \dots, x_{m}] \subseteq R^{n}$ 的一个基可以通过以下步骤找到：

将张成向量写成矩阵 $A$ 的列。
求解矩阵 $A$ 的行阶梯形式。
与枢轴列相关联的张成向量构成 $U$ 的一个基。

2.6.2 Rank（秩）

一个矩阵 $A \in R^{m \times n}$ 的线性无关列的数量等于线性无关行的数量，并且被称为 $A$ 的秩，表示为 $rk (A)$ 。

注释。矩阵的秩具有一些重要性质：

$rk (A) = rk (A^{⊤})$ ，即，列秩等于行秩。
$A \in R^{m \times n}$ 的列张成一个子空间 $U \subseteq R^{m}$ ，其维数为 $\dim (U) = rk (A)$ 。稍后我们将这个子空间称为像或值域。通过应用高斯消元法到 $A$ 可以找到 $U$ 的一个基，以识别枢轴列。
$A \in R^{m \times n}$ 的行张成一个子空间 $W \subseteq R^{n}$ ，其维数为 $\dim (W) = rk (A)$ 。通过应用高斯消元法到 $A^{⊤}$ 可以找到 $W$ 的一个基。
对于所有的 $A \in R^{n \times n}$ ，如果且仅如果 $rk (A) = n$ ， $A$ 是正则的（可逆的）。
对于所有的 $A \in R^{m \times n}$ 和所有的 $b \in R^{m}$ ，线性方程组 $A x = b$ 可以求解当且仅当 $rk (A) = rk (A ∣ b)$ ，其中 $A ∣ b$ 表示增广系统。
对于 $A \in R^{m \times n}$ ， $A x = 0$ 的解空间具有维数 $n - rk (A)$ 。稍后，我们将这个子空间称为核或零空间。
如果矩阵 $A \in R^{m \times n}$ 的秩等于相同维度矩阵的最大可能秩，则称其具有满秩。这意味着满秩矩阵的秩是行数和列数中的较小者，即 $rk (A) = min (m, n)$ 。如果矩阵没有满秩，则称其为秩亏损的。