第三章 线性映射

在本书的剩余部分，除特殊说明外，总设 \(W\) 也是在 \(\mathbb F\) 上的向量空间。

3.1 向量空间的线性映射

• 定义 3.1.1（线性映射）：称函数 \(T:V\to W\) 为线性映射，当且仅当 \(T\) 满足：

  1. \(u,v\in V\implies T(u+v)=Tu+Tv\)。
  2. \(\lambda \in\mathbb F,v\in V\implies T(\lambda v)=\lambda (Tv)\)。

  从 \(V\) 到 \(W\) 的所有线性映射的集合记为 \(\mathcal L(V,W)\)。

• 定义 3.1.2（零映射和恒等映射）：定义零映射 \(0\in \mathcal L(V,W)\) 为 \(0v:=0\)。定义恒等映射为 \(I\in \mathcal L(V,V)\) 为 \(1v:=v\)。

• 引理 3.1.3：设 \(v_1,\cdots,v_n\) 是 \(V\) 的基，\(w_1,\cdots,w_n\in W\)，则存在唯一的 \(T\in \mathcal L(V,W)\) 使得对于任意 \(1\leq i\leq n\) 有 \(Tv_i=w_i\)。

• 定义 3.1.4（\(\mathcal L(V,W)\) 上的加法和乘法）：设 \(S,T\in \mathcal L(V,W),\lambda \in\mathbb F\)，定义 \(S+T\) 为映射使得 \((S+T)(v)=Sv+Tv\)，定义 \(\lambda T\) 为映射使得 \((\lambda T)v=\lambda (Tv)\)。

  容易验证 \(S+T,\lambda T\) 都是线性映射。

• 引理 3.1.5：\((\mathcal L(V,W),\mathbb F,+,\times,0)\) 是向量空间。

• 定义 3.1.6（线性映射的乘积）：设 \(T\in \mathcal L(U,V),S\in \mathcal L(V,W)\)，定义映射 \(ST\) 使得 \((ST)(v)=S(Tv)\)。

  容易验证 \(ST\) 是线性映射。

• 引理 3.1.7（线性映射乘积的代数算律）：在适应的定义下：

  • 结合律：\((T_1T_2)T_3=T_1(T_2T_3)\)。
  • 单位元：\(TI=IT=T\)。
  • 分配律：\((S_1+S_2)T=S_1T+S_2T\)，\(S(T_1+T_2)=ST_1+ST_2\)。

• 引理 3.1.8：设 \(T\in \mathcal L(V,W)\)，则 \(T(0)=0\)。

  证明：\(T(0)=T(0+0)=T(0)+T(0)\)。

3.2 零空间与值域

• 定义 3.2.1（零空间）：设 \(T\in \mathcal L(V,W)\)，定义 \(T\) 的零空间为 \(\operatorname{null} T=\{v\in V:Tv=0\}\)。

• 引理 3.2.2：设 \(T\in \mathcal L(V,W)\)，则 \(\operatorname{null} T\) 是 \(V\) 的子空间。

• 引理 3.2.3：设 \(T\in \mathcal L(V,W)\)，则 \(T\) 是单射当且仅当 \(\operatorname{null} T=\{0\}\)。

• 定义 3.2.4（值域）：设 \(T\in \mathcal L(V,W)\)，记 \(T\) 的值域为 \(\operatorname{range}T\)。

• 引理 3.2.5：设 \(T\in \mathcal L(V,W)\)，则 \(\operatorname{range} T\) 是 \(W\) 的子空间。

• 引理 3.2.6（线性映射基本定理）：设 \(V\) 是有限维的，\(T\in \mathcal L(V,W)\)，则 \(\operatorname{range} T\) 是有限维的且 \(\dim T=\dim \operatorname{null} T+\dim \operatorname{range} T\)。

  证明：考虑 \(\operatorname{null} T\) 的一组基 \(u_1,\cdots,u_m\)，将其扩充为 \(V\) 的一组基得到 \(u_1,\cdots,u_m,v_1,\cdots,v_n\)。考虑证明 \(Tv_1,\cdots,Tv_n\) 为 \(\operatorname{range} T\) 的一组基。

• 引理 3.2.7：设 \(V,W\) 是有限维的且 \(\dim V>\dim W\)，则 \(V\) 到 \(W\) 的线性映射一定不是单射。

• 引理 3.2.8：设 \(V,W\) 是有限维的且 \(\dim V<\dim W\)，则 \(V\) 到 \(W\) 的线性映射一定不是满射。

• 引理 3.2.9：设 \(v_1,\cdots,v_n\) 是 \(V\) 的基，\(T\in\mathcal L(V,W)\) 是单射，那么 \(Tv_1,\cdots,Tv_n\) 是 \(\operatorname{range} T\) 的基。

  证明：\(a_1Tv_1+\cdots+a_nTv_n\) 两两不同等价于 \(T(a_1v_1+\cdots+a_nv_n)\) 两两不同。

3.3 矩阵

• 定义 3.3.1（矩阵）：设 \(m,n\) 都是正整数，\(m\times n\) 的矩阵 \(A\) 是从 \(\mathbb Z_{1..m}\times \mathbb Z_{1..n}\) 到 \(\mathbb F\) 的映射。

• 定义 3.3.2（线性映射的矩阵）：设 \(T\in \mathcal L(V,W)\)，\(v_1,\cdots,v_n\) 是 \(V\) 的基，\(w_1,\cdots,w_m\) 是 \(W\) 的基，定义 \(T\) 关于这两组基的矩阵为 \(m\times n\) 的矩阵 \(\mathcal M(T)\) 满足 \(Tv_i=\mathcal M(T)_{1,i}w_1+\cdots+\mathcal M(T)_{m,i}w_m\)。

  如果基在上下文中是不自明的，则使用记号 \(\mathcal M(T,(v_1,\cdots,v_n),(w_1,\cdots,w_m))\)。

在本书的剩余部分，除特殊说明外，总设 \(v_1,\cdots,v_n\) 是 \(V\) 的基，\(w_1,\cdots,w_m\) 是 \(W\) 的基。

• 定义 3.3.3（矩阵的加法和标量乘法）：略。
• 定义 3.3.4（矩阵乘法）：略。
• 引理 3.3.5：在适应的定义下：
  • \(\mathcal M(S+T)=\mathcal M(S)+\mathcal M(T)\)。
  • \(\mathcal M(\lambda T)=\lambda \mathcal M(T)\)。
  • \(\mathcal M(ST)=\mathcal M(S)\mathcal M(T)\)。
• 引理 3.3.6：$\mathcal M $ 是线性映射。

3.4 可逆性与同构的向量空间

• 定义 3.4.1（可逆和逆）：设 \(T\in \mathcal L (V,W)\)，称 \(T\) 为可逆的，当且仅当 \(T\) 是双射，记它的逆 \(T^{-1}\) 为 \(T\) 的逆映射。

• 引理 3.4.2：设 \(T\in \mathcal L (V,W)\) 且 \(T\) 是可逆的，则 \(T^{-1}\) 是线性映射。

• 定义 3.4.3（同构）：若 \(V,W\) 间存在可逆映射，则称 \(V,W\) 是同构的。

• 引理 3.4.4：设 \(V,W\) 是有限维的，则 \(V,W\) 是同构的当且仅当 \(\dim V=\dim W\)。

  证明：考虑 \(V\) 的一组基 \(v_1,\cdots,v_n\)，证明 \(Tv_1,\cdots,Tv_m\) 是 \(W\) 的一组基即可。而反过来推可以使用引理 3.1.3。

引理 3.4.4 表明，有限维线性空间总是同构于某个 \(n\) 对应的 \(\mathbb F^n\)。

• 引理 3.4.5：设 \(V,W\) 是有限维的，则 \(\mathcal L(V,W)\) 是有限维的且 \(\dim \mathcal L(V,W)=\dim V\times \dim W\)。

  证明：设 \(n=\dim V,m=\dim W\)，考虑证明 \(\mathcal M:\mathcal L(V,W)\to \mathbb F^{n\times m}\) 是双射。$\mathcal M $ 是单射即证不同的线性变换对应的矩阵不同，$\mathcal M $ 是满射即证任意矩阵都有对应的线性变换。

• 定义 3.4.6（向量的矩阵）：设 \(v\in V\)，定义 \(\mathcal M(v)\) 为 \(n\times 1\) 的矩阵满足 \(v=\mathcal M(v)_{1}v_1+\cdots+\mathcal M(v)_nv_n\)。

• 引理 3.4.7：在适应的定义下，\(\mathcal M(Tv)=\mathcal M(T)\mathcal M(v)\)。

• 定义 3.4.8（算子）：称 \(V\) 到 \(V\) 自身的线性映射为 \(V\) 的算子，记为 \(\mathcal L(V)\)。

• 引理 3.4.9：设 \(V\) 是有限维的，\(T\in \mathcal L(V)\)，则下述命题等价：

  1. \(T\) 是双射。
  2. \(T\) 是单射。
  3. \(T\) 是满射。

  证明：根据 \(\dim T=\dim\operatorname{null} T+\dim\operatorname{range} T\) 可推知。

3.5 向量空间的积与商

• 定义 3.5.1（向量空间的积）：设 \(V_1,\cdots,V_m\) 均为向量空间，则定义它们的积为它们的笛卡尔积。规定它们的积上的加法为 \((u_1,\cdots,u_m)+(v_1,\cdots,v_m)=(u_1+v_1,\cdots,u_m+v_m)\)，标量乘法为 \(\lambda(v_1,\cdots,v_m)=(\lambda v_1,\cdots,\lambda v_m)\)。

• 引理 3.5.2：向量空间的积是向量空间。

• 引理 3.5.3：设 \(V_1,\cdots,V_m\) 均为有限维向量空间，那么 \(V_1\times \cdots\times V_m\) 也是有限维向量空间，且 \(\dim(V_1\times \cdots\times V_m)=\dim V_1+\cdots+\dim V_m\)。

• 引理 3.5.4：设 \(U_1,\cdots,U_m\) 均为 \(V\) 的子空间，则 \(U_1+\cdots+U_m\) 是直和当且仅当在 \(\Gamma(u_1,\cdots,u_m):=u_1+\cdots+u_m\) 定义下的 \(\Gamma:U_1\times \cdots\times U_m\to U_1+\cdots+U_m\) 为单射。

  证明：等价于对于任意 \((u_1,\cdots,u_m)\neq (v_1,\cdots,v_m)\) 有 \(u_1+\cdots+u_m\neq v_1+\cdots+v_m\)。

• 引理 3.5.5：设 \(U_1,\cdots,U_m\) 是 \(V\) 的子空间且均为有限维的，那么 \(U_1+\cdots+U_m\) 是直和当且仅当 \(\dim(U_1+\cdots+U_m)=\dim U_1+\cdots+\dim U_m\)。

  证明：由引理 3.5.4 可知，\(\dim U_1+\cdots+\dim U_m=\dim\operatorname{null} \Gamma+\dim(U_1+\cdots+U_m)\)。

• 定义 3.5.6（仿射子集和平行）：设 \(v\in V\)，\(U\) 是 \(V\) 的子空间，则称 \(v+U:=\{v+u:u\in U\}\) 是 \(V\) 的仿射子集，称 \(v+U\) 平行于 \(U\)。

• 定义 3.5.7（商空间）：设 \(U\) 是 \(V\) 的子空间，定义 \(V/U:=\{v+U:v\in V\}\)。

• 引理 3.5.8：设 \(U\) 是 \(V\) 的子空间，\(v,w\in V\)，则下述命题等价：

  1. \(v-w\in U\)。
  2. \(v+U=w+U\)。
  3. \((v+U)\cap (w+U)\neq \varnothing\)。

• 定义 3.5.9（商空间上的加法和标量乘法）：设 \(U\) 是 \(V\) 的子空间， \(v,w\in V\)，\(\lambda \in \mathbb F\)，定义 \((v+U)+(w+U):=(v+w)+U\)，\(\lambda(v+U):=(\lambda v)+U\)。

  容易证明，该定义是良的。

• 引理 3.5.10：设 \(U\) 是 \(V\) 的子空间，则 \((V/U)\) 是向量空间。

• 定义 3.5.11（商映射）：设 \(U\) 是 \(V\) 的子空间，定义 \(\pi:V\to U/V\) 使得 \(\pi(v):=v+U\)。

• 引理 3.5.12：商映射是线性映射。

• 引理 3.5.13：设 \(V\) 是有限维的，\(U\) 是 \(V\) 的子空间，则 \(\dim V/U=\dim V-\dim U\)。

  证明：利用构造的商映射证明。

• 定义 3.5.14：设 \(T\in\mathcal L(V,W)\)，定义 \(\tilde T:V/\operatorname{null} T\to W\) 使得 \(\tilde T(v+\operatorname{null} T):=Tv\)。

  容易证明，该定义是良的。

实际上，\(V/\operatorname{null} T\) 实际上将 \(V\) 中元素划分为若干个等价类，每类中经过 \(T\) 变换后得到的值相同，而这些等价类显然依然满足线性性质。

• 引理 3.5.15：设 \(T\in \mathcal L(V,W)\)，则：
  1. \(\tilde T\) 是线性映射。
  2. \(\tilde T\) 是单射。
  3. \(\operatorname{range} \tilde T=\operatorname{range} T\)。
  4. \(V/\operatorname{null} T\) 同构于 \(\operatorname{range} T\)。

3.6 对偶

//该章节需更深理解

由于本节作者感觉很难理解，所以会有很多感性部分，证明的大多目的也是为了帮助理解。

• 定义 3.6.1（对偶空间和线性泛函）：定义 \(V':=\mathcal L(V,\mathbb F)\) 为 \(V\) 的对偶空间，其中的元素为 \(V\) 的线性泛函。

• 引理 3.6.2：\(\dim V=\dim V'\)。

  证明：由 \(\dim \mathcal L(V,W)=\dim V\dim W\) 可知。

• 定义 3.6.3（对偶基）：设 \(v_1,\cdots,v_n\) 是 \(V\) 的基，则 \(v_1,\cdots,v_n\) 的对偶基是 \(V'\) 中的元素 \(\varphi_1,\cdots,\varphi_n\)，其中每个 \(\varphi_j\) 都是 \(V\) 上的线性泛函，使得 \(\varphi_j(v_k):=[j=k]\)（注意 \(\varphi_j\) 是被唯一定义的）。

\(\varphi_j(v)\) 可以看成是提取 \(v\) 的第 \(j\) 维坐标。

• 引理 3.6.4：设 \(V\) 是有限维的，则 \(V\) 的任意一个基的对偶基都是 \(V'\) 的基。

  证明：\(f(v)=f(\sum a_iv_i)=\sum a_if(v_i)\)，所以我们只需要关心 \(f(v_1),\cdots,f(v_n)\) 的取值即可，那么只需对应地构造 \(f=f(v_1)\varphi_1+\cdots+f(v_n)\varphi_n\) 即可。

\(V\) 中向量是由给 \(V\) 的基赋予系数得到的，\(V\) 到 \(\mathbb F\) 的线性映射（即 \(V'\) 中的元素）是由给 \(V\) 的基赋予权重得到的。

• 定义 3.6.5（对偶映射）：设 \(T\in\mathcal L(V,W)\)，定义 \(T\) 的对偶映射为 \(T'\in \mathcal L(W',V')\) 使得 \(T'(\varphi)=\varphi\circ T\)（\(f(g(x))=(f\circ g)(x)\)）。

给一个函数 \(\varphi\) 套一层 \(T'\) 就是先进行 \(T\) 再进行 \(\varphi\)。

可以理解为，\(\varphi(w)\) 就是根据 \(W\) 的基的权重直接计算 \(w\in W\) 对应的权重，而 \((T'(\varphi))(v)\) 就是要把 \(v\in V\) 先经过线性变换 \(T\) 转到 \(W\) 空间中，再根据 \(W\) 的基的权重进行计算其对应权重。

• 引理 3.6.6：在适应的定义下：

  1. \((S+T)'=S'+T'\)。
  2. \((\lambda T)'=\lambda T'\)。
  3. \((ST)'=T'S'\)。

  证明：3：\((ST)'(\varphi)=\varphi\circ (ST)=(\varphi\circ S)\circ T=T'(S'(\varphi))\)。

• 定义 3.6.7（零化子）：设 \(U\subseteq V\)，定义 \(U\) 的零化子为 \(U^0:=\{\varphi\in V':\forall_{u\in U},\varphi(u)=0\}\)。

考虑这个奇怪的定义，我们进一步挖掘它的一些性质。考虑包含 \(U\) 的最小子空间（即 \(\operatorname{span} U\)）为 \(U'\)，那么根据线性性质可知对 \(U'\) 中的元素来说 \(\varphi(u)=0\) 仍成立（且这是 \(\forall_{u\in U},\varphi(u)=0\) 的等价条件），于是我们找到 \(U'\) 的一组基 \(v_1,\cdots,v_n\)，将其扩展为 \(V\) 的基得到 \(v_1,\cdots,v_n,w_1,\cdots,w_m\)。前面我们说过，\(\varphi\) 相当于是给 \(V\) 的基中的每个向量赋予权重得到，那么发现 \(\forall_{u\in U'},\varphi(u)=0\) 的条件就是 \(v_1,\cdots,v_n\) 的权重为 \(0\)，而 \(w_1,\cdots,w_m\) 的权重任取。

• 引理 3.6.8：设 \(U\subseteq V\)，则 \(U^0\) 是 \(V'\) 的子空间。

• 引理 3.6.9：设 \(V\) 是有限维的，\(U\) 是 \(V\) 的子空间，则 \(\dim U+\dim U^0=\dim V\)。

• 引理 3.6.10：设 \(T\in\mathcal L(V,W)\)。

  1. \(\operatorname{null} T'=(\operatorname{range} T)^0\)。

     证明：使得 \(T'(\varphi)=\varphi\circ T=0\) 的 \(\varphi\)，必定是使得 \(\varphi (\operatorname{range} T)=0\)（\(\forall_{w\in\operatorname{range} T},\varphi(w)=0\)）的 \(\varphi\)。

  2. \(\dim \operatorname{null} T'=\dim \operatorname{null} T+\dim W-\dim V\)。

     证明：\(\dim\operatorname{null} T'=\dim(\operatorname{range} T)^0=\dim W-\dim \operatorname{range} T=\dim W-(\dim V-\dim \operatorname{null} T)\)。

• 引理 3.6.11：\(T\) 是满的等价于 \(T'\) 是单的。

  证明：\(T\) 是满的当且仅当 \(\operatorname{range} T=W\)，当且仅当 \((\operatorname{range} T)^0=\{0\}\)，当且仅当 \(\operatorname{null} T'=\{0\}\)，当且仅当 \(T'\) 是单的。

• 引理 3.6.12：设 \(V\) 和 \(W\) 都是有限维的，\(T\in \mathcal L(V,W)\)。

  1. \(\dim\operatorname{range} T'=\dim \operatorname{range} T\)。

     证明：若 \(\varphi_1,\varphi_2\in\mathcal L(W,\mathbb F)\) 使得 \(\varphi_1\circ T\neq \varphi_2\circ T\)，说明存在 \(v\in V\) 使得 \((\varphi_1\circ T)(v)\neq (\varphi_2\circ T)(v)\)，说明存在 \(w\in\operatorname{range} T\) 使得 \(\varphi_1(w)\neq \varphi_2(w)\)。考虑 \(\operatorname{range} T\) 的任意一组基 \(v_1,\cdots,v_n\) 并将其扩充至 \(W\) 得到 \(v_1,\cdots,v_n,w_1,\cdots,w_m\)，那么上述条件等价于 \(\varphi_1\) 和 \(\varphi_2\) 给 \(v_1,\cdots,v_n\) 设置的权重不同。

  2. \(\operatorname{range} T'=(\operatorname{null} T)^0\)。

     证明：设 \(\operatorname{null} T\) 的基为 \(w_1,\cdots,w_m\)，扩充成为 \(V\) 的基得到 \(v_1,\cdots,v_n,w_1,\cdots,w_n\)，那么 \(Tv_1,\cdots,Tv_n\) 就是 \(\operatorname{range} T\) 的基。那么对于任意 \(\varphi\in\mathcal L(W,\mathbb F)\)：

     \[\begin{aligned} &(\varphi\circ T)(a_1v_1+\cdots+a_nv_n+b_1w_1+\cdots+b_mw_m)\\ =&a_1\varphi(Tv_1)+\cdots+a_n\varphi(Tv_n)+\varphi(T(b_1w_1+\cdots+b_mw_m))\\ =&a_1\varphi(Tv_1)+\cdots+a_n\varphi(Tv_n) \end{aligned} \]

     而 \(\operatorname{range} T'\) 就是相当于给 \(\varphi(Tv_1),\cdots,\varphi(Tv_n)\) 任意设置权重所形成的所有线性泛函。

     而注意到上式可以看成给 \((\varphi\circ T)v_1,\cdots,(\varphi\circ T)v_n\) 任意设置权重所形成的的所有线性泛函，那其实也就是 \((\operatorname{null} T)^0\)（注意为使 \(\operatorname{null} T\) 映到 \(0\) 则 \(w_1,\cdots,w_n\) 的权重都应是 \(0\)，这也是吻合的）。

• 引理 3.6.13：设 \(V\) 和 \(W\) 都是有限维的，\(T\in\mathcal L(V,W)\)，则 \(T\) 是单的等价于 \(T'\) 是满的。

  证明：\(T\) 是单的，等价于 “若 \(V\) 的基是 \(v_1,\cdots,v_n\)，则 \(\operatorname{range} T\) 的基是 \(Tv_1,\cdots,Tv_n\)”，而根据引理 3.6.12 证明的类似推法，给 \(Tv_1,\cdots,Tv_n\) 设置权重等价于给 \((\varphi\circ T)v_1,\cdots,(\varphi\circ T)v_n\) 设置权重，所以等价于 \(V\) 的任意线性泛函都能取到，即 \(T'\) 是满的。

//可以看出，原书作者对于对偶的理解已经很深入了，以致于不用每次像我都要重新用基的定义来解释一遍引理，而是直接有个明确的方向感推推式子就完了。换言之，每条引理在作者脑海中都已有一个简洁而直观的含义。但我目前还没找到正确的对于对偶的理解方式。

• 定义 3.6.14（转置）：略。

• 引理 3.6.15：设 \(V\) 和 \(W\) 都是有限维的，\(T\in \mathcal L(V,W)\)，则 \(\mathcal M(T')=\mathcal M(T)^{\mathsf{T}}\)。

  证明：设 \(A=\mathcal M(T),C=\mathcal M(T')\)。

  实际上，由于 \(T'(\varphi)=\varphi\circ T\)，所以 \(T'(\varphi)\) 可以理解为，给定 \(w_1,\cdots,w_m\) 关于 \(\varphi\) 的权重以及 \(T:V\to W\)，现在要反推出 \(v_1,\cdots,v_n\) 的关于 \((\varphi\circ T)\) 的权重，这只需要做个代入即可：\(v_i\) 的权重就是 \(\varphi(Tv_i)\) 的值，而 \(\varphi(Tv_i)=\varphi(A_{1,i}w_1+\cdots+A_{n,i}w_n)=A_{1,i}\varphi(w_1)+\cdots+A_{n,i}\varphi(w_n)\)。所以 \(C_{i,j}\) 处（即 \(w_j\) 对 \(v_i\) 的贡献）就应该填 \(A_{j,i}\)（即 \(v_i\) 分解后 \(w_j\) 处的系数）。那么 \(C=A^{\mathsf{T}}\)。

• 引理 3.6.16：在适应的定义下，矩阵 \(A,C\) 满足 \((AC)^{\mathsf{T}}=C^\mathsf{T}A^\mathsf{T}\)。

结合引理 3.6.15 中所述的 \(\mathcal M(T')\) 的 “逆推” 含义，引理 3.6.16 应该是很直观的。

//事实上，由矩阵的角度，容易看出 \((T')'=T\)。但从对偶映射的角度来看好像并不是很显然。

• 定义 3.6.17（行秩和列秩）：行秩就是矩阵的每一行对应的向量张成空间的维数，列秩就是矩阵的每一列对应的向量张成空间的维数。

• 引理 3.6.18：设 \(V\) 和 \(W\) 都是有限维的，\(T\in\mathcal L(V,W)\)，则 \(\mathcal M(T)\) 的列秩等于 \(\dim\operatorname{range} T\)。

  证明：\(\mathcal M(T)\) 的每一列向量即 \(Tv_1,\cdots,Tv_n\)，它们的张成空间就是 \(\operatorname{range} T\)。

• 引理 3.6.19：设 \(A\) 为 \(m\) 行 \(n\) 列的矩阵，则 \(A\) 的行秩等于 \(A\) 的列秩。

  证明：转为证明 \(A\) 的列秩等于 \(A^{\mathsf T}\) 的列秩，即 \(\dim \operatorname{range} T=\dim\operatorname{range} T'\)。