中国径线代式纲要

$\newcommand{\b}{\boldsymbol} \newcommand{\s}{\mathsf} \newcommand{\c}{\mathcal} \newcommand{\d}{\mathrm d} \newcommand{\O}{\operatorname O} \newcommand{\A}{\operatorname A} \newcommand{\span}{\operatorname{span}} \newcommand{\rank}{\operatorname{rank}} \newcommand{\nullity}{\operatorname{nullity}} \newcommand{\tr}{\operatorname{tr}} \newcommand{\bmat}[1]{\begin{bmatrix}#1\end{bmatrix}} \newcommand{\ip}[2]{\left<#1,#2\right>} \newcommand{\ovl}{\overline}$

$\s T^*$ 最好的研究方法，是在单位正交基下，此时有 $[\s T^*]_\beta=[\s T]_\beta^*$ 。需要注意的是，这个操作并不是在任何基下都成立。

Schur 定理表明，只要特征值都存在，那么必然可以使用 单位正交基 上三角化。而如果能成功使用单位正交基 对角化（即，特征向量基），那么其就是正规的。放到矩阵的场合，使用单位正交基来表示，就是酉等价。

自伴必然正规。正规要想自伴，好的方式仍是在单位正交特征向量基下看，此时对角矩阵的分析是容易的。因此，自伴是特征值都为实数的正规。

酉算子是特殊的正规算子：在任意单位正交基的视角下，都是单位正交基矩阵（把单位正交基映成单位正交基）。酉算子的伴随等于逆。

因为酉算子首先是正规算子，所以其在单位正交特征向量基下看，其需要是单位正交的对角矩阵，因此其全体特征值均需有 $1$ 的模长。换言之，全体特征值的模长均为 $1$ 的正规算子就是酉算子。

事实上，从矩阵的角度来理解这个问题，会更加简单。

一个映射的伴随就是它的共轭转置。 $\ip{\b x}{\s T(\b y)}=\ip{\s T^*(\b x)}{\b y}$ 是显然的，因为使用矩阵语言，就能得到二者均等于 $\b y^*A^*\b x$ 。但是注意，这里的 $A$ 需要是在某个单位正交基下，才能有共轭的矩阵表示等于矩阵表示的共轭。同时，要求单位正交基还能让不同正交基间的切换等效于酉变换。

Schur 定理的矩阵等效形式是，任意矩阵都可以使用单位正交基上三角化。这可以使用一种独特的方法证明：任意矩阵都相似于某个上三角矩阵（注意，相似就是基切换，酉变换是在内积空间下更强的表述；这个定理的证明方式是每次剥一个特征向量，在商空间上归纳证明）。对引导该相似的基作 G-S 正交化，即得到酉变换引导的上三角化。（Schur 定理的变换式证明同样也是每次剥掉一个向量，只不过是用正交补语言引导）

酉 (unitary) 矩阵就是正交基。酉矩阵与其共轭转置的积就是在两两向量之间作内积，由单位正交基的定义，其必然会得到单位矩阵。酉矩阵的实等价形式就是正交 (orthogonal) 阵。

正规 (normal) 阵是与转置交换的阵。使用 Schur 定理把它上三角化后，证明正规阵其实是酉等价于对角阵的阵。

自伴 (self-adjoint) 阵是共轭转置等效于自身的阵。首先其正规，把它对角化后，得到自伴阵是全体特征值均为实数的阵。特别地，实自伴阵等效于正规阵等效于对称阵。

特别需要注意的一点是，上述所有定义都不需要在特征多项式分裂的前提下进行。这意味着，正规阵不一定与可对角化阵等价，需要补充特征多项式分裂的前提才可以进行。

还有一个角度是从内积/数值的角度理解。

正规映射的伴随是保范数（ $\|\s T(\b x)\|=\|\s T^*(\b x)\|$ ）的。酉映射是保范数、保内积的。酉映射的特征值是模长全 $1$ 的。正交映射的特征值是全为正负一的。自伴矩阵是特征值全实数的。

证明如酉算子的性质时，可以结合保范数的性质证明。

谱定理虽然唐，但是它的结论还是有意思的。

首先，对于正规算子，其分解得到的 $\s T_1,\dots,\s T_k$ ，满足优雅的 $g(\s T)=\sum g(\lambda_i)\s T_i$ 的性质。这意味着，通过插值，我们可以将一切 $\s T_i$ 的线性组合写成 $\s T$ 的多项式。这难道不牛吗？？也就是说， $\{\s T_i\}$ 和 $\{\s T^i\}$ 这两个集合，本质上是可以互化的！但是，须要注意谱定理的定义必须依托正规性，这点是毋庸置疑的。

diverge a little bit. 看看远处的最小二乘法 & 最小范数解。

最小二乘法希望最小化 $\|\b y-A\b x\|$ 。 $\b y$ 在 $A\b x$ 空间中的投影 $A\b x_0$ 应满足 $\ip{A\b x_0-\b y}{A\b x}=0$ ，推知 $A^*A\b x_0=A^*\b y$ 。

最小范数解希望找到最小的满足 $A\b x=\b b$ 的解。还是不推了，直接上结论：落入 $A^*\b s$ 空间中的 $\b x$ 就是解。

酉等价乃至相似理论建立在左乘 $Q^{-1}$ 并右乘 $Q$ 的基础上。还有一种可行的思路，是左乘 $Q^t$ 并右乘 $Q$ 。由此建立了双线性型理论：双线性型的更换坐标系，对应的矩阵表示就是 $Q^tAQ$ 地变换的。注意：相合矩阵使用的是矩阵的转置而非共轭转置。

实对称矩阵都相合于对角矩阵，并且可以找到一组正交（不一定单位）的基，满足其下的矩阵表示的全体对角项都是 $0$ 或正负一。正定二次型就是该表示下全体对角项都是一的二次型，而半正定即为零或一。

正规是存在单位正交特征向量基的算子。也可以说，能建立一个单位正交坐标系，使得算子在这上面每一维都是标量乘法。因为特征值可能为复，所以也可以说是每一维上的旋转拉伸。

自伴是禁止旋转，只能拉伸、归零或反转（实特征值）。

酉是禁止拉伸，只能旋转（特征值模长为一）。

正定是禁止旋转、归零、反转，只能正向拉伸。

投影是在一些维上不变、一些维上归零（特征值为零或一）。其判定定理是平方不变。

正常变换是把一组单位正交基映到另一组，同时带一个 $\sigma$ 进行拉伸。

其伴随是把它反过来，但与逆不同，仍然用 $\sigma$ 拉伸而非 $\sigma^{-1}$ 。这样，一个变换与其伴随的复合，就是把一组单位正交基映到自己，但是用 $\sigma^2$ 进行拉伸。伴随与其的复合，就是把另一组单位正交基映到自己，同样用 $\sigma^2$ 进行拉伸。这俩东西如果相等，则只能是在本质相同的单位正交基下进行了。