1.6 Transposes, Permutations, Vector Spaces 阅读笔记

矩阵转置，置换以及PA=LU分解

reference的内容为唯一教程，接下来的内容仅为本人的课后感悟，对他人或无法起到任何指导作用。

Reference

1. Course website: Transposes, Permutations, Vector Spaces | Unit I: Ax = b and the Four Subspaces | Linear Algebra | Mathematics | MIT OpenCourseWare
2. Course video: 麻省理工公开课：线性代数-转置-置换-向量空间R-网易公开课 (163.com)
3. Course summary: Transposes, Permutations, Vector Spaces (mit.edu)
4. Extra reading: Section 2.7 in Introduction to Linear Algebra, Fifth Edition by Gilbert Strang.

---

决定把Vector Space的部分放到后面写，这一部分承接1.5的A=LU分解，探索如果出现行交换的话怎么表示。

如果消元法需要行交换的话，我们实操中大概是边消元边行交换的，但是为了能用矩阵表示，我们可以把行交换和消元的过程分开，要么先行交换再消元，要么先消元再行交换。行交换可以用置换（Permutation）矩阵表示，而且置换矩阵有一些比较有趣的性质。

由于性质涉及矩阵转置，因此先介绍矩阵转置。

好像没什么用啊。

Transpose

完全不想介绍了。

定义：

\[(\mathbf{A}^{\mathrm{T}})_{ij}=\mathbf{A}_{ji} \]

性质：

\[\begin{align*} (\mathbf{A}+\mathbf{B})^\mathrm{T}&=\mathbf{A}^\mathrm{T}+\mathbf{B}^\mathrm{T}\\ (\mathbf{AB})^\mathrm{T}&=\mathbf{B}^\mathrm{T}\mathbf{A}^\mathrm{T}\\ (\mathbf{A}^{-1})^\mathrm{T}&=(\mathbf{A}^\mathrm{T})^{-1} \end{align*} \]

向量的点积可以用矩阵乘法表示：

\[\begin{align*} \mathbf{x}\cdot\mathbf{y}&=\mathbf{x}^\mathrm{T}\mathbf{y}\\ \mathbf{Ax}\cdot\mathbf{y}=(\mathbf{Ax})^\mathrm{T}\mathbf{y}&=\mathbf{x}^\mathrm{T}\mathbf{A}^\mathrm{T}\mathbf{y}=\mathbf{x}\cdot(\mathbf{A}^\mathrm{T}\mathbf{y}) \end{align*} \]

对称矩阵：

\[\begin{align*} \mathbf{S}^\mathrm{T}&=\mathbf{S}\\ (\mathbf{S}^{-1})^\mathrm{T}=&(\mathbf{S}^\mathrm{T})^{-1}=\mathbf{S}^{-1}\\ (\mathbf{A}^\mathbf{T}\mathbf{A})^\mathrm{T}=&\mathbf{A}^\mathrm{T}(\mathbf{A}^\mathrm{T})^\mathbf{T}=\mathbf{A}^\mathrm{T}\mathbf{A}\\ \mathbf{S}=\mathbf{S}^\mathrm{T}\Rightarrow\mathbf{LDU}&=\mathbf{U}^\mathrm{T}\mathbf{D}\mathbf{L}^\mathrm{T}\Rightarrow\mathbf{U}=\mathbf{L}^\mathrm{T} \end{align*} \]

Permutation

离散数学学的概念，具体的忘了，只记得就是一种把顺序数列打乱顺序的一种方法。行交换就是置换，变换之前的行是按顺序编号的，交换之后顺序发生改变。

3行的置换有6种，123->123 | 123->132 | 123->213 | 123->321 | 123->231 | 123->312。

置换不只是一次两两交换，比如 123->231 和 123->312。但是置换可以用多次两两交换得到。

\(n\)行的置换有\(A_n^n=n!\)种。

行交换/置换可以用矩阵表示，对单位矩阵\(\mathbf{I}\)做行交换，打乱行顺序就能得到置换矩阵\(\mathbf{P}\)，左乘矩阵\(\mathbf{A}\)上就能对矩阵的行进行和对单位矩阵一样的行交换。

\(\mathbf{P}^{-1}\)也是置换矩阵，因为逆着顺序行变换也属于行变换。更重要的是：\(\mathbf{P}^{-1}=\mathbf{P}^\mathrm{T}\)。为什么呢？设\(\mathbf{P}_{4\times4}=\mathbf{P}_{12}\mathbf{P}_{34}\)表示交换一二行和三四行。单纯交换两行得到的矩阵仍然是对称的，而且再交换一次就会变回单位阵，因此有\(\mathbf{P}_{ij}^{-1}=\mathbf{P}_{ij}=\mathbf{P}_{ij}^\mathrm{T}\)。因此\(\mathbf{P}^{-1}=\mathbf{P}_{34}^{-1}\mathbf{P}_{12}^{-1}=\mathbf{P}_{34}^\mathrm{T}\mathbf{P}_{12}^\mathrm{T}=(\mathbf{P}_{12}\mathbf{P}_{34})^\mathrm{T}=\mathbf{P}^\mathrm{T}\)。

\(\mathbf{P}^\mathrm{T}\mathbf{P}=\mathbf{I}\)。

PA=LU or A=LPU

先行交换再消元：

\[\mathbf{EPA}=\mathbf{U}\Rightarrow\mathbf{PA}=\mathbf{LU} \]

先消元再行变换：

\[\mathbf{PEA}=\mathbf{U}\Rightarrow\mathbf{A}=\mathbf{LP}^{-1}\mathbf{U} \]

但是因为置换的转置仍然为置换，因此为了好看和方便表示，等式右侧不希望有逆的符号，于是有：

\[\mathbf{P}^{-1}\mathbf{EA}=\mathbf{U}\Rightarrow\mathbf{A}=\mathbf{LPU} \]