MIT线性代数公开课学习笔记第31~35课
三十一、线性变换及对应矩阵
定义线性变换：
表示的是n维列向量到m维列向量的映射，该映射是可以线性组合的，即：
线性变换T可以用\(m\times n\)矩阵A表示：
考虑已知\(\mathbb{R}^n\)下的一组基\(V=(v_1,\cdots,v_n)\)，以及\(\mathbb{R}^m\)下的一组基\(W=(w_1,\cdots,w_m)\),
若已知向量\(v=c_1v_1+\cdots+c_nv_n\)，即c在基V下的坐标，则\(T(v)=c_1T(v_1)+\cdots+c_nT(v_n)\)，只要知道了每个\(T(v_i)\)是怎样由基\(W\)线性表示的，就能知道\(T(v)\)在基W下的坐标了
其中，
对于线性变换\(T:V\to W\)，若已知向量v在基V下的坐标为向量x，即\(v=Vx\)，现在要求的是其经过线性变换\(T:V\to W\)后，在基W下的坐标\(y\)，即\(v=Wy\)，则
所以\(y=Ax\)
三十二、基变换和图像压缩
基变换
已知\(\mathbb R^n\)下的两组基\(A=(\alpha_1,\cdots,\alpha_n)\)，\(B=(\beta_1,\cdots,\beta_n)\)，则
\(K_{AB}\)是基A到基B的变换矩阵，是可逆阵
向量\(v\)在\(A\)下的坐标向量\(x\)、\(v\)在\(B\)下的坐标向量\(y\)有如下关系：
图像压缩
傅里叶变换实现图像压缩
将照片划分为若干\(8\times 8\)大小小块，每块可以视为一个64维向量\(x\)，用64个标准基表示，作如下变换：
-
令\(F_{64}\)为64阶傅里叶矩阵，其中64个列向量构成一组傅里叶基\(F_{64}=(\alpha_1,\cdots,\alpha_{64})\)，
-
设\(x\)在傅里叶基下的坐标为\(y\)，则\(x=F_{64}y\)，\(y=F_{64}^Hx\)(利用了傅里叶矩阵是酉矩阵的性质)，\(y_i=\alpha_1y_1+\cdots+\alpha_{64}y_{64}\)，这一步是无损压缩
-
再设置一个阈值\(t\)，将小于t的\(\alpha_i\)都设为0，得到新的数据\(y'\)，这一步是有损压缩
-
信号重构：重构结果\(x'=F_{64}y'\)
从而
注意，其中傅里叶矩阵及其酉矩阵，与向量作乘法的过程，可以用FFT优化
小波变换实现图像压缩
以\(\mathbb R^8\)的小波基为例：
后面三个小波基分别为：
\((0,0,1,-1,0,0,0,0)^T\),\((0,0,0,0,1,-1,0,0)^T\),\((0,0,0,0,0,0,1,-1)^T\)
这些小波基构成的矩阵\(W\)有很好的性质：\(WW^T=nI\)，即将每个小波基单位化后的矩阵是正交阵，这就可以快速地对W求逆了
然后类似于傅里叶变换的方法对图像进行压缩即可
三十四、左右逆和伪逆
设\(A\in \mathbb R^{m\times n}\)，分情况讨论：
r(A)=m=n
此时A为可逆方阵，\(A^{-1}\)存在
r(A)=n<m
此时A为列满秩，\(N(A)=\{0\}\)，\(r(A^TA)=r(A)=n\)，\(A^TA\)可逆：
称\((A^TA)^{-1}A^T\)为A的左逆
r(A)=m<n
此时A为行满秩，\(N(A)=\{0\}\)，\(r(AA^T)=r(A)=m\)，\(AA^T\)可逆：
称\(A^T(AA^T)^{-1}\)为A的右逆
r(A)<m,r(A)<n
此时A存在伪逆，对A进行SVD分解：
其中，
- 1.取$$\Sigma^+=\begin{pmatrix}
\frac {1}{\sigma_1}\
& \ddots\
&& \frac 1 {\sigma_{r(A)}}\
&&& 0
\end{pmatrix}_{n\times m}$$
A的伪逆为：
则有
