pca和svd

pca主要用于去噪，降纬。

pca的主要功能就是在最大成都上保留原有数据特征的前提下缩减数据的纬度。

过程:对于矩阵A，首先求它的协方差矩阵，然后求协方差矩阵的特征向量，特征向量对应的特征值排序，

取前几个特征值对应的特征向量构成的新向量构成的矩阵B，AB得到的新矩阵即为目标矩阵。

svd又叫奇异值分解，在说svd之前先来说下evd，对于实对称矩阵A，总可以写成

𝐴=𝑄Σ𝑄𝑇

𝑄是矩阵A的特征向量构成的矩阵，Σ 是对角线是矩阵A的特征值的矩阵

svd：

A=UΣVT

可以看出如果A是实对称阵的化 U=V

因此可以认为svd是evd的扩展。

 

𝜎i=√λ￣

ui = 1/𝜎i A vi