简介
数据降维, 是指在某些限定条件下,降低随机变量个数,得到一组不相关主变量的过程
作用:
实现数据可视化
减少模型分析数据量,提升处理效率,降低计算难度
如何实现?
使投影后数据的方差最大,因为方差越大数据也越分散
计算过程:
原始数据预处理(标准化 \(\mu = 0, \sigma = 1\))
计算协方差举止特征向量,及数据在各特征向量投影后的方差
根据需求确定降维维度K
选取K维特征向量,计算数据在其形成空间的投影
PCA与线性回归的根本差异在于:
PCA中的误差是点到直线的距离
即(cost = sqrt((x - x1)^2 + (y - y1)^2))
线性回归中的误差,体现在这个点在直线上的投影与原本点的“y”值之间的差异
即(cost = f(x) - y)
f(x)为拟合出的函数
参考链接
---------------------------我的天空里没有太阳,总是黑夜,但并不暗,因为有东西代替了太阳。虽然没有太阳那么明亮,但对我来说已经足够。凭借着这份光,我便能把黑夜当成白天。我从来就没有太阳,所以不怕失去。
--------《白夜行》