摘要: 主成分分析(PCA)的主要作用是降低数据的维度,提取其主要特征,因为现实中很多数据都是很稀疏的,通过提取主要特征过滤噪音发现其潜在的规律;核函数表示了两个数据之间的相似性。那么这两者之间存在什么样的关系?直观上理解,PCA和核侧重的是两个相反的方向,下面给出解释。考虑下面的高斯核,,x,y代表了两个数据点,j代表了数据的不同特征,D是特征数此时协方差矩阵为对角矩阵,当不是对角矩阵的时候,可以通过相似变换到一个对角矩阵。由以上可知,如果,那么相应的维度等于0,从而可以忽略掉,因为加上一个0不会改变原来的值,我们更关心方差较小的那些特征。另一方面,从PCA的角度考虑,如果,说明数据在该特征上区分度 阅读全文
posted @ 2013-06-28 14:34 lijiankou 阅读(1914) 评论(0) 推荐(0) 编辑