Full Regularization Path for Sparse Principal Component Analysis

在这里插入图片描述

背景

懒得说了,毕竟和上一篇作者都是一个人,有特殊的情况是,上次做的复杂度过大,这次降低了复杂度。

Notation

在这里插入图片描述

Sparse PCA

在上篇论文里面,也提到了这个式子。上次是用它来进行一个robust的解释,这一次,是来试图解决这个问题。
在这里插入图片描述

\(\Sigma_{ii} \quad i=1,2,\ldots,n\),为\(\Sigma\)的特征值,且降序排列。
首先,考虑,\(\rho > \Sigma_{11}\)的时候,
在这里插入图片描述
所以,\(z=0\)
再考虑, \(\ro < \Sigma_{11}\),令\(u\in\{0, 1\}^{n}\)
在这里插入图片描述
通过最大化\(u\),可得
在这里插入图片描述

Semidefinite Relaxation

为了求解上面的问题,需要做一些改变,和上篇论文,思想差不多。

在这里插入图片描述

在这里插入图片描述

问题是凸的不是凹的,这样没法求最大值。所以(其实没怎么懂),改,
在这里插入图片描述
在这里插入图片描述

Low Rank Optimization

但是呢,求解这个问题比较费时,所以又转换思路,欲将\(X\)分解,从这以后,我就没怎么看了,所以也不怎么懂(估计看了也不怎么懂。)

在这里插入图片描述

Sorting and Thresholding

这里讲怎么选特征?
在这里插入图片描述
为了节省计算成本,做了一些改进:
在这里插入图片描述

反正我觉得上面俩种方法都蛮蠢的。

posted @ 2019-03-14 08:50  馒头and花卷  阅读(272)  评论(0编辑  收藏  举报