Full Regularization Path for Sparse Principal Component Analysis

在这里插入图片描述

背景

懒得说了,毕竟和上一篇作者都是一个人,有特殊的情况是,上次做的复杂度过大,这次降低了复杂度。

Notation

在这里插入图片描述

Sparse PCA

在上篇论文里面,也提到了这个式子。上次是用它来进行一个robust的解释,这一次,是来试图解决这个问题。
在这里插入图片描述

(Sigma_{ii} quad i=1,2,ldots,n),为(Sigma)的特征值,且降序排列。
首先,考虑,( ho > Sigma_{11})的时候,
在这里插入图片描述
所以,(z=0)
再考虑, ( o < Sigma_{11}),令(uin{0, 1}^{n})
在这里插入图片描述
通过最大化(u),可得
在这里插入图片描述

Semidefinite Relaxation

为了求解上面的问题,需要做一些改变,和上篇论文,思想差不多。

在这里插入图片描述

在这里插入图片描述

问题是凸的不是凹的,这样没法求最大值。所以(其实没怎么懂),改,
在这里插入图片描述
在这里插入图片描述

Low Rank Optimization

但是呢,求解这个问题比较费时,所以又转换思路,欲将(X)分解,从这以后,我就没怎么看了,所以也不怎么懂(估计看了也不怎么懂。)

在这里插入图片描述

Sorting and Thresholding

这里讲怎么选特征?
在这里插入图片描述
为了节省计算成本,做了一些改进:
在这里插入图片描述

反正我觉得上面俩种方法都蛮蠢的。

原文地址:https://www.cnblogs.com/MTandHJ/p/10527969.html