【数据分析师 Level 1 】14.主成分分析

主成分分析的具体方法

主成分分析是一类常用的针对连续变量的降维方法，选取能够最大化解释数据变异的成分，将数据从高维降到低维，同时保证各个维度之间正交。

对变量的协方差矩阵或相关系数矩阵求取特征值和特征向量，经证明，对应最大特征值的特征向量，其方向正式协方差矩阵变异最大的方向。依次类推，第二大特征值对应的特征向量，是与第一个特征向量正交且能最大程度解释数据剩余变异的方向，而每个特征值则能够衡量各方向上变异的程度。因此，进行主成分分析时，选取最大的几个特征值对应的特征向量，并将数据映射在这几个特征向量组成的参考系中，达到降维的目的（选择的特征向量低于原始数据的维数）。

什么是正交

如果一个向量乘以向量的转置或者一个矩阵乘以另一个矩阵的转置都等于一个单位向量，我们称为矩阵为正交矩阵。

主成分分析算法解析

主成分分析算法认为，数据的信息是包含在其方差当中的，如果一个随机变量的方差很小，说明其不确定性较低，或者说即便我们没有获得这个变量的抽样值，也几乎可以用一个确定的值（例如期望值）来代替它，因此引入它只能消除很少的不确定性，即该变量包含的信息较少。相反，一个方差很大的变量，如果能够获得它的抽样值，则可以帮助我们消除很大一部分不确定性，因此它包含的信息较多。

从主成分分析的观点出发，我们就知道下图中投影到哪个轴更加合适了，显然将原始坐标轴旋转到左图当中的U1位置更好，因为数据在这个方向上的变异（方差）更大，而样本在右图的U1方向显然变异更小（图中阴影用于示意离散程度，并不代表方差大小）。

当我们用向量形式表示样本和坐标轴时，样本X_i在向量u上的投影长度为它们的点积X_(i)^Tu

于是我们求N个m维样本点在u方向上的方差，令X_i为中心化之后的样本，即μ_x = 0,则可以使用下公式计算方差：

我们的目标是优化上式，求满足该函数最大化的u，可以使用拉格朗日乘数法，即求满足下式的最大的u：

该式正好是矩阵的特征值分解公式，即协方差矩阵S的特征向量就是我们要找的投影向量，称为“主成分”，lambda正好是对应投影向量方向上数据的方差。根据矩阵特征值分解的性质，可以得到m个“特征值——特征向量”对，其中特征向量两两正交。

由于我们需要抛弃掉变异较小的方向，因此，我们只需要对协方差矩阵进行特征值分解，得到的前k（k<m）大特征值对应的特征向量就要保留k个主成分，且主成分两两正交。得到前k个主成分后，样例X_i通过以下变换可以得到新的样本

主成分分析应用

何时采用相关系数计算方法和协方差矩阵计算方法

在实际研究中，有时单个指标的方差对研究的目的起关键作用，为了达到研究目的，此时用协方差矩阵进行主成分分析恰到好处。相关系数矩阵就是随机变量标准化后的协方差矩阵。通过随机变量的标准化，相关系数矩阵剥离了单个指标的方差，仅保留指标间的相关性，用相关系数矩阵计算主成分，其优势效应仅体现在相关性大，相关指标数多的一类指标上，

主成分法的应用

大致分为三个方面

对数据做综合打分
降维以便对数据进行描述
为聚类或回归等分析提供变量压缩

在应用时要能够判断主成分法的适用性，能够根据需求选取合适的主成分数量。

例题精讲

1.主成分分析计算在选择相关系数计算法时，确定主成分个数的大致原则包括（）？

A.特征根值大于1

B.特征根值大于0.5

C.累积特征根值加总占总特征根值得80%以上

D.累积特征根值加总占总特征根值得50%以上

答案：AC

解析：主成分分析主要考核得到软件的计算结果后如何选择主成分个数，由于主成分一般不具有明确的意义，因此不考核主成分的解释，这会放在因子分析考核。该题是一个很标准的题目，答案可以从任何译本教科书上找到，请注意题干中的“大致原则”，说明该原则在不同的运用场合下选择标准会略有改变。

2.主成分分析计算分为根据相关系数和协方差矩阵两种方式，以下哪种情况适合用相关系数计算（）？

A.变量的量纲不同

B.变量的方差不同

C.变量的标准差不同

D.变量的均值不同

答案：A

解析：主成分是通过最大化线性组合的方差来得到的，所以它对变量的测量尺度非常敏感。比如，若输入变量是“企业销售额（元）”，最大观测和最小观测可以相差几千万，而另一个变量是“企业雇员数”，最大观测和最小观测只相差几千。因为“企业销售额”的方差比“企业雇员数”的方差大得多，所以它会主导主成分分析的结果，使得第一个主成分可能几乎等于“企业销售额”，而忽略了输入变量之间的关系。又比如，使用“万元”作为测量单位和使用“元”作为测量单位，得到的主成分分析的结果会相差很大。在实际应用中，通常首先将各个输入变量进行标准化，使每个变量均值为零，方差为1，这等价于使用相关系数矩阵R替代方差-协方差矩阵来进行主成分分析。