PCA一些性质的定性理解

1、通过本征向量和本征值求主成分

关系:本征值是本征向量的缩放倍数,本征值大的对应的本征向量上的样本的数目就越多;相反本征值越小的,就本征向量上的样本数量就会少。因此可以求出PCA的主成分

主成分分析:主成分大小和本征值的区别在于数据分布所在的“椭圆”的轴的长度是正比于本征值开根号(标准差),不是本征值本身,也就是说本征值越大,分布在该轴上的数据就会越多

2、PCA通过主成分分析降维的思想(用于数据具有很强相关性)

(1)、先对数据进行去均值:求每一列中的平均值,然后再用该平均值将去该列的元素

(2)、每一行去均值之后,然后每个列元素都除于该列的标准差(这一步视情况而定)

(3)、求该矩阵的协方差矩阵

(4)、求协方差矩阵的本征向量和本征值

(5)、取本征值大的对应的本征向量

(6)、将这些本征向量组成一个新的矩阵

(7)、然后利用这个新的矩阵乘于原始的数据矩阵就能实现PCA降维

原文地址:https://www.cnblogs.com/MyUniverse/p/10166020.html