简单推导 PCA

考虑二维数据降低到一维的例子，如下图所示：

最小化投影方差（maximize projected variance）：

1 N \sum n = 1 N (u u T 1 x n - u u T 1 x ¯) = u u T 1 S u u 1, s . t . u u T 1 u u 1 = 1

则根据拉格朗日乘子法，有：

u u T 1 S u u 1 + λ (1 - u u T 1 u u 1)

对 uu1 求导数，得：

S u u 1 = λ u u 1

可见投影的最佳方向就是，样本协方差矩阵的特征向量方向；

【推广】免费学中医，健康全家人

原文地址：https://www.cnblogs.com/mtcnn/p/9422510.html