数学上加强理解的一些trick

高数

梯度与法向量的关系

  求曲面$f(x^{(1)},...,x^{(n)})=0$在$(x^{(1)}_0,...,x^{(n)}_0)$处的法向量(有$f(x^{(1)}_0,...,x^{(n)}_0)=0$),实际上就是求$z = f(x^{(1)},...,x^{(n)})$在$(x^{(1)}_0,...,x^{(n)}_0)$处的梯度。而显式函数的梯度通常是很好求的,只要求偏导数即可。

  这是因为,原本的低维函数$f(x^{(1)},...,x^{(n)})=0$,实际上就是拓展后的高维函数$z = f(x^{(1)},...,x^{(n)})$在$z=0$处的等高线,而与等高线垂直也就是增长最快的方向,就是它的梯度了。

  另外,由于梯度指向的是函数增大的方向,所以这样求出的法向量方向指向的是$f(x^{(1)},...,x^{(n)})>0$的区域。

求和与乘积

  $sumlimits_i^n a_i sumlimits_j^m b_j = sumlimits_i^nsumlimits_j^m a_ib_j$,这是因为:

$(a_1+...+a_n)(b_1+...+b_m) = [a_1(b_1+...+b_m)+...+a_n(b_1+...+b_m)]=(a_1b_1+...+a_nb_m) $

线代

内积

  内积$xy$的实际上就是$x$在$y$方向的轴上的坐标,如果$y$是单位向量的话。

对称矩阵正定

  对称矩阵$A$一定能分解为某个矩阵与其转置的乘积:

$A = BB^T$

  但因为$B$不一定是实数矩阵,如:

$ left[ egin{matrix} -1&0 \ 0& 1\ end{matrix} ight]=left[ egin{matrix} i&0 \ 0& 1\ end{matrix} ight]cdot left[ egin{matrix} i&0 \ 0& 1\ end{matrix} ight]$

  所以不能由

$x^TAx=x^TBB^Tx=(B^Tx)^TB^Txge0$

  得出对称矩阵一定半正定。而如果对称矩阵由实数矩阵与其转置的乘积定义,就能得到该对称矩阵半正定,比如协方差矩阵:

$Sigma = (X-mu)(X-mu)^Tsucceq0$

原文地址:https://www.cnblogs.com/qizhou/p/12688746.html