6、最大熵模型

前导知识：

　　1、证明： -lnx ≥1-x , x>0 

　　　　证如下：

　　　　　　原题可化为f(x)=-lnx+x-1≥0

　　　　　　对f(x)求一阶导

　　　　　　f^'(x) = -1/x +1

　　　　　　对f(x)求二阶导

　　　　　　f^''(x) = 1/x² >0

　　　　　　二阶导大于0，f(x)为凸函数=>f^'(x)=0,即是x=1时取得极值

　　　　　　

　　　　　　

　　2、Jensen不等式　

　　　　exp(p’x)≤p’ exp(x)

　　　　这里p'表示p₁,p₂...p_{n  其中}p₁₊p_2+...+p_n=1