似然函数

似然函数的定义:

数理统计学中,似然函数是一种关于统计模型中的参数函数,表示模型参数中的似然性。似然函数在统计推断中有重大作用,如在最大似然估计费雪信息之中的应用等等。“似然性”与“或然性”或“概率”意思相近,都是指某种事件发生的可能性,但是在统计学中,“似然性”和“或然性”或“概率”又有明确的区分。概率用于在已知一些参数的情况下,预测接下来的观测所得到的结果,而似然性则是用于在已知某些观测所得到的结果时,对有关事物的性质的参数进行估计。

在这种意义上,似然函数可以理解为条件概率的逆反。在已知某个参数B时,事件A会发生的概率写作:

P(A mid B) = frac{P(A , B)}{P(B)} !

利用贝叶斯定理

P(B mid A) = frac{P(A mid B);P(B)}{P(A)} !


因此,我们可以反过来构造表示似然性的方法:已知有事件A发生,运用似然函数mathbb{L}(B mid A),我们估计参数B的可能性。形式上,似然函数也是一种条件概率函数,但我们关注的变量改变了:

bmapsto P(A mid B=b)  !

注意到这里并不要求似然函数满足归一性:sum_{b in mathcal{B}}P(A mid B=b) = 1。一个似然函数乘以一个正的常数之后仍然是似然函数。对所有alpha > 0,都可以有似然函数:

L(b mid A) = alpha ; P(A mid B=b) !

关于似然函数的两点意义:

1、似然函数的重要性不是它的具体取值,而是当参数变化时函数到底变小还是变大。

2、当连续观测到两次正面朝上时,假设硬币投掷时正面朝上的概率为1是最合理的。

原文地址:https://www.cnblogs.com/fkl523/p/3406909.html