似然 似然函数 最大似然估计

似然

“似然”是对likelihood 的一种较为贴近文言文的翻译．
“似然”用现代的中文来说即“可能性”。

似然函数
设总体X服从分布P(x；θ)（当X是连续型随机变量时为概率密度，当X为离散型随机变量时为概率分布），θ为待估参数，X1,X2,…Xn是来自于总体 X的样本，x1,x2…xn为样本X1,X2,…Xn的一个观察值，则样本的联合分布（当X是连续型随机变量时为概率密度，当X为离散型随机变量时为概率分布）
　　L（θ）=L（x1,x2,…,xn；θ）=ΠP（xi；θ）称为似然函数.

 

最大似然估计
我们可能不知道θ的值，尽管我们知道这些采样数据来自于分布D。那么我们如何才能估计出θ呢？一个自然的想法是从这个分布中抽出一个具有n个值的采样X1,X2,...,Xn，然后用这些采样数据来估计θ.
一旦我们获得X1,X2,...,Xn，我们就能从中找到一个关于θ的估计。
最大似然估计会寻找关于θ的最可能的值（即，在所有可能的θ取值中，寻找一个值使这个采样的“可能性”最大化）。

REF：

http://www.hudong.com/wiki/%E4%BC%BC%E7%84%B6?hf=youdaocitiao&pf=youdaocitiao
http://baike.baidu.com/view/1864828.htm
http://zh.wikipedia.org/zh-cn/%E6%9C%80%E5%A4%A7%E4%BC%BC%E7%84%B6%E4%BC%B0%E8%AE%A1