极大似然
极大似然在本科的概率课里面有提及,当时没有应用意识,根本就没有当成一回事,现在知道错了。ps废话讲完,回归正题
从总体来说下极大似然可以做什么:求参数值--非常直接描述(θ1*x1+θ2*x2+...+θn*xn)其中w代表参数,x代表的是变量,求得就是θ。--ps:这里的例子只是用于说明,实际遇到的参数可能比这要复杂很多。
极大似然求值的原理:
提醒:以下代表参数是用θ,下面大神说得这个例子就很好理解:
上面总结起来就是:通过一个样本获得很多个x,然后写出其概率函数(含有θ)然后对H(θ)求导,算出导数为0时θ的值即可。
本来打算也写写EM,发现自己的功力还不够,这个我要好好梳理再来续写。
话说以下内容都是我看到大神的对极大似然与EM算法的描述总结出来,如果我有描述不准确或者不清楚的地方可以直接去:http://blog.csdn.net/zouxy09/article/details/8537620