机器学习数学基础—参数估计

点估计

 参数估计：假设某个事件遵循某种分布方式（比如两点分布），将此事件进行n此独立实验，得到样本x1、x2、x3、。。。。xn，之后根据这些实验的到的样本去估计两点分布中的参数p。

矩估计

方法：知道这些样本后，可以通过这些样本计算的到均值、方差等信息，通过这些信息就可以得到分布函数的参数。

举例

极大似然估计

方法：知道这些样本后，讲这些样本带入假设的分布函数中，之后累乘得到一个分布函数theta的一个函数（似然函数），最终的求得的theta就是保证在这些样本下此似然函数最大。（相当于求极值）

举例

点估计的评判准则

theta0为真实参数值

区间估计

置信区间