参考 拉格朗日乘子法如何理解? 拉格朗日乘子法 基本的拉格朗日乘子法就是求函数 f(x1,x2,...) 在约束条件 g(x1,x2,...)=0 下的极值的方法。 其主要思想是将约束条件函数与原函数联立,从而求出使原函数取得极值的各个变量的解。 计算过程: 1. 假设需要求极值的目标函数 (obj Read More
posted @ 2018-01-22 21:35 dahu1 Views(396) Comments(0) Diggs(0) Edit
含有隐藏变量时,不好直接求极大似然,可以考虑用EM算法。 参考 (EM 算法)The EM Algorithm 从最大似然到 EM 算法浅解 1.Jensen 不等式 回顾优化理论中的一些概念。 设 f 是定义域为实数的函数,如果对于所有的实数 x,,那么 f 是凸函数。 当 x 是向量时,如果其 Read More
posted @ 2018-01-22 19:05 dahu1 Views(293) Comments(0) Diggs(0) Edit
参考 从最大似然到 EM 算法浅解 最大似然估计学习总结 EM 算法及其推广学习笔记 之前已经总结了似然的概念,那么顺其自然的理解就是,求得似然最大值的参数即为想要的参数,也就是参数估计,使用的方法为最大似然估计。 先提出几个问题: 1.最大似然估计求参数的一般流程是怎样的? 2.什么样的场景适合/ Read More
posted @ 2018-01-22 11:41 dahu1 Views(2642) Comments(0) Diggs(0) Edit