MM bound 与 Jensen's inequality
MM bound 与 Jensen's inequality 简森不等式
在使用最大似然估计方法求解模型最优解的时候,如果使用梯度下降(GD or SGD)或者梯度上升(GA or SGA),可能收敛的很慢。
这时,可以使用 MM bound + Jensen's inequality 相结合的方法,先用MM,然后用 Jensen's inequality,可能能得到一个最大值解。使用这个最大值解来更新参数就好了。
1、先使用 MM bound,
2、使用两个 Jensen 不等式:
posted on 2018-08-11 18:37 CuriousZero 阅读(516) 评论(0) 编辑 收藏 举报