2018年5月22日
深度学习算法优化背景知识---指数加权平均
摘要： 背景：在深度学习优化算法，如:Momentum、RMSprop、Adam中都涉及到指数加权平均这个概念。为了系统的理解上面提到的三种深度学习优化算法，先着重理解一下 指数加权平均 (exponentially weighted averages) 定义 指数移动平均（EMA）也称为指数加权移动平均（ 阅读全文
posted @ 2018-05-22 16:41 April15 阅读(1920) 评论(0) 推荐(0) 编辑