摘要: 神经网络训练一个模型的过程中,对于每一次参数的更新可以增加一个trick,即对参数进行滑动平均更新,即moving average,会对模型的训练有益。参照源码的一句说法:When training a model, it is often beneficial to maintain moving 阅读全文
posted @ 2019-04-22 21:59 hwj_blog 阅读(1228) 评论(0) 推荐(1) 编辑
摘要: https://blog.csdn.net/hu_guan_jie/article/details/78495297 阅读全文
posted @ 2019-04-22 21:11 hwj_blog 阅读(716) 评论(0) 推荐(1) 编辑