摘要:
神经网络训练一个模型的过程中,对于每一次参数的更新可以增加一个trick,即对参数进行滑动平均更新,即moving average,会对模型的训练有益。参照源码的一句说法:When training a model, it is often beneficial to maintain moving 阅读全文
摘要:
https://blog.csdn.net/hu_guan_jie/article/details/78495297 阅读全文