2024年1月18日
神经网络优化篇：详解RMSprop
摘要： RMSprop 知道了动量（Momentum）可以加快梯度下降，还有一个叫做RMSprop的算法，全称是root mean square prop算法，它也可以加速梯度下降，来看看它是如何运作的。 回忆一下之前的例子，如果执行梯度下降，虽然横轴方向正在推进，但纵轴方向会有大幅度摆动，为了分析这个例子 阅读全文
posted @ 2024-01-18 09:56 Oten 阅读(799) 评论(0) 推荐(0) 编辑