2022年11月20日
【机器学习与深度学习理论要点】23. 什么是学习率，作用是什么，学习率导致的问题？什么是反向传播及反向传播算法
摘要： 1）什么是学习率，作用是什么？ 在梯度下降法中，都是给定统一的学习率，整个优化过程中都以确定的步长进行更新，在迭代优化的前期中，学习率较大，则前进的步长就会较长，这时便能以较快的速度进行梯度下降，而在迭代优化后期，逐步减小学习率的值，减小步长，这样有助于算法的收敛，更容易接近最优解 2）学习率过大或 阅读全文
posted @ 2022-11-20 15:57 野哥李 阅读(48) 评论(0) 推荐(0) 编辑