10 2020 档案

学习率调度
摘要：原文链接：https://d2l.ai/chapter_optimization/lr-scheduler.html 在神经网络中，通常我们主要关注优化算法如何更新权重，而缺少关注更新的幅度，即学习率。适当的调整学习率和优化算法一样重要。可以从这些角度去考虑： 【学习率大小】最直观的就是学习率的粒度 阅读全文
posted @ 2020-10-22 18:50 ZH奶酪 阅读(1376) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示