2023年1月27日
Cyclical Learning Rates
摘要： 学习率的设置是深度学习中一个比较重要的问题,Cyclical Learning Rates(CLR)提出了一种新的方法,即让学习率周期性的变化,而不是像之前的方法那样让学习率单调递减变化. Cyclical learning rates其实比较简单,只需要3个参数: (1)base_lr:学习率的最 阅读全文
posted @ 2023-01-27 19:30 MSTK 阅读(76) 评论(0) 推荐(0) 编辑