摘要: 本篇主要针对RNN(LSTM)而言的总结。 1.学习率 一般根据损失值的变化来调整。 增大学习率。(情况:训练较慢,损失值一直处于缓慢减少的趋势) 减小学习率。(情况:损失值波动变化,时大时小) 自适应。 (一般时候,大家习惯将学习率从0.1,0.01,0.001,0.0001慢慢尝试) 2.Min 阅读全文
posted @ 2017-08-23 09:31 寻影4_2 阅读(238) 评论(0) 推荐(0) 编辑