通过学习曲线,评估训练状态
1.train loss不断下降,test loss不断下降,说明网络仍然在认真学习。
2.train loss不断下降,test loss趋于不变,说明网络过拟合。
3.train loss趋于不变,test loss趋于不变,说明学习遇到瓶颈,需要减小学习速率或批量数据尺寸。
4.train loss趋于不变,test loss不断下降,说明数据100%有问题。
5.train loss不断上升,test loss不断上升,可能是网络结构设计不当,训练超参数设置不当,程序bug等某个问题引起的,需要进一步定位。
作者:cumtchw
出处:http://www.cnblogs.com/cumtchw/
我的博客就是我的学习笔记,学习过程中看到好的博客也会转载过来,若有侵权,与我联系,我会及时删除。