摘要： 总结一些loss不收敛的解决方法经常遇到的两种情况： loss一直在震荡loss下降一点后不再下降到理想水平，而验证集上的表现保持不变。解决办法： 保持需要的batchsize不变，或考虑调整batch size大小查看是否有梯度回传。查看数据是否有问题，如标签错乱，归一化等。调节学习率，从大向小调 阅读全文