2019年12月28日
从头学pytorch(六):权重衰减
摘要： 深度学习中常常会存在过拟合现象,比如当训练数据过少时,训练得到的模型很可能在训练集上表现非常好,但是在测试集上表现不好. 应对过拟合,可以通过数据增强,增大训练集数量.我们这里先不介绍数据增强,先从模型训练的角度介绍常用的应对过拟合的方法. 权重衰减 权重衰减等价于 $L_2$ 范数正则化（regu 阅读全文
posted @ 2019-12-28 20:45 core! 阅读(3563) 评论(0) 推荐(2) 编辑