对于L1正则和L2正则的理解
目的:
L1和L2正则都可以解决过拟合
方法:
L1正则:向量中各个元素绝对值的和,适用于稀疏特征。原理:直接删除异常特征,解决过拟合。
缺点:绝对值不可求导,需要特殊处理。
L2正则:向量中各元素平方和求平方根,使用场景更多,计算方便。原理:将异常特征平均化。
图像:
L1是蓝色的线,L2是红色的线,L1的分布对极端值更能容忍。
时间会记录下一切。
L1和L2正则都可以解决过拟合
L1正则:向量中各个元素绝对值的和,适用于稀疏特征。原理:直接删除异常特征,解决过拟合。
缺点:绝对值不可求导,需要特殊处理。
L2正则:向量中各元素平方和求平方根,使用场景更多,计算方便。原理:将异常特征平均化。
L1是蓝色的线,L2是红色的线,L1的分布对极端值更能容忍。
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步