对于L1正则和L2正则的理解
目的:
L1和L2正则都可以解决过拟合
方法:
L1正则:向量中各个元素绝对值的和,适用于稀疏特征。原理:直接删除异常特征,解决过拟合。
缺点:绝对值不可求导,需要特殊处理。
L2正则:向量中各元素平方和求平方根,使用场景更多,计算方便。原理:将异常特征平均化。
图像:
L1是蓝色的线,L2是红色的线,L1的分布对极端值更能容忍。
时间会记录下一切。
L1和L2正则都可以解决过拟合
L1正则:向量中各个元素绝对值的和,适用于稀疏特征。原理:直接删除异常特征,解决过拟合。
缺点:绝对值不可求导,需要特殊处理。
L2正则:向量中各元素平方和求平方根,使用场景更多,计算方便。原理:将异常特征平均化。
L1是蓝色的线,L2是红色的线,L1的分布对极端值更能容忍。
【推荐】还在用 ECharts 开发大屏?试试这款永久免费的开源 BI 工具!
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步