1. L2 范数

J~(w;X,y)=J(w;X,y)+α2wTw

J 表示的是原始的目标函数,J~ 则是二范数约束后的新的目标函数。

则根据梯度下降算法有:

  • wJ~=wJ+αw
  • wwϵwJ~=wϵ(J+αw)
  • w(1αϵ)wϵJ
posted on   未雨愁眸  阅读(610)  评论(0编辑  收藏  举报
努力加载评论中...
点击右上角即可分享
微信分享提示