Adline网络的LMS算法与梯度下降

 

     LMS算法,即为最小均方差,求的是误差的平方和最小。

     利用梯度下降,所谓的梯度下降,本质上就是利用导数的性质来求极值点的位置,导数在这个的附近,一边是大于零,一边又是小于零的,如此而已。。。

      而这个里,导数的正负性,是依靠误差的正负来决定的,懒得多说,大致如图:

 

    

      

posted @ 2016-05-12 13:46  北宫风晨  阅读(1024)  评论(0编辑  收藏  举报