简单说明梯度下降法

梯度下降法的精髓是:两向量方向相反内积后最小。

梯度下降法是一种优化方法,通过不断的迭代使用梯度下降法来达到优化损失函数的目的。损失函数是表示当前函数与理想函数的差距,梯度下降法就是通过损失函数来优化参数达到函数更加准确的目的。梯度下降法通过迭代来降低损失函数。

dz表示的是损失函数的变化量,可以将右边式子看成内积。(dx,dy)*(f关于x的偏导,f关于y的偏导)。利用向量内积,如果俩向量方向相反则损失函数下降最快。因为是近似所以有时会出现进行一次迭代,误差上升。

 

posted @ 2021-07-28 17:50  祥瑞哈哈哈  阅读(241)  评论(0编辑  收藏  举报