简单说明梯度下降法
梯度下降法的精髓是:两向量方向相反内积后最小。
梯度下降法是一种优化方法,通过不断的迭代使用梯度下降法来达到优化损失函数的目的。损失函数是表示当前函数与理想函数的差距,梯度下降法就是通过损失函数来优化参数达到函数更加准确的目的。梯度下降法通过迭代来降低损失函数。
dz表示的是损失函数的变化量,可以将右边式子看成内积。(dx,dy)*(f关于x的偏导,f关于y的偏导)。利用向量内积,如果俩向量方向相反则损失函数下降最快。因为是近似所以有时会出现进行一次迭代,误差上升。
梯度下降法的精髓是:两向量方向相反内积后最小。
梯度下降法是一种优化方法,通过不断的迭代使用梯度下降法来达到优化损失函数的目的。损失函数是表示当前函数与理想函数的差距,梯度下降法就是通过损失函数来优化参数达到函数更加准确的目的。梯度下降法通过迭代来降低损失函数。
dz表示的是损失函数的变化量,可以将右边式子看成内积。(dx,dy)*(f关于x的偏导,f关于y的偏导)。利用向量内积,如果俩向量方向相反则损失函数下降最快。因为是近似所以有时会出现进行一次迭代,误差上升。