“梯度下降法”理解

http://blog.csdn.net/irene_loong/article/details/79006881

简单理解：

梯度：即偏导数，偏导数为何物？其是变化率，如果为正，表示往大变，为负表示往小变。

所以如果找最小值，就得让当前位置往小变，所以增量要沿着负梯度，就是加上一个负梯度增量。