关于梯度

1.梯度的本意是一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值,即函数在该点处沿着该方向(此梯度的方向)变化最快,变化率最大(为该梯度的模)。

2.梯度就是下山最快的方向;

3.反向传播就是用梯度更新网络参数的一种方式;

 

posted @ 2019-07-27 13:04  技术研究与问题解决  阅读(214)  评论(0编辑  收藏  举报