梯度爆炸或者梯度消失

因为根据链式法则,最靠近input的参数更新值为后面每一层梯度相乘,这样参数0~1的累乘会造成梯度消失,接近于0。

梯度爆炸一般是不稳定的模型或者计算造成,如某一层梯度过大。

posted @ 2021-08-18 09:41  xuyv  阅读(26)  评论(0编辑  收藏  举报