Pytorch 4.8 梯度爆炸和梯度消失以及解决的办法
摘要:
梯度爆炸/消失 梯度消失 : 参数更新过小,在每次更新时几乎不会移动,导致模型无法学习。 %matplotlib inline import torch from d2l import torch as d2l # 梯度消失 参数更新过小,在每次更新时几乎不会移动,导致模型无法学习 x = torc 阅读全文
posted @ 2022-01-12 12:11 YangShusen' 阅读(2202) 评论(0) 推荐(0) 编辑