会员
周边
捐助
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
xuyv
博客园
首页
新随笔
联系
订阅
管理
梯度爆炸或者梯度消失
因为根据链式法则,最靠近input的参数更新值为后面每一层梯度相乘,这样参数0~1的累乘会造成梯度消失,接近于0。
梯度爆炸一般是不稳定的模型或者计算造成,如某一层梯度过大。
posted @
2021-08-18 09:41
xuyv
阅读(
26
) 评论(
0
)
编辑
收藏
举报
刷新页面
返回顶部
公告