摘要: 一. 博客文章和视频 blibli视频:Temporal Convolutional Networks (TCN) (推荐) 简书:TCN(Temporal Convolutional Network) 个人博客:Temporal Convolutional Network (TCN与Trellis 阅读全文
posted @ 2020-11-13 22:14 Picassooo 阅读(1501) 评论(0) 推荐(0) 编辑
摘要: 一句话总结为什么RNN会梯度消失和LSTM为什么可以防止梯度消失:RNN会梯度消失是因为后一个状态对前一个状态的梯度连乘。在LSTM中,后一个cell对前一个cell的导数结果可以由几个门控制,这几个门的值是可学习的,网络可以自适应的学习相应的值,控制梯度消失或不消失。 目录 一. 全连接网络的梯度 阅读全文
posted @ 2020-11-13 21:08 Picassooo 阅读(362) 评论(0) 推荐(0) 编辑