摘要:
一. 博客文章和视频 blibli视频:Temporal Convolutional Networks (TCN) (推荐) 简书:TCN(Temporal Convolutional Network) 个人博客:Temporal Convolutional Network (TCN与Trellis 阅读全文
摘要:
一句话总结为什么RNN会梯度消失和LSTM为什么可以防止梯度消失:RNN会梯度消失是因为后一个状态对前一个状态的梯度连乘。在LSTM中,后一个cell对前一个cell的导数结果可以由几个门控制,这几个门的值是可学习的,网络可以自适应的学习相应的值,控制梯度消失或不消失。 目录 一. 全连接网络的梯度 阅读全文