mantch  

2019年8月16日

三步理解--门控循环单元(GRU)，TensorFlow实现
摘要： 文章目录1. 什么是GRU2. ⻔控循环单元2.1 重置门和更新门2.2 候选隐藏状态2.3 隐藏状态3. 代码实现GRU4. 参考文献 1. 什么是GRU 在循环神经⽹络中的梯度计算⽅法中，我们发现，当时间步数较⼤或者时间步较小时，**循环神经⽹络的梯度较容易出现衰减或爆炸。虽然裁剪梯度可以应对梯度爆炸，但⽆法解决梯度衰减的问题。**通常由于这个原因，循环神经⽹络在实际中较难捕捉时间序列中时间步... 阅读全文
posted @ 2019-08-16 15:43 mantch 阅读(5153) 评论(0) 推荐(0) 编辑
 
Copyright © 2024 mantch
Powered by .NET 8.0 on Kubernetes
博客园