AI 循环神经网络（RNN）

循环神经网络（Recurrent Neural Network，简称RNN），通常用于处理序列数据。正如卷积神经网络通常用于处理网格数据（例如图像）一样。

 

1、展开计算图

 

输入、输出、记忆

权值

 

2、双向RNN

 

3、长期依赖

 

4、门控RNN（gated RNN）

 

长短期记忆（long short-term memory）

 

渗漏单元（leaky unit）