循环神经网络RNN

简介

前部序列的信息经过处理后，作为输入信息传递到后部序列。

普通RNN结构 前面的信息会在传递的过程中丢失

求解过程中梯度消失

LSTM

长短期记忆网络

在网络结构很深的情况下，也能保留重要信息
解决了普通RNN求解过程中的梯度消失问题

DRNN