27:RNN循环神经网络-循环神经网络

1:循环神经网络的基本思想

 

 

 

 2:向后传播的推导过程(怎样进行参数优化)

 [注]最总选择哪一个ht可以选择最后一个也可以将所有的ht综合一下。

 [注]Wih为输入的共享参数权重(weight)。Whh为记忆单元的共享参数权重(weight)。

[注]若i=0时,会出现记忆单元权重的k次方。如下图

 

posted @ 2021-08-06 20:34  收购阿里巴巴  阅读(45)  评论(0编辑  收藏  举报