会员
周边
众包
新闻
博问
闪存
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
喜琅琅
博客园
首页
新随笔
联系
订阅
管理
双向、深层循环神经网络
双向RNN可以让某一单元的输出不仅可以考虑之前的信息,也可以考虑后面时间步的信息。前向传播分为从左向右,从右向左两部分,这样,隐藏层神经元会产生两个激活值,均对输出有影响。
对很多NLP问题,双向带有LSTM的RNN用的最多。缺点是必须获取整个序列才能获得输出。
如果要学习复杂的函数,需要将更多层堆叠起来构建更深的模型。a
[l]<t>
,l表示l层,t表示时间步。
一般在垂直方向三层以后不再水平连接。尽管看起来没有多少循环层,但是需要大量的时间训练。
posted @
2019-08-30 21:11
喜琅琅
阅读(
908
) 评论(
0
)
编辑
收藏
举报
会员力量,点亮园子希望
刷新页面
返回顶部
公告