2016年12月8日

摘要: Hinton 第七课 。这里先说下RNN有recurrent neural network 和 recursive neural network两种,是不一样的,前者指的是一种人工神经网络,后者指的是一种深度神经网络这里指的是前者,这部分翻译的不好,因为之前没怎么接触过RNN,不过就当理解意境吧,所 阅读全文
posted @ 2016-12-08 12:36 川师15级软工研王*飞 阅读(182) 评论(0) 推荐(0) 编辑
 
摘要: 递归神经网络 人类并不是每时每刻都从头开始思考。正如你阅读这篇文章的时候,你是在理解前面词语的基础上来理解每个词。你不会丢弃所有已知的信息而从头开始思考。你的思想具有持续性。 传统的神经网络不能做到这点,而且这似乎也是它的主要缺陷。比如,你想对电影中每个点发生的事件类型进行分类。目前还不清楚传统神经 阅读全文
posted @ 2016-12-08 12:32 川师15级软工研王*飞 阅读(272) 评论(0) 推荐(0) 编辑
 
摘要: 摘要 这篇文章提供了一个关于递归神经网络中某些概念的指南。与前馈网络不同,RNN可能非常敏感,并且适合于过去的输入(be adapted to past inputs)。反向传播学习(backpropagation learning)是为了前馈网络而描述,并进行调整来满足我们的建模需要,并且推广到递 阅读全文
posted @ 2016-12-08 12:30 川师15级软工研王*飞 阅读(520) 评论(0) 推荐(0) 编辑
 
摘要: 在此之前,我们已经学习了前馈网络的两种结构——多层感知器和卷积神经网络,这两种结构有一个特点,就是假设输入是一个独立的没有上下文联系的单位,比如输入是一张图片,网络识别是狗还是猫。但是对于一些有明显的上下文特征的序列化输入,比如预测视频中下一帧的播放内容,那么很明显这样的输出必须依赖以前的输入, 也 阅读全文
posted @ 2016-12-08 12:29 川师15级软工研王*飞 阅读(432) 评论(0) 推荐(0) 编辑
 
摘要: 引言 递归神经网络是一类人工神经网络,可用于识别诸如文本、基因组、手写字迹、语音等序列数据的模式,也可用于识别传感器、股票市场、政府机构产生的数值型时间序列数据。递归网络可以说是最强大的神经网络,甚至可以将图像分解为一系列图像块,作为序列加以处理。由于递归网络拥有一种特定的记忆模式,而记忆也是人类的 阅读全文
posted @ 2016-12-08 12:26 川师15级软工研王*飞 阅读(221) 评论(0) 推荐(0) 编辑