02 2017 档案

ImageNet Classification with Deep Convolutional Neural Networks 论文解读
摘要：这个论文应该算是把深度学习应用到图片识别（ILSVRC，ImageNet large-scale Visual Recognition Challenge)上的具有重大意义的一篇文章。因为在之前，人们一直质疑深度学习的强大有能力。 大家看看它的引用数目就知道它很厉害了，，9000多的引用。。 作者为：Hinton的学生与Hioton： Krizhevsky ASutskever IHinton... 阅读全文
posted @ 2017-02-23 16:51 殷大侠 阅读(2989) 评论(0) 推荐(0) 编辑
信息论中的一些基本的知识
摘要：（以下内容来自维基百科：） 自信息：由克劳德·香农提出，是与概率空间中的单一事件或离散随机变量的值相关的信息量的量度。它的定义为：一个随机产生的事件所包含的自信息数量，只与事件发生的概率相关。事件发生的概率越低，在事件真的发生时，接收到的信息中，包含的自信息越大。此外，根据定义，自信息的量度是正的而 阅读全文
posted @ 2017-02-21 21:39 殷大侠 阅读(10586) 评论(0) 推荐(1) 编辑
Understanding the difficulty of training deep feedforward neural networks
摘要：本文作者为：Xavier Glorot与Yoshua Bengio。 本文干了点什么呢？ 第一步：探索了不同的激活函数对网络的影响（包括：sigmoid函数，双曲正切函数和softsign y = x/(1+|x|) 函数）。 文中通过不断的实验：1，来monitor网络中隐藏单元的激活值来观察它的饱和性；2. 梯度。 并且evaluate 所选择的激活函数与初始化方法（预训练被看作一种特殊... 阅读全文
posted @ 2017-02-17 22:14 殷大侠 阅读(6074) 评论(1) 推荐(2) 编辑

点击右上角即可分享
微信分享提示