placebo

导航

2012年5月9日 #

Deep Belief Network 学习笔记-RBM

摘要: Deep Belief Network 学习笔记-RBMBy Placebo (纯属个人笔记) 第一次知道deep learning,是上学期dengli博士来实验室的一次报告,他讲到,当神经网络的层数大于2时(即一个hidden层,一个输出层,不算输入层,之后皆采用这种表述法),经典的训练方法效果会很差,如果层数继续增多,则完全没法训练。当时对神经网络知之甚少,直到最近较认真的学了下机器学习,才明白。 什么是deep learning?我们知道(虽然不知道如何证明)2层神经网络的建模能力是非常强大的,但是要求隐节点个数足够多,多到难以接受。如果采用更深层的网络,比如3层网络,即两个hi... 阅读全文

posted @ 2012-05-09 14:37 placebo 阅读(6428) 评论(0) 推荐(1) 编辑