2017/7/18
1、玻尔兹曼机 维基百科 https://zh.wikipedia.org/wiki/受限玻尔兹曼机
基本概念 http://blog.csdn.net/xbinworld/article/details/44901865
RBM是用于进行特征变换的,采用联合概率分布来表示这种映射关系(基本的神经网络是采用决策函数来描述这种映射关系)https://zhuanlan.zhihu.com/p/24989699
一个RBM包含一个由随机的隐单元构成的隐藏层(一般是伯努利分布)和一个由随机的可见(观测)单元构成的可见(观测)层(一般是伯努利分布或高斯分布)。RBM可以表示成一个二分图模型,所有可见单元和隐单元之间存在连接,而隐单元两两之间和可见单元两两之间不存在连接,也就是层间全连接,层内无连接(这也是和玻尔兹曼机BM模型的区别,层间、层内全连接)。
2、经常提到的生成模型与判别模型 http://blog.csdn.net/mytestmy/article/details/9165031
3、DBM(深度置信网络)是什么?
DBNs是一个概率生成模型,与传统的判别模型的神经网络相对,生成模型是建立一个观察数据和标签之间的联合分布,对P(Observation|Label)和 P(Label|Observation)都做了评估,而判别模型仅仅而已评估了后者,也就是P(Label|Observation)。DBNs由多个限制玻尔兹曼机(Restricted Boltzmann Machines)层组成(也有说法是其堆叠的网络结构不仅仅是RBM,也可以是其他网络结构),这些网络被“限制”为一个可视层和一个隐层,层间存在连接,但层内的单元间不存在连接。隐层单元被训练去捕捉在可视层表现出来的高阶数据的相关性。
目前,和DBNs有关的研究包括堆叠自动编码器,它是通过用堆叠自动编码器来替换传统DBNs里面的RBMs。
http://blog.csdn.net/win_in_action/article/details/25333671
http://www.cnblogs.com/jhding/p/5687696.html
深度学习专栏(推荐看)http://blog.csdn.net/zouxy09/article/details/8781396
4、CPU与GPU(图形处理器)的区别与联系 http://blog.csdn.net/xbinworld/article/details/45676685
5、SNN是什么?脉冲神经网络(Spiking Neural Networks,SNNs)http://www.bigdataway.net/node/1597
https://www.zhihu.com/question/29735595
6、神经网络中学习的权重与特征的关系与区别?(未解决)
如何简单形象又有趣地讲解神经网络是什么?https://www.zhihu.com/question/22553761
7、反卷积可视化
可视化理解卷积神经网络 http://blog.csdn.net/hjimce/article/details/50544370
Ways for Visualizing Convolutional Networks https://buptldy.github.io/2016/09/25/2016-09-25-cnn_vis/