摘要：
今天主要讲一下深度学习泰斗Geofrey Hinton 2006年发表在Nature上的一篇论文《Reducing the Dimensionality of Data with Neural Networks》。这篇文章也是第一篇深度学习的论文，在之前的话没有很好的方法应用在深度学习网络上。这篇论 阅读全文
摘要：
import numpy as np import matplotlib.pyplot as plt from sklearn.model_selection import train_test_split from sklearn import metrics,linear_model from sklearn.neural_network import BernoulliRBM from... 阅读全文
摘要：
转载：https://www.cnblogs.com/jiangxinyang/p/9307573.html 受限玻尔兹曼机（RBM）是一个随机神经网络（即当网络的神经元节点被激活时会有随机行为，随机取值）。它包含一层可视层和一层隐藏层。在同一层的神经元之间是相互独立的，而在不同的网络层之间的神经元 阅读全文
摘要：
退火 退火是一种金属的热处理工艺，将金属加热到一定的温度，保持足够时间，然后以适宜速度缓慢冷却。 退火可以改善材料性能，提升金属品质。 模拟退火算法 根据梯度下降算法考虑，梯度下降算法会使得我们的代价函数的值只会往梯度下降的方向走，比如左图（a），当它走到第一个凹坑里的时候它就在也出不来了。而不会到 阅读全文
摘要：
思路： 定义三个训练测试图片0 1 2（16*8），即三个吸引子。然后创建一个Hopfield神经网络，把训练数据输入。然后在用测试数据输入测试结果。 阅读全文
摘要：
1982年，美国加州理工学院的优秀物理学家Hopfield提出了Hopfield神经网络。Hopfield神经网络引用了物理力学的分析方法，把网络作为一种动态系统并研究这种网络动态系统的稳定性。 DHNN：离散型Hopfield神经网络 这是一种单层全反馈网络，共有n个神经元。其特点是任一神经元的输 阅读全文
摘要：
拟合一般分为三个状态：欠拟合(Underfitting) 、正确拟合(Just right) 、过拟合(Overfitting) 线性回归模型 拟合的函数和训练集的关系： 第一张图片拟合的函数和训练集误差较大，我们称这种情况为欠拟合(Underfitting) 第二张图片拟合的函数和训练集误差较小， 阅读全文
摘要：
思路: 使用sklearn中的数字数据集，主要有0，1，2，3，4，5，6，7，8，9。我们需要编写一个BP网络模型对数字进行识别。 sklearn数据集： BP网络-数字识别代码实现 阅读全文
摘要：
思路： 首先有三个输入X0, X1, X2神经元，隐层有四个神经元Y0, Y1, Y2, Y3。最后是一个输出Output。其中: X0与Y0, Y1, Y2, Y3的权值分别用V00， V01， V02， V03表示 X1与Y0, Y1, Y2, Y3的权值分别用V10， V11， V12， V1 阅读全文
摘要：
1986年由Rumelhart和McCelland为首的科学家小组提出，解决了多层神经网络的学习问题，极大促进了神经网络的发展。 BP神经网络也是整个人工神经网络体系中的精华，广泛应用于分类识别，逼近，回归，压缩等领域。在实际应用中，大约80%的神经网络模型采取了BP网络或BP网络的变化形式。 BP 阅读全文