神经网络学习之----Hopfield神经网络
1982年,美国加州理工学院的优秀物理学家Hopfield提出了Hopfield神经网络。Hopfield神经网络引用了物理力学的分析方法,把网络作为一种动态系统并研究这种网络动态系统的稳定性。
DHNN:离散型Hopfield神经网络
这是一种单层全反馈网络,共有n个神经元。其特点是任一神经元的输出 Xi 均通过连接权 Wij 反馈至所有神经元 Xj z作为输入。换句话说,每个神经元都通过连接权接收所有神经元输出反馈回来的消息,其目的是为了任一神经元的输出都能受所有神经元输出的控制,从而使各神经元的输出能相互制约。每个神经元均设有一个阈值 Tj ,以反映对输入噪声的控制。DHNN网可以简单记为 N = (W, T)
网络的稳定性与吸引子
反馈网络是一种能存储若干个预先设置的稳定点(状态)的网络。运行是,当向该网络作用一个起原始推动作用的初始输入模式后,网络便将其输出反馈回来作为下次的输入。经若干次循环(迭代)之后,在网络结构满足一定条件的前提下,网络最终将会稳定在某一预先设定的稳定点。
网络的稳定性==================
吸引子与能量函数==================
Hopfield最后的三种状态
第一种状态是稳定状态,这个能量会越来越小,最后到大能量的最低点,这个模型就收敛了。
第二种状态是有限环转台,它会在几种状态里来回切换
第三种状态是混沌状态,它既不是稳定状态,也不是有限环状态。它是一种无限无序的状态。对于离散型的Hopfield神经网络来说不会存在这种状态。
Hopfield的计算演变过程