摘要：
三、误差逆传播算法(BP) 3、固定增量与批量 固定增量: 逐样本，计算误差，更新权重 批量：所有训练数据，计算平均误差，更新权重。 4、权值的初始化 权值的初始值决定了搜索的七点，其值不能太大，如果权值太大，sigmoid函数的输入很大，输出接近0或1，这时梯度很小，学习速度很慢。如果权值很大（靠 阅读全文
摘要：
三、误差逆传播算法(BP) 1、BP算法 多层网络的学习能力比单层感知机强得多。欲训练多层网络，简单感知学习规则显然不够了，需要更强大的学习算法。误差逆传播(errorBackPropagation，简称BP)算法就是其中最杰出的代表。BP算法是迄今最成功的神经网络学习算法。 BP网络：用BP算法训 阅读全文
摘要：
二、感知机与多层网络 3、感知机与逻辑操作 （1）线性模型 感知机只有输出层神经元进行激活函数处理，即只拥有一层功能神经元，其学习能力十分有限。有些逻辑运算（与、或、非问题）可以看成线性可分任务。若两类模式是线性可分的，即存在一个线性超平面能将它们分开，则感知机的学习过程一定会收敛而求得适当的权向量 阅读全文
摘要：
二、感知机与多层网络 1、感知机 感知机由两层神经元组成，输入层接收外界的输入信号后传递给输出层，输出层是M-P神经元，亦称“阈值逻辑单元”。结构如下图： 感知机能容易地实现逻辑与、或、非操作。 神经网络的基本单元为神经元，神经元接受来自其他神经元的信号，经过一个线性变换，与阈值比较，通过非线性变换 阅读全文