摘要：
支持向量机 (Support Vector Machine) 是由Vapnik等人于1995年提出来的，之后随着统计理论的发展，支持向量机 SVM 也逐渐受到了各领域研究者的关注，在很短的时间就得到了很广泛的应用。支持向量机是被公认的比较优秀的分类模型。同时，在支持向量机的发展过程中，其理论方面的研 阅读全文
摘要：
四、其他常见神经网络 1、深度学习模型 感知机只包括输入层和输出层，只能处理线性任务，为了处理非线性任务，在输入和输出之间加入了隐层，隐层的目的是对数据进行加工处理传递给输出层。 为了解决更为复杂的问题，我们需要提升模型的学习能力，这时要增加模型的复杂度，有两种策略： （1）一种是隐层保持不变，增加 阅读全文
摘要：
三、误差逆传播算法(BP) 3、固定增量与批量 固定增量: 逐样本，计算误差，更新权重 批量：所有训练数据，计算平均误差，更新权重。 4、权值的初始化 权值的初始值决定了搜索的七点，其值不能太大，如果权值太大，sigmoid函数的输入很大，输出接近0或1，这时梯度很小，学习速度很慢。如果权值很大（靠 阅读全文
摘要：
三、误差逆传播算法(BP) 1、BP算法 多层网络的学习能力比单层感知机强得多。欲训练多层网络，简单感知学习规则显然不够了，需要更强大的学习算法。误差逆传播(errorBackPropagation，简称BP)算法就是其中最杰出的代表。BP算法是迄今最成功的神经网络学习算法。 BP网络：用BP算法训 阅读全文
摘要：
二、感知机与多层网络 3、感知机与逻辑操作 （1）线性模型 感知机只有输出层神经元进行激活函数处理，即只拥有一层功能神经元，其学习能力十分有限。有些逻辑运算（与、或、非问题）可以看成线性可分任务。若两类模式是线性可分的，即存在一个线性超平面能将它们分开，则感知机的学习过程一定会收敛而求得适当的权向量 阅读全文
摘要：
二、感知机与多层网络 1、感知机 感知机由两层神经元组成，输入层接收外界的输入信号后传递给输出层，输出层是M-P神经元，亦称“阈值逻辑单元”。结构如下图： 感知机能容易地实现逻辑与、或、非操作。 神经网络的基本单元为神经元，神经元接受来自其他神经元的信号，经过一个线性变换，与阈值比较，通过非线性变换 阅读全文