《统计学习方法（李航）》讲义第02章感知机

感知机(perceptron) 是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值.感知机对应于输入空间(特征空间) 中将实例划分为正负两类的分离超平面，属于判别模型.感知机学习旨在求出将训练数据进行线性划分的分离超平面，为此，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化,求得感知机模型.感知机学习算法具有简单而易于实现的优点，分为原始形式和对偶形式.感知机预测是用学习得到的感知机模型对新的输入实例进行分类.感知机1957 年由Rosenblatt 提出，是神经网络与支持向量机的基础.本章首先介绍感知机模型; 然后叙述感知机的学习策略,特别是损失函数;最后介绍感知机学习算法,包括原始形式和对偶形式，并证明算法的收敛性.