最早认识“感知机”，是在人工神经网络的课上，蒲晓蓉老师洋洋洒洒地给了我一个直观的认识，并且给出了一些数学上的证明。后来上其他的课程，涉及到了，自己有点抱残守缺，自鸣得意。今天看了Andrew NG的notes，又参考了李航的统计机器学习，又有了一些更深入的认识。

      最早只知道，感知机的学习算法，就是“错误感知”或者说是“错误纠正”，从来没有和梯度下降法结合在一起，李航博士给出了很详细的数学说明。最重要的是，他将感知机的目标函数定义为“错误分类的点到分类平面的距离”，即Image(2)[5]（M是错误分类的点的集合）。采用梯度下降的方法，Image(32)[5]

Image(33)[5]。（直观上理解，当一个样本点被错误分类时，要使分类超平面向该样本点移动）

      在感知机中，就引进了点到超平面的距离这个概念（使权重向量的模为1，很容易获得），这对后面SVM的理解很有帮助。同时，感知机只关心数据正确分类，不会选取最优解。

 

附：http://www.cnblogs.com/zhangmiao-chp/archive/2012/11/16/2773290.html