支持向量机SVM

  支持向量机（support vector machines，SVM）是一种找到位于两类训练样本“正中间”的划分超平面的二类分类模型。这样这个划分超平面所产生的分类结果是最鲁棒的。

---

基本型支持向量机    

     划分超平面可用以下方程来表示：

                 w^Tx+b=0

     其中： w=(w₁,w₂,...,w_d)为法向量，决定了超平面的方向

                     b为位移项，决定了超平面与原点之间的距离

  样本空间中任意点x到超平面（w，b）的距离可写为：

                              

  对于二分类问题正类用y_i=+1表示，负类为y_i=-1。假设超平面能将训练样本正确分类，则：

                

  距离超平面最近的这几个训练样本使上式的等号成立，它们被称为“支持向量”，两个异类支持向量到超平面的距离之和为

                                          

  它被称为“间隔”

  支持向量机的任务就是找到最大间隔的划分超平面，也就是找到参数w和b是的r最大，即

                                          

上式等价于

                                           

     这就是SVM的基本型。

 

http://blog.csdn.net/fkyyly/article/details/17633663

非线性规划问题（NP问题）就是不同与线性规划问题就是目标函数或约束条件至少有一个是非线性函数。

二次规划问题是一类特殊的非线性规划问题。即它的目标函数是二次函数，约束条件是线性的。

http://blog.csdn.net/sunmenggmail/article/details/13998255