AI 支持向量机

支持向量机（Support Vector Machine，简称SVM），属于监督学习。

 

核技巧（kernel trick）

 

名字很吓人，乍一听完全不懂什么意思，但其实它的名字是很有意义的。

　　1）首先，要清楚空间中点和向量的联系：一个点可以看成是以原点为起点，该点为终点的向量。例如，二维空间中，向量(x₁, x₂)=点(x₁, x₂)-原点(0, 0)。“支持向量”其实就是“支持点”。

　　2）支持向量机是一种二元分类模型，

超平面（hyperplane），少量样本，空间中点可以看做以原点为起点的向量，即支持超平面生成的向量，最好的分类算法，

超平面表达式：w^Tx + b = 0

拉格朗日乘子法（Lagrange Multiplier），

最简单的svm就是一条直线

会有很多分类满足条件

到两边的margin都最大

线性可分

KKT

VC维理论

结构风险最小原理

函数距离，几何距离

法向量：垂直于平面的向量 

平行向量（也叫共线向量）

点到超平面的距离：

视频解释：

https://v.qq.com/x/cover/m05175nci67/m05175nci67.html

https://v.qq.com/x/page/k05170ntgzc.html

 

监督学习

不输出概率，只输出类别

 

高斯核（Gaussian kernel）

 

参考链接：

https://blog.csdn.net/v_JULY_v/article/details/7624837