下士闻道

摘要： SVM的算法是很versatile的，在回归领域SVM同样十分出色的。而且和SVC类似，SVR的原理也是基于支持向量（来绘制辅助线），只不过在分类领域，支持向量是最靠近超平面的点，在回归领域，支持向量是那些距离拟合曲线（回归的目标函数/模型是拟合曲线）。 上图我们看到还有一个变量，是ϵ，ϵ决定了街道 阅读全文

摘要： 核函数的起源是对于线性不可分的分类情况，其实可以通过p次方多项式，及非线性模型进行分类；然后对于这类非线性多次方的，其实可以按照广义线性模型来进行升维变形，使之成为线性模型，这样就可以放到SVM中来进行处理了（svm只能处理非线性模型）。 但是升维之后是有维度爆炸现象的（二次方对应6维度，三次方对应 阅读全文

摘要： 感知机 要理解svm，首先要先讲一下感知机（Perceptron），感知机是线性分类器，他的目标就是通过寻找超平面实现对样本的分类；对于二维世界，就是找到一条线，三维世界就是找到一个面，多维世界就是要找到一个线性表达式，或者说线性方程: f(x) = ΣθiXi 表达式为0，就是超平面，用来做分界线 阅读全文