摘要: 1.线性可分支持向量机的局限性 在支持向量机(二)中我们已经推导了线性可分支持向量机的原理,但在实际问题中,我们的样本数据可能并不那么完美,可能含有一些噪音点或者异常点,如果我们不考虑噪音点依然使用之前的线性可分模型去考量,那找到的分离超平面未必是最合适的,如下图所示,红圈所示圆点很明显是一个噪音点 阅读全文
posted @ 2017-08-16 16:22 猴子吃果冻 阅读(1352) 评论(0) 推荐(0) 编辑
摘要: 问题引入:现假设我们想在圆点“。”和“x”之间修一条水渠,水渠使得两类点位于水渠两侧,并且使得水渠能够做到最宽,显然满足这样条件的水渠(如图2)是唯一的。通过什么方法找到呢?现在我们将其还原到机器学习中,此问题即为一个分类问题,也就是线性支持向量机的目标:找到分离超平面使得其里两类样本点中最近的两类 阅读全文
posted @ 2017-08-16 16:22 猴子吃果冻 阅读(1083) 评论(1) 推荐(0) 编辑
摘要: 在 支持向量机(二) 线性可分支持向量机原理推导中我们最终将问题转化成为了求解如下式(1)的最大值 我们将式(1)转换成为如下求解f(α)的最小值的问题 由约束条件得: (ζ为常数)即我们将α1 α2当做变量,将整体看为常数(ζ) 将(3)式代入(2)式对(2)式进行化简: 阅读全文
posted @ 2017-08-16 16:21 猴子吃果冻 阅读(400) 评论(0) 推荐(0) 编辑
摘要: 阅读全文
posted @ 2017-08-16 16:20 猴子吃果冻 阅读(6264) 评论(0) 推荐(0) 编辑
摘要: 在支持向量机(二)和(三)中,我们均遗留了一个问题未解决,即如何求解原问题的对偶问题; 在支持向量机(二)中对偶问题为: 在支持向量机(三)中的对偶问题为: 对于上述两个对偶问题,我们在支持向量机(三)中分析C的作用时有分析过,当C特别大时,松弛因子ξ=0,故此时的线性支持向量机即为线性可分支持向量 阅读全文
posted @ 2017-06-06 01:01 猴子吃果冻 阅读(779) 评论(0) 推荐(0) 编辑