摘要: 第三部分:SMO算法的个人理解 接下来的这部分我觉得是最难理解的?而且计算也是最难得,就是SMO算法。 SMO算法就是帮助我们求解: s.t. 这个优化问题的。 虽然这个优化问题只剩下了α这一个变量,但是别忘了α是一个向量,有m个αi等着我们去优化,所以还是很麻烦,所以大神提出了SMO算法来解决这个 阅读全文
posted @ 2017-09-17 22:59 xxrxxr 阅读(23613) 评论(15) 推荐(5) 编辑
摘要: 第二部分:转化为对偶问题进一步简化 这一部分涉及的数学原理特别多。如果有逻辑错误希望可以指出来。 上一部分得到了最大间隔分类器的基本形式: 其中i=1,2,3...m 直接求的话一看就很复杂,我们还需要进一步简化。 这里就需要介绍拉格朗日乘子法。介绍它还是从最最简单的形式说起: 一.关于优化问题的最 阅读全文
posted @ 2017-09-17 16:43 xxrxxr 阅读(20147) 评论(8) 推荐(3) 编辑
摘要: 网上,书上有很多的关于SVM的资料,但是我觉得一些细节的地方并没有讲的太清楚,下面是我对SVM的整个数学原理的推导过程,其中逻辑的推导力求每一步都是有理有据。现在整理出来和大家讨论分享。 因为目前我的SVM的数学原理还没有过多的学习核函数,所以下面的整理都不涉及到核函数。而且因为很多地方我还没理解太 阅读全文
posted @ 2017-09-17 14:52 xxrxxr 阅读(6929) 评论(8) 推荐(6) 编辑