Coursera台大机器学习技法课程笔记04-Soft-Margin Support Vector Machine

       之前的SVM非常的hard,要求每个点都要被正确的划分,这就有可能overfit,为此引入了Soft SVM,即允许存在被错分的点,将犯的错放在目

标函数中进行优化,非常类似于正则化。

      将Soft SVM进行对偶转化后,发现与之前的hard SVM非常的像,只是其中一个系数多了个上界。

      通过对阿尔法值的范围的讨论,将SVs分成三类:边界外的、free vector、bounded vector

      最后讲的是模型的选择。需要注意的是,我们可以根据support vector的数量来确定cross validation的上限。

      

      参考:http://www.cnblogs.com/xbf9xbf/p/4622646.html

              http://www.cnblogs.com/bourneli/p/4216750.html

      

posted @ 2015-07-21 14:50  牧马人夏峥  阅读(196)  评论(0编辑  收藏  举报