[机器学习实战] 支持向量机
书中讲的比较简洁,涉及的知识比较多,相关知识暂时做个罗列:
1)本质是给予最大间隔分割数据,寻找最大间隔进行优化;
通过引入拉格朗日乘子进行计算,可以获得目标优化函数:
这里涉及对偶问题,需要查一下。针对对偶问题分强对偶和弱对偶,具体可学习下面的视频:
https://www.bilibili.com/video/BV1aE411o7qd?p=28 这是个系列教程,涉及的几个视频需要都看看
在计算最终W, b时涉及KTT条件:
https://www.bilibili.com/video/BV1aE411o7qd?p=28 这是个系列教程,涉及的几个视频需要都看看
2)在做间隔优化时,涉及硬间隔和软间隔,所谓软间隔是允许有一定的距离误差(参见书中的常数C)
3)涉及的核函数讲解不错的视频:
https://www.bilibili.com/video/BV1xE411w7Go/?spm_id_from=333.788.videocard.7
https://www.bilibili.com/video/BV1nx41157xz/?spm_id_from=333.788.videocard.1
https://www.cnblogs.com/hichens/p/11874645.html
4)书上的代码比较晦涩,可以参见这个一起看
5)SMO算法
https://www.bilibili.com/video/BV1mE411p7HE/?spm_id_from=333.788.videocard.11
https://www.bilibili.com/video/BV12E411T7ZN/?spm_id_from=333.788.videocard.0
李航统计学习之SVM支持向量机+SMO算法数据推导
https://www.bilibili.com/video/BV1S741117Pw?p=12