摘要: 支持向量机 核心思想:最大化几何间隔 1. 线性可分支持向量机 1.1 名词解释 函数间隔 𝛾′ 感知机损失函数的分子。 大于0分类正确,小于0分类错误。 几何间隔 𝛾 感知机的损失函数就是几何间隔。 1.2 损失函数 初始损失函数是正确分类点到超平面的距离加和,但因为要使几何间隔最大,所以是最 阅读全文
posted @ 2021-09-05 10:40 Daybreaking 阅读(289) 评论(0) 推荐(1) 编辑
摘要: 决策树 通过层层的if判断条件,将数据集划分成规模越来越来小的子集,直至无需划分。 核心:划分依据、剪枝 一、理论基础 熵 H(A) 信息增益 I(D, A) = H(D) - H(D|A) 已知特征A后,不确定性减小的程度。 信息增益比 用于C4.5算法,解决以下两个问题: 同等概率下,ID3倾向 阅读全文
posted @ 2021-09-05 10:39 Daybreaking 阅读(68) 评论(0) 推荐(0) 编辑