随笔分类 - 机器学习
摘要:一、介绍 逻辑回归算法属于监督学习的分类算法,用于解决二分类(0或1)问题 一篇很好的概念介绍 "https://zhuanlan.zhihu.com/p/28408516" 1、sigmoid函数 逻辑回归引入sigmoid函数进行分类 当x为0
阅读全文
摘要:介绍 朴素贝叶斯是监督学习分类算法 分类方法:比如已知一个数据集由两类数据(类A,类B)组成,对于一个数据x,如果x属于A的概率大于x属于B的概率,那么x属于A类。 如何计算相关概率:使用条件概率进行分类 条件概率 在事件B发生的条件下事件A发生的概率 \(p(A|B)=\frac{
阅读全文
摘要:介绍 决策树是监督学习的分类算法,关键在于决策树树的构造。构造决策树的算法有:ID3、C4.5、CART。 ID3算法的构造决策树的过程如下: 选择特征 因为有好几个特征,依据哪一个特征划分,如,形如['四条腿','会叫','狗'],是依据有几条腿的特征,还是会不会叫的特征,所以要有评判标准:可以依
阅读全文
摘要:介绍 k近邻算法(KNN)属于监督学习的分类算法,通过测量不同特征值之间的距离进行分类,算法过程如下 计算数据点与已知数据集中每个点的距离 对距离从小到大进行排序 选取前k个距离值 确定前k个距离值所在类别的出现的概率 将前k个点出现频率最高的类别作为当前数据的预测分类 主要代码如下 其中距离计算,
阅读全文