分类
1.监督学习(分类/预测)
数据集中对象的类标记已知
通过类标记的指导下学习数据中的模式
利用获取的模式或者模型对新数据进行分类预测
2.模型分类
2.1 生成模型
希望从数据中学习/还原出原始的真实数据生成模型。
常见的方法是学习数据的联合概率分布。
E.g 朴素贝叶斯方法、隐马尔科夫模型等
当容量大时,生成模型容易接近真实模型
能处理具有隐含变量的情景
2.2 判别模型
从数据中学习到不同类概念的区别从而进行分类。
如KNN,SVM, ANN, Decision Tree, etc.
速度快、准确率较高
3.对比分类和预测
分类和预测是监督学习中的两种主要类型
分类:
预测分类标号(或离散值)
根据训练数据集和类标号属性,构建模型来分类现有数据,并用来分类新数据
预测:
建立连续函数值模型,预测未来的情况、连续值或趋势,比如预测空缺值
回归分析、数值预测常常作为同义词混用
分类的算法:
1.朴素贝叶斯
在概率论和统计学中,Bayes’ theorem(贝叶斯法则)根据事件的先验知识描述事件的概率。贝叶斯法则表达式如下所示:
P(A|B)=(P(B|A)P(A))/ p(B)
P(A|B) – 在事件B下事件A发生的条件概率
P(B|A) – 在事件A下事件B发生的条件概率
P(A), P(B) – 独立事件A和独立事件B的边缘概率
2.回归
2.1 线性回归