数据挖掘学习笔记-第三章 从贝叶斯到决策树
第三章 Bates & Decision Tree Model
Classification a kind of supervised learning
Bates Theorem
贝叶斯公式的应用:癌症与阳性关系
Naive Bates Classifier 假设:conditionally independent
条件独立的一些例子
Independent != Uncorrelated
避免连乘是出现0,需要做拉普拉斯平滑。
应用例子
预测某条件下打网球的概率
文章推荐
决策树
Decision Making
一些规则如:One dataset,many possible trees
Simpler tree are generally preferred.
ID3 常用的决策树
Entropy and Gain
根据Entropy 和 Gain 即可做 Attribute Selection
ID3 Frameworks
Overfitting 测试
pruning
Entropy Bias
Continuous Attribute
Reading Materials
总结:ID3 是最基本的决策树,还有很多新发展的决策树可以学习,不同的决策树对
连续型的处理,对缺失值的处理都有不同的方式可以去好好学习