201116西瓜书机器学习系列---4、决策树

201116西瓜书机器学习系列---4、决策树

一、总结

一句话总结：

决策树概念：基于树模型做决策；每个节点对应某个属性；每个分支对应可能的结果；叶子节点对应预测结果

决策树基本流程：分而治之，自根至叶的递归过程

 

1、决策树步骤？

划分选择、剪枝处理、连续与缺失值的选择

 

 

2、决策树 其它？

多变量决策树、经典决策树算法

 

 

 

3、自信息、信息熵、基尼系数？

基尼系数是信息熵的近似

 

 

4、信息增益？

以信息熵为基础，计算当前划分对信息熵造成的变化

 

 

 

5、信息增益 实例？

 

 

6、决策树历史？

 

 

 

二、内容在总结中

博客对应课程的视频位置：