根节点

非叶子节点(决策点)

叶子节点(决策结果)

分支

熵代表混乱程度 

信息增益

构造树的基本想法是随着树深度的增加、节点的熵迅速地降低。熵降低的速度越快越好,这样我们有望得到一颗高度最矮的决策树

 

 

 

 

 

 

 

 

 

信息增溢值越大越好

谁当根节点?

 

 

 

 

 

 

 

 信息增益率

重要:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

posted on 2019-11-19 11:20  foremost  阅读(170)  评论(0编辑  收藏  举报