文明大学生

数学公式

数据挖掘之决策树

1.什么是决策树:

    决策树是以树状结构表示数据分类的结果

 

 

非叶子结点代表测试的条件。

分支代表测试的结果

2.如何构建决策树

´1.信息熵(informationentropy):是度量样本集合纯度最常用的一种指标

 

 2.基尼系数(gini):是度量样本集合不确定性指标。(基尼指数与熵可近似看做是统一概念,都是越大,确定性越差)

 

 基尼指数和信息熵的图像:(当熵和基尼指数为0.5时,即确定某件事的概率为50%,是最不能肯定的事件。如:小明后天再路上捡钱的概率为50%,很不确定。如果概率为30%,代表很可能捡不到钱;如果概率为60%,则代表更可能捡到钱。)

一个小栗子:

 

posted on 2021-12-13 20:52  文明大学生  阅读(276)  评论(0编辑  收藏  举报

导航