数据挖掘之决策树
1.什么是决策树:
决策树是以树状结构表示数据分类的结果
非叶子结点代表测试的条件。
分支代表测试的结果
2.如何构建决策树
´1.信息熵(informationentropy):是度量样本集合纯度最常用的一种指标
2.基尼系数(gini):是度量样本集合不确定性指标。(基尼指数与熵可近似看做是统一概念,都是越大,确定性越差)
基尼指数和信息熵的图像:(当熵和基尼指数为0.5时,即确定某件事的概率为50%,是最不能肯定的事件。如:小明后天再路上捡钱的概率为50%,很不确定。如果概率为30%,代表很可能捡不到钱;如果概率为60%,则代表更可能捡到钱。)
一个小栗子: