决策树(Hunt、ID3、C4.5、CART)

决策树

• 1、决策树
• 2、决策树算法
• • 2.1 Hunt算法
  • 2.2 构建决策树的问题
  • • 2.2.1 怎样为不同类型的属性指定测试条件
    • 2.2.2 怎样选择最佳划分
  • 2.3信息增益算法
  • • 2.3.1 信息增益算法原理
    • 2.3.2 其他节点纯度的测量
    • 2.3.3 纯性度量之间的比较
  • 2.4 C4.5算法
  • 2.5 CART算法
• 3、决策树算法对Iris数据集进行分类

1、决策树

  决策树属于经典的十大数据挖掘算法之一，是一种类似于流程图的树型结构，其规则就是if…then…的思想，用于数值型因变量的预测和离散型因变量的分类。决策树算法简单直观，容易解释，而且在实际应用中具有其他算法难以比肩的速度优势。

  决策树方法在分类、预测和规则提取等领域有广泛应用。在20世纪70年代后期和80年代初期，机器学