信息增益准则选择最优特征

父节点的熵是经验熵H(D)

子节点的熵是划分后集合的经验熵H(D)

父节点的熵大于子节点的熵

熵越大，不确定性越大