折木家的招财猫

摘要： 最近在学机器学习的相关内容，看到决策树这一块提到了信息增益等内容，在此做下笔记 信息&信息熵&信息增益 信息 所谓信息，引用香农的话，信息即消除不确定性的东西，十分形象 定义系统$X$，发生了事件$x_i$，其中$i∈{0，1，2，···，n}$ 则从事件$x_i$中可以得到的信息量为 \(I(x_ 阅读全文