2014年12月2日
信息增益（IG，Information Gain）的理解和计算
摘要： 决策树构建中节点的选择靠的就是信息增益了。信息增益是一种有效的特征选择方法，理解起来很简单：增益嘛，肯定是有无这个特征对分类问题的影响的大小，这个特征存在的话，会对分类系统带来多少信息量，缺了他行不行？既然是个增益，就是个差了，减法计算一下，谁减去谁呢？这里就用到了信息熵的概念，放到分类系统里面，信... 阅读全文
posted @ 2014-12-02 15:13 RanShW 阅读(6265) 评论(0) 推荐(0) 编辑