2017年12月10日

信息熵与信息增益

摘要： 1.信息熵：信息熵就是指不确定性，熵越大，不确定性越大 2.关于信息增益： 信息增益是针对一个一个的特征而言的，就是看一个特征t，系统有它和没它的时候信息量各是多少，两者的差值就是这个特征给系统带来的信息量，即增益。系统含有特征t的时候信息量很好计算，就是刚才的式子，它表示的是包含所有特征时系统的信 阅读全文

posted @ 2017-12-10 13:29 无果分飞 阅读(2721) 评论(0) 推荐(0) 编辑

导航