2018年1月14日

信息增益与决策树

摘要: 1. 何为信息增益(Information Gain)? 信息增益是特征选择中的一个重要指标,它定义为一个特征能够为分类系统带来多少信息,带来的信息越多,该特征越重要。 IG 是用来衡量一个属性区分数据样本的能力。IG越大,这个属性作为一棵树的根节点就能使这棵树更简洁。 2. 如何计算信息增益?(利 阅读全文

posted @ 2018-01-14 19:39 CuriousZero 阅读(559) 评论(0) 推荐(0) 编辑

最大似然估计(MLE)与最大后验概率(MAP)

摘要: 何为:最大似然估计(MLE): 最大似然估计提供了一种给定观察数据来评估模型参数的方法,即:“模型已定,参数未知”。可以通过采样,获取部分数据,然后通过最大似然估计来获取已知模型的参数。 最大似然估计是一种统计方法,它用来求一个样本集的相关概率密度函数的参数。利用已知的样本结果,反推最有可能(最大概 阅读全文

posted @ 2018-01-14 19:31 CuriousZero 阅读(855) 评论(0) 推荐(0) 编辑

导航