2018年4月21日
最大熵模型 Maximum Entropy Model
摘要： 一、熵 熵是随机变量不确定性的度量，不确定性越大，熵值就越大；若随机变量退化成定值，熵为0。 假设离散随机变量X的概率分布为P(x)，则其熵为： 二、最大熵原理 最大熵原理认为，学习概率模型时，在所有的可能的概率模型中，熵最大的模型是最好的模型。 通常用约束条件来确定概率模型的集合，所以，熵最大原理 阅读全文
posted @ 2018-04-21 09:04 夜游星 阅读(614) 评论(0) 推荐(0) 编辑