2016年2月12日
最大熵模型
摘要： 自然界中的熵: 自封闭系统的运动总是倒向均匀分布: 一.信息论基础 1.自信息: 信息: i(x) = -log(p(x)) a.如果说概率p是对确定性的度量 b.那么信息就是对不确定性的度量 c.当一个小概率事件发生了，这个事件的信息量很大；反之如果一个大概率事件发生了，这个事件的信息量就很少。 阅读全文
posted @ 2016-02-12 15:23 xmeo 阅读(286) 评论(0) 推荐(0) 编辑