会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Hongyu
数据分析;风控反欺诈;读书随笔
博客园
首页
新随笔
联系
订阅
管理
2018年5月1日
信息量的度量——熵(entropy)
摘要: 引言 (废话) 我们经常说的“信息量太大了”,其中的”信息量“到底如何度量? Claude Elwood Shannon 借鉴了热力学的概念,把信息中排除了冗余后的平均信息量称为“信息熵”。 这个概念现在看着很简单易懂,但是开创性地提出这样的概念不是容易的事情。 1 Entropy 熵 熵(entr
阅读全文
posted @ 2018-05-01 15:40 Yinhongyu
阅读(4315)
评论(0)
推荐(0)
编辑