会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
White Pillow's Blog
积土成山,风雨兴焉;积水成渊,蛟龙生焉;积善成德,而神明自得,圣心备焉。
博客园
首页
新随笔
联系
订阅
管理
2011年7月11日
"模式识别与机器学习"读书笔记——1.6 Information Theory
摘要: 信息论初步。 越少出现的事件其包含的信息量越大,用h(x)表示, h(x)需满足性质:h(x,y)=h(x)+h(y),x,y是两个不相关事件。 由此可以对h(x)建立模型:h(x)=-log2p(x)。 如果要把本地的随机发生的事件传到另一个地方,需要传输的平均信息量为: 这个H[x]也叫做熵。...
阅读全文
posted @ 2011-07-11 11:48 MindProbe
阅读(747)
评论(0)
推荐(0)
编辑
公告