信息资源管理综合题之“信息的测度方法即信息量的计算”

一、信息的测度即信息量的计算。现有一离散信息源由“W”，“@”，“！”，“7”四个符号组成，他们出现的概率分别为1/2,1/4,1/8,1/16,且每个符号的出现都是独立的

1.列举两种信息量测度的方法

2.计算该离散信息源中每个符号所含的平均信息量

 

解：

（1）两种信息量测度的方法：基于数据量的信息测度  和 基于Shannon熵的信息量测度

基于数据量的信息测度：常用的信息测度方法是按反映信息内容数量的数据所占计算机存储装置空间大小来衡量信息量大小。这是一种基于数据量的（语法）信息量测度方法

基于Shannon熵的信息测度：基于Shannon熵的信息量测度方法主要用于随机型语法信息量计算

（2）此信息源中每字符平均信息量为

 

二、解析：