2010年4月3日

条件熵 信息增益

摘要: §8.5信息8.5.1复合熵前面(8.2.2)式得出了仅有一个随机变量情况下的熵公式(8.2)。如果抽样实验是由两个(或者多个)实验复合而成(对应于两个集合的笛卡尔积),就存在一个联合概率分布。例如掷一枚硬币还掷一次骰子,根据独立事件的概率的乘法,它们的每个结局的出现概率分布应当是0.5×(1/6)=0.0833。这可以列成一个概率分布表 表(8.5)骰子不同点数与硬币的正面或... 阅读全文

posted @ 2010-04-03 16:12 水无恨 阅读(6534) 评论(3) 推荐(3) 编辑

导航