摘要: Kullback-Leibler divergence 形式: 性质: 非负 P=Q时,D[P||Q]=0 不对称性:D(P||Q)≠D(Q||P) 自信息:符合分布 P 的某一事件 x 出现,传达这条信息所需的最少信息长度为自信息,表达为 熵:从分布 P 中随机抽选一个事件,传达这条信息所需的最优 阅读全文
posted @ 2019-04-25 08:31 Shiyu_Huang 阅读(1337) 评论(0) 推荐(0) 编辑