2019年11月5日
Kullback-Leibler 散度, 互信息，信息增益
摘要： 1. Kullback-Leibler 散度： 在概率论，信息论中我们往往得考虑两个概率分布（更一般的，测度）的差异度，一种衡量方式就是所谓的用Kullback-Leibler散度（或者称距离）表征两个测度（分布）的差异度，其定义如下： 定义 1.1 ：$P,Q$是样本空间$(\Omega, \ma 阅读全文
posted @ 2019-11-05 08:57 Freiburger 阅读(1467) 评论(0) 推荐(0) 编辑