摘要： 
KL散度的用途 用来衡量真实分布和近似分布之间的差距（两个数据分布之间的距离） KL散度的定义 连续变量： 离散变量： 其中 q(x) 是近似分布，p(x) 是真实分布。直观地说，这衡量的是给定任意分布偏离真实分布的程度。如果两个分布完全匹配，DKL=0，否则它的取值应该是在 0 到无穷大（inf） 阅读全文
KL散度的用途 用来衡量真实分布和近似分布之间的差距（两个数据分布之间的距离） KL散度的定义 连续变量： 离散变量： 其中 q(x) 是近似分布，p(x) 是真实分布。直观地说，这衡量的是给定任意分布偏离真实分布的程度。如果两个分布完全匹配，DKL=0，否则它的取值应该是在 0 到无穷大（inf） 阅读全文