KL散度(Kullback–Leibler divergence)

KL散度是度量两个分布之间差异的函数。在各种变分方法中，都有它的身影。

转自：https://zhuanlan.zhihu.com/p/22464760