随笔分类 - 4_生成对抗网络
摘要：KL散度、JS散度、Wasserstein距离 一、总结 一句话总结： ①)、KL散度又称为相对熵，信息散度，信息增益。KL散度是是两个概率分布P和Q 差别的非对称性的度量。 ②)、JS散度度量了两个概率分布的相似度，基于KL散度的变体，解决了KL散度非对称的问题。 ③)、Wessertein距离相
阅读全文
摘要：手把手教你理解和实现生成式对抗神经网络（GAN） 一、总结 一句话总结： GAN的全称是 Generative Adversarial Networks，中文名称是生成对抗网络。原始的GAN是一种无监督学习方法，巧妙的利用“博弈”的思想来学习生成式模型。 1、gan的目标函数？ $$\min _ {
阅读全文
摘要：生成对抗网络（GAN） 一、总结 一句话总结： GAN的全称是 Generative Adversarial Networks，中文名称是生成对抗网络。原始的GAN是一种无监督学习方法，巧妙的利用“博弈”的思想来学习生成式模型。 1、GAN的原理(从博弈方面)？ 在训练过程中，生成网路G的目标是尽量
阅读全文
摘要：GAN对抗神经网络（原理解析） 一、总结 一句话总结： (一)、GAN的主要灵感来源于博弈论中零和博弈的思想，应用到深度学习神经网络上来说，就是 (二)、**通过生成网络G（Generator）和判别网络D（Discriminator）不断博弈，进而使G学习到数据的分布**， (三)、如果用到图片生
阅读全文
摘要：Wasserstein distance（EM距离） 一、总结 一句话总结： ①、Wasserstein 距离又叫Earth-Mover距离（EM距离），用于衡量两个分布之间的距离， ②、定义：$$W ( P _ { 1 } , P _ { 2 } ) = \inf _ { \gamma \sim
阅读全文
