生成模型VAE、GAN和基于流的模型详细对比

在Ian Goodfellow和其他研究人员在一篇论文中介绍生成对抗网络两年后，Yann LeCun称对抗训练是“过去十年里ML最有趣的想法”。尽管GANs很有趣，也很有前途，但它只是生成模型家族的一部分，是从完全不同的角度解决传统AI问题，在本文中我们将对比常见的三种生成模型。

生成算法

当我们想到机器学习时，首先想到的可能是鉴别算法。判别模型是根据输入数据的特征对其标签或类别进行预测，是所有分类和预测解决方案的核心。与这些模型相比生成算法帮助我们讲述关于数据的故事并提供数据是如何生成的可能解释，与判别算法所做的将特征映射到标签不同，生成模型试图预测给定标签的特征。

区别模型定义的标签y和特征x之间的关系，生成模型回答“你如何得到y”的问题。而生成模型模型则是P(Observation/Cause)，然后使用贝叶斯定理计算P(Cause/Observation)。通过这种方式，他们可以捕获p(x|y)， x给定y的概率，或者给定标签或类别的特征的概率。所以实际上，生成算法也是可以用作分类器的，这可能是因为它们对各个类的分布进行了建模。

生成算法有很多，但属于深度生成模型类别的最流行的模型是变分自动编码器(VAE)、gan和基于流的模型。

VAE

变分自编码器(VAE)是一种生成模型，它“提供潜在空间中观察结果的概率描述”。简单地说，这意味着vae将潜在属性存储为概率分布。

变分自编码器(Kingma & Welling, 2014)或VAE的思想深深植根于变分贝叶斯和图形模型方法。

标准的自动编码器包括2个相似的网络，一个编码器和一个解码器。编码器接受输入并将其转换为更小的表示形式，解码器可以使用该表示形式将其转换回原始输入。它们将输入转换到的潜在空间以及它们的编码向量所在的空间可能不是连续。这对于生成模型来说是一个问题，因为我们都希望从潜在空间中随机采样，或者从连续潜在空间中生成输入图像的变化。

完整文章：

https://avoid.overfit.cn/post/a0d01a1c00184d559aeb426a77b163b3