生成对抗网络

基本思想

• 生成器
  • 从先验分布中采得随机信号，经过神经网络变换，得到模拟样本
• 判别器
  • 接受来自生成器的模拟样本，也接受来自实际数据集的真实样本，并进行判断

训练过程

• 训练判别器：先固定生成器\(G(\cdot)\)，然后利用生成器随机模拟产生样本\(G(z)\)作为负样本，并从真实数据集采样正样本\(X\);将这些正负样本输入\(D(\cdot)\)中，根据判别器的输出和样本标签来计算误差；利用误差反向传播算法更新判别器参数
• 训练生成器：先固定判别器\(D(\cdot)\)，然后利用当前生成器\(G(\cdot)\)随机模拟产生样本\(G(z)\)，并输入到判别器中；根据判别器的输出\(D(G(z))\)和样本标签来计算误差；利用误差反向传播算法更新生成器参数
• 交替优化，直至收敛

GANs的值函数

避开大量概率推断计算

• 初衷：
  • 解决概率生成模型的估计问题
• GANs在刻画概率生成模型时，并不对概率密度函数直接建模，而是通过制造样本\(x\)，间接体现分布