ddpm逆向过程推导

合集 - 扩散模型ddpm(6)

1.ddpm实际案例03-132.ddpm加噪前向过程公式推导03-113.ddpm扩散模型推导前置03-10

4.ddpm逆向过程推导03-11

5.ddpm损失函数03-126.Denoising Diffusion Probabilistic Models论文解读03-12

收起

ddpm逆向过程推导

本文正式开始了ddpm逆向过程的推导，在逆向推导之前，我们将前一篇文章的推导结果做一个总结。

前文总结

我们目前已知前线过程$q$

$$\begin{array}{}\text{(Eq.1)}& q(x_t|x_{t-1}):=\mathcal{N}(x_t;\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_{t}I)\end{array}$$

$$\begin{array}{}\text{(Eq.2)}& q(x_t|x_0)=\mathcal{N}(x_t;\sqrt{\overline{{\alpha }_t}}{x}_0,(1-{\overline{\alpha }}_t)I)\end{array}$$

其中

$$\begin{array}{}\text{(Eq.3)}& {\overline{\alpha }}_t={\alpha }_t{\alpha }_{t-1}...{\alpha }_1=\prod _{i=1}^t{\alpha }_i\end{array}$$

$$\begin{array}{}\text{(Eq.4)}& {\alpha }_t+{\beta }_t=1\end{array}$$

高斯公式如下：

$$\begin{array}{}\text{(Eq.5)}& \mathcal{N}(\mu ,{\sigma }^{2}I)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\exp [-\frac{1}{2}(\frac{x^2}{{\sigma }^2}-\frac{2\mu x}{{\sigma }^2}+\frac{{\mu }^2}{{\sigma }^2})]\end{array}$$

逆向过程

逆向过程就是将$q(x_t|x_{t-1})$方向颠倒过来成为$q(x_{t-1}|x_t)$，一步一步就能将高斯噪声重新生成图片。我们通过贝叶斯公式如下：

$$\begin{array}{}\text{(Eq.6)}& q(x_{t-1}|x_t)=\frac{q(x_t|x_{t-1})q(x_{t-1})}{q(x_t)}\end{array}$$

但是Eq.5最大的问题在于它和我们已知的条件完全无关，为此我们需要引入一些条件，在ddpm中合理的条件就是$x_0$，也就是原图，直觉上很合理，在已知原图的基础上，逆向过程可以改写为如下形式：

$$\begin{array}{}\text{(Eq.7)}& \begin{array}{rl}q(x_{t-1}|x_t,x_0)& =\frac{q(x_t|x_{t-1},x_0)q(x_{t-1}|x_0)}{q(x_t|x_0)}\\ & =\frac{q(x_t|x_{t-1})q(x_{t-1}|x_0)}{q(x_t|x_0)}\end{array}\end{array}$$

在引入了$x_0$条件后Eq.6可以引入已知条件。由此我们可以用高斯公式计算Eq.6的表达式，由于这个过程太过枯燥，我们跳过中间过程，结果如下：

$$\begin{array}{}\text{(Eq.8)}& q(x_{t-1}|x_t,x_0)=\exp (-\frac{1}{2}[(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\overline{\alpha }}_{t-1}})x_{t-1}^2-(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}x+\frac{2\sqrt{{\overline{\alpha }}_{t-1}}}{1-\overline{{\alpha }_{t-1}}}{x}_0)x_{t-1}+C(x_t,x_0)])\end{array}$$

我们将Eq.8套入Eq.5的形式可以的得到：

$$\begin{array}{}\text{(Eq.9)}& \begin{array}{rl}\frac{1}{{\sigma }^2}& =\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\overline{\alpha }}_{t-1}}\\ & =\frac{{\alpha }_t(1-{\overline{\alpha }}_{t-1})+{\beta }_t}{{\beta }_t(1-{\overline{\alpha }}_{t-1})}\\ & =\frac{1-{\overline{\alpha }}_t}{{\beta }_t(1-{\overline{\alpha }}_{t-1})}\end{array}\end{array}$$

则

$$\begin{array}{}\text{(Eq.10)}& {\sigma }^2=\tilde{\beta }=\frac{{\beta }_t(1-{\overline{\alpha }}_{t-1})}{1-{\overline{\alpha }}_t}\end{array}$$

Eq.10和附件中的公式(7)结果一致，并且我们可以发现方差${\sigma }^2$只和$\alpha ,\beta$相关。除此以外均值$\mu$如下：

$$\begin{array}{}\text{(Eq.11)}& \frac{2\mu }{{\sigma }^2}=\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}+\frac{2\sqrt{{\alpha }_{t-1}}}{1-{\overline{\alpha }}_{t-1}}{x}_0\end{array}$$

$$\begin{array}{}\text{(Eq.12)}& \begin{array}{rl}\mu & =(\frac{\sqrt{{\alpha }_t}}{{\beta }_t}{x}_t+\frac{\sqrt{{\overline{\alpha }}_{t-1}}}{1-{\overline{\alpha }}_{t-1}}{x}_0){\sigma }^2\\ & =\frac{\sqrt{{\alpha }_t}}{\cancel{{\beta }_t}}\frac{\cancel{{\beta }_t}(1-{\overline{\alpha }}_{t-1})}{1-{\overline{\alpha }}_t}{x}_t+\frac{\sqrt{{\overline{\alpha }}_{t-1}}}{1-{\overline{\alpha }}_{t-1}}\frac{{\beta }_t(1-{\overline{\alpha }}_{t-1})}{1-{\overline{\alpha }}_t}{x}_0\\ & =\frac{\sqrt{{\alpha }_t}(1-{\overline{\alpha }}_{t-1})}{1-{\overline{\alpha }}_t}{x}_t+\frac{{\beta }_t\sqrt{{\overline{\alpha }}_{t-1}}}{\cancel{{\beta }_t(1-{\overline{\alpha }}_{t-1})}}\frac{\cancel{{\beta }_t(1-{\overline{\alpha }}_{t-1})}}{1-{\overline{\alpha }}_t}{x}_0\\ & =\frac{\sqrt{{\alpha }_t}(1-{\overline{\alpha }}_{t-1})}{1-{\overline{\alpha }}_t}{x}_t+\frac{{\beta }_t\sqrt{{\overline{\alpha }}_{t-1}}}{1-{\overline{\alpha }}_t}{x}_0\end{array}\end{array}$$

Eq.12和附件中公式(7)的结果也一致，至此我们完成了逆向过程的推导过程说明。

这里有一点额外的说明，Eq.12中计算逆向过程的均值$\mu$中出现了$x_t$是一个人为定义的高斯噪声，没有问题。但是对于其中的$x_0$，训练过程中我们包含原图作为条件没有问题，但是推理过程中或者说是AIGC文生图过程中的$x_0$又改如何改变。我们回到已知的Eq.2中，我们可以知道

$$x_t=\sqrt{{\overline{\alpha }}_t}{x}_0+\sqrt{1-{\overline{\alpha }}_t}{ϵ}_t$$

则$x_0$就为以下等式：

$$x_0=\frac{x_t-\sqrt{1-{\overline{\alpha }}_t}{ϵ}_t}{\sqrt{{\overline{\alpha }}_t}}$$

我们可以观察到$x_0$和噪声${ϵ}_t$有关，所以在推理的时候，我们并不需要知道原图$x_0$就可以进行推理。并且进一步来讲，我们训练的时候的并不是对$x_0$做损失，而是对$ϵ$使用损失函数，因为两者是相互有关联的。无论训练还是推理过程，都是让$ϵ$准确就可以正确预测$x_0$

综上我们得到了逆向过程的运算结果,其中$\tilde{\mu }$的结果在Eq.12, ${\tilde{\beta }}_t$的结果为Eq.10

$$q(x_{t-1}|x_t,x_0)=\mathcal{N}(x_{t-1};{\tilde{\mu }}_t,{\tilde{\beta }}_{t}I)$$

和附件中的公式(6),(7)结果一致

附件（原文background）