扩散模型
扩散模型的用途:当下很多图片需要去码去噪,还原本身的图像性质。或者当下AI绘画很火热,许多算法通过输入文字描述,最终便可以得到一张生成图像。
概述
扩散模型的思路:定义一个扩散步骤的马尔可夫链,缓慢地将随机噪声添加到数据中,然后学习反转扩散过程,从噪声中构建所需的数据样本。
噪声的扩散:在数据当中,不断地加入具有高斯分布的噪声,最开始还具有原始图片的特征,但是随着噪声的不断加入,最后会变为一个纯噪声图片。
每一个噪声都是在前一时刻增加噪声而来的(马尔科夫过程)(原文噪声增加了2000次)
为什么加噪声:由扩散模型的用途可知,扩散模型是为了去噪,如果模型学习到了怎么增加的噪声,那么可以很容易推导出逆向的去噪方法。同时,不断添加噪声的过程就是不断构建标签的过程。
设计
怎么加噪声:
xt,x0,α都是已知量,€是添加的随机噪声
最终结果中,未知量为€t
输入图片xt有了,前向过程中不断添加的噪声,是用来训练的标签
前向推导得到了均值和方差,然而均值中存在不定的噪声,我们便通过前向的传递记录真实采样的噪声为标签,训练一个应用于反向预测噪声的模型。