AdaIN 解读

论文题目:Arbitrary Style Transfer in Real-time with Adaptive Instance Normalization 【ICCV 2017】

AdaIN 的公式如下:

\[\textrm{AdaIn}(x,y) = \sigma(y)\left(\frac{x-\mu(x)}{\sigma(x)}\right)+\mu(y) \]

其中, \(x\)\(y\) 分别是内容图片和风格图片 encode 以后的特征图,\(\sigma\)\(\mu\) 分别是均值和标准差,该公式将内容图片的均值和标准差与风格图片对齐。

可以这样理解 ,首先内容图\(x\) 归一化后均值为0,标准差为1,然后乘以风格的标准差再加上均值,结果就将原来内容图的均值与标准差和风格图一致了。

上图是该算法的流程图,VGG 和 AdaIN 是不需要训练的,真正需要训练的只有解码器。两张 feature map 输入,调整内容图的均值和标准差以适应风格的 feature map。解码器根据变换后的 feature map 重建图像,通过训练解码器,使重建出来的图像接近真实图像。

posted @ 2021-02-16 16:51  高峰OUC  阅读(3607)  评论(0编辑  收藏  举报