AdaIN 解读
论文题目:Arbitrary Style Transfer in Real-time with Adaptive Instance Normalization 【ICCV 2017】
AdaIN 的公式如下:
\[\textrm{AdaIn}(x,y) = \sigma(y)\left(\frac{x-\mu(x)}{\sigma(x)}\right)+\mu(y)
\]
其中, \(x\) 和 \(y\) 分别是内容图片和风格图片 encode 以后的特征图,\(\sigma\) 和 \(\mu\) 分别是均值和标准差,该公式将内容图片的均值和标准差与风格图片对齐。
可以这样理解 ,首先内容图\(x\) 归一化后均值为0,标准差为1,然后乘以风格的标准差再加上均值,结果就将原来内容图的均值与标准差和风格图一致了。
上图是该算法的流程图,VGG 和 AdaIN 是不需要训练的,真正需要训练的只有解码器。两张 feature map 输入,调整内容图的均值和标准差以适应风格的 feature map。解码器根据变换后的 feature map 重建图像,通过训练解码器,使重建出来的图像接近真实图像。