【CVPR2021】Contrastive Learning for Compact Single Image Dehazing
论文:Contrastive Learning for Compact Single Image Dehazing, CVPR 2021
代码:https://github.com/GlassyWu/AECR-Net
1、背景
当前方法的问题:1)使用clear images结合L1/L2重建损失进行训练,容易引起结果偏色;2)侧重于加大网络的深度和宽度,导致计算开销巨大。
为了解决当前问题,作者提出了一种新的 contrastive loss。有雾图像,网络生成的图像,清晰图像分别做为 negative, anchor, 和 positive 样本,保证生成的图像在表示空间中离清晰图像更近,离有雾图像更远。同时,为了在性能和参数量间取得平衡,作者提出了一个 compact network by adopting autoencoder-like framework。
该方法框架如图所示,由 autoencoder-like dehazing network 和 contrastive regularization 组成。
2、Autoencoder-like dehazing network
网络首先是一个步长为1的卷积和两个步长为2的卷积(图中浅蓝色的块),然后,采用6个FA块处理(是在FFANet中提出的)。该模型只采用了6个FA块,但原来的FFANet采用了57个,显著减少了计算量。同时,为了促进不同层、不同尺度间特征的流动,作者提出了两种连接模式:
(1)Adaptive mixup: 用来动态融合下采样层和上采样层之间的特征。Low-level features (边缘和角点)在CNN的低层捕获,但是,随着网络层数的加深,浅层特征会退化。为了解决这一问题,本文采用adaptive mixup operation来融合下采样层和上采样层间的特征,如下图所示。
该操作可以表示为:
其中,权重是自适应可学习的参数。
(2)Dynamic feature enchancement: 传统方法经常采用固定大小3X3的卷积核(如下图中间蓝框图片所示),感受野有限,同时难以捕获结构信息。如果使用 deformable conv (如下图右边红框图片所示),就可以获得更多的结构信息。因此,作者引入了dynamic feature enhancement模块,由两个可变形卷积层组成。实验中发现,深层部署的效果比浅层部署效果要好。
3、Contrastive regularization
对比学习的目标是在度量空间上拉近正样本对间的距离,拉远负样本对间的距离。因此,作者提出了新的 contrastive regularization 来修复图像。正样本对是正样本对是清晰图像\(J\)和经网络修复的图像\(\phi(I, w)\),负样本对是经网络修复的图像\(\phi(I, w)\)和有雾图像\(I\)。具体来说,网络的目标函数是:
在具体实现上,作者使用了VGG19的感知损失。实验部分可以参考作者论文,这里不再多说。