论文阅读:FD-GAN(2018-NeurlPS)

FD-GAN(2018-NeurIPS

FD-GAN: Generative Adversarial Networks with Fusion-discriminator for Single Image Dehazing

摘要

近年来,卷积神经网络(CNN)在单幅图像去噪方面取得了很大的进步,在研究中受到了广泛的关注。现有的大多数基于学习的去雾方法都不是完全端到端的,仍然遵循传统的去雾过程:首先估计介质透过率和大气光,然后基于大气散射模型恢复无雾图像。然而,在实践中,由于缺乏先验知识和约束,很难精确估计这些中间参数。不准确的估计会进一步降低除雾性能,导致伪影、颜色失真和烟雾去除不足。为了解决这一问题,我们提出了一种完全端到端的生成性对抗网络,该网络带有Fusion-discriminator(FD-GAN),用于图像分割。该融合鉴别器以频率信息作为附加先验信息,可以生成更自然、更真实的去模糊图像,同时具有更少的颜色失真和伪影。此外,我们合成了一个包含各种室内和室外模糊图像的大规模训练数据集来提高性能,我们发现对于基于学习的去雾方法,性能受到训练数据的严格影响。实验表明,我们的方法在公共合成数据集和真实图像上都达到了最先进的性能,并且具有更令人满意的去模糊效果。

问题

  1. 由于缺乏真实的训练数据和有效的先验知识,很难精确估计这些中间参数(透色率和大气光值)。不准确的估计将进一步降低去雾性能。

  2. 与有雾的图像相比,无雾的图像通常具有更高的对比度和更清晰的边缘。许多去雾方法都基于这样的先验或假设。 然而,这些先验并不适用于所有条件,并且在实践中很容易被违反。

  3. 传统的判别器只学习区分生成的图像和地面真实图像,这是搜索最优解的相对较弱的监督

网路

Generator

生成器的目的是为了直接从雾图中生成清晰图像,而不预测中间参数。

设计了一个密集连接的编码器-解码器作为生成器,它可以充分利用从浅层到深层提取的所有特征。

选择最近邻插值进行上采样,因为据报道它不太可能产生棋盘伪影。

Fusion-discriminator

去除高频细节后,LF 强调图像的亮度、颜色和对比度信息,以及它可以使颜色比较更容易。

HF 和 LF 可以帮助鉴别器区分有雾和无雾图像之间的纹理和主要颜色的差异。 为了提取低频信息,我们在图像上应用高斯滤波器以去除高频细节。 对于 HF 分量,我们在图像上应用拉普拉斯算子,然后对边缘和纹理进行强调。

通过将低频和高频先验融合到鉴别器网络中,可以生成更自然、更逼真的去雾图像,颜色失真更少,伪影更少。

Loss

Pixel-wise loss

 SSIM loss

 

 Perceptual loss

 Adversarial loss

 Integral loss function

创新

  1. 开发了一种新的融合鉴别器,它将频率信息作为额外的先验知识和约束条件集成到学习过程中

  2. 将生成的图像G(I)(或地面真值图像J)与其对应的LF和HF连接起来作为样本,然后将其输入鉴别器,将其命名为融合鉴别器。与传统的仅学习区分生成图像和地面真实图像的鉴别器不同,该融合鉴别器还考虑了低频和高频信息。该方法可以更彻底地消除雾霾效应,并以较少的颜色失真生成去雾结果

  3. 证明了基于学习的dehazing算法的性能受到训练数据质量的严重影响。因此,我们提出了一种新的综合训练数据集,其中包括各种室内和室外场景

实验

Datasets

synthesize a new dehazing dataset based on Microsoft COCO dataset

Metrics:

PSNR/SSIM

Comparison with SOTA

 Ablation Study

结论与启发

在本文中,我们提出了一种完全端到端的图像去雾算法 FDGAN。 此外,我们开发了一种新的融合鉴别器,它可以将频率信息作为额外的先验和约束集成到去雾网络中。 我们的方法可以产生更视觉上令人愉悦的去雾结果,同时颜色失真更少。 广泛的实验结果表明,我们的方法在合成数据集和真实世界的模糊图像上都优于几种最先进的方法

  1. 密集连接有可能促进特征的提取和利用,特别是对于低级视觉任务

  2. 为了进一步提高网络的反补偿能力,判别器应该能够区分真假数据的更多特征和特征,以便生成器生成更接近真实数据的更真实的结果

  3. 图像可以分解为高频 (HF) 和低频 (LF) 分量。 HF和LF是图像的基本特征,其中模糊图像和清晰图像彼此不同。 HF 分量代表那些强度变化很快的图像部分,例如锐利的边缘、纹理和精细的细节。 相反,强度值变化缓慢的图像部分是LF区域。 去除高频细节后,LF强调图像的亮度、颜色和对比度信息,可以使颜色比较更容易。 HF 和 LF 可以帮助鉴别器区分有雾和无雾图像之间的纹理和主要颜色的差异

posted @ 2022-06-26 21:40  KYZH  阅读(265)  评论(0编辑  收藏  举报