摘要

  • 作者提出了一个 CBD-Net,由噪声估计子网络和去噪子网络两部分组成。

  • 作者设计了一个更加真实的噪声模型,同时考虑了信号依赖的噪声和相机内部处理的噪声。

  • 基于真实噪声模型合成的图片和真实的噪声图片被联合在一起对网络进行训练。


噪声模型

  • 除了高斯噪声,真实的图片噪声更加复杂,并且是信号依赖的。

  • 给定一个干净图片 x,一个更加真实的噪声模型 \(n(x) ~ N(0, \sigma(y))\) 可以表示为:

Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

  • 其中,\(n(x) = n_s (x) + n_c\) 包含一个信号依赖的组成 \(n_s\) 和一个静态的噪声组成 \(n_c\)。\(n_c\) 是一个方差为 \(\sigma_c ^2\) 的高斯噪声, \(n_s\) 则和图像的像素值有关,比如 \(x(i) * \sigma_s^2\)。

  • 另外,我们再把相机内部处理过程考虑进去的话,就会产生以下这个信号依赖和通道依赖的噪声模型。

Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

  • \(y\) 表示合成图片, \(f\) 代表相机反应函数(CRF),\(M\) 代表将 sRGB 图片转化为 Bayer 图片的函数,\(M^{-1}\)代表去马赛克函数。

  • 此外,为了扩展到对压缩图片的处理,我们把 JPEG 压缩也考虑进合成图片的生成过程。

Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

  • 针对原始图片、无压缩图片和压缩图片,我们分别用以上三种模型来生成训练图片。

网络结构

Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

  • 噪声等级子网络由五层的卷积组成,卷积核大小为 3*3,通道数为 32,激活函数采用 Relu,没有采用池化和批归一化,输出的噪声等级图和原噪声图片大小相同。

  • 去噪子网络将噪声等级图和原噪声图片一起作为输入,采用了 U-Net 的网络结构,卷积核大小为 3*3,激活函数采用 Relu,学习噪声图片的残差。


非对称学习

Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

  • 为了利用这种非对称特性进行盲去噪,我们在噪声估计中提出了不对称损失以避免在噪声水平上出现低估误差。
  • 给定像素 \(i\) 处估计的噪声等级 \(\hat \sigma(y_i)\)和真实值 \(\sigma(y_i)\)。当 \(\hat \sigma(y_i) < \sigma(y_i)\),我们应该强加更多惩罚。 因此,噪声等级估计子网络的不对称损失定义如下:

Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

  • 通过设定 \(0 < \alpha < 0.5\),,我们可以强加更多惩罚给低估误差。

  • 另外,我们引入一个总体方差正则化项来限制 \(\hat \sigma(y_i)\) 的平滑性:
    Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

  • 对于去噪子网络的输出 \(\hat x\),我们定义重构误差为:
    Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

  • 网络的总损失即为以上三部分的求和:
    Toward Convolutional Blind Denoising of Real Photographs-LMLPHP


训练过程

  • 基于真实噪声模型合成的图片和真实的噪声图片被联合在一起对网络进行训练,来增强网络处理真实图像的泛化能力。

  • 针对一个批次的合成图片,\(L_{rec} , L_{asymm},L_{TV}\) 三个损失都被计算来训练网络。
  • 针对一个批次的真实,由于噪声等级不可知,因此只有,\(L_{rec} 和 L_{TV}\) 两个损失被计算来训练网络。


验证和结果

  • 不同 \(\alpha\) 值的去噪结果对比如下图所示,可以看到,较小的 \(\alpha = 0.3\) 会对去除未知噪声并且保留图片的结构有所帮助。

Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

  • 另外,作者又对只用合成图片、只用真实图片和联合真实图片和合成图片三种情况进行了对比,进一步验证了联合训练的有效性。
    Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

  • 最后,一些实验结果如下所示:
    Toward Convolutional Blind Denoising of Real Photographs-LMLPHP
    Toward Convolutional Blind Denoising of Real Photographs-LMLPHP


获取更多精彩,请关注「seniusen」!
Toward Convolutional Blind Denoising of Real Photographs-LMLPHP

05-11 20:44