论文阅读-Learning Deep CNN Denoiser Prior for Image Restoration

Zhang K, Zuo W, Gu S, et al. Learning Deep CNN Denoiser Prior for Image Restoration[J]. 2017.

1.引言

图像恢复（image restoration，IR）  ——从退化模型中恢复出干净的图像x
                   退化模型：

  ，其中H是退化矩阵，v是附加噪声。
图像恢复有三种典型的任务，在图像去噪中，H是单位矩阵（identity matrix）； 图像去模糊中，H的模糊算子；图像超分辨中，H是下采样和模糊的复合算子。
从贝叶斯的角度分析，x的估计（

）可以通过MAP（最大后验估计）问题求解：
         

  
        


 为了解决式（2），一般有两种方法，基于模型的优化方法和判别学习方法（discriminative learning methods），这两种方法都有各自的优缺点，如果能加以结合各自的优势，可能会提高效果。幸运的是，已有变量分离技术（ variable splitting technique），如ADMM（alternating direction method of multipliers ），HQS（half quadratic splitting）方法，使得可以分别处理保真项（fidelity term）和正则项，其中正则项仅对应于去噪的子问题。因此，可以在基于模型的优化方法中使用discriminative denoisers。
本文的目标在于训练一系列快速高效的discriminative denoisers，并把它们用于基于模型优化的方法中，解决求逆问题。不使用MAP相关方法，而是使用CNN学习denoisers。
本文贡献： 

              训练出一系列CNN denoisers。使用变量分离技术，强大的denoisers可以为基于模型的优化方法带来图像先验。
                学习到的CNN denoisers被作为一个模块部分插入基于模型的优化方法中，解决其他的求逆问题。

2.背景

 HQS方法
为了将denoiser先验加入式（2）的优化操作，可行的变量分离操作通常是将保真项和正则项分解，在HQS方法中，引入附加变量z，等式（2）可被改写为一个约束最优化问题：
                  


3.学习深度CNN去噪器先验




CNN去噪器模型如上图，由七层组成，含三种blocks，分别是：第一个“dilated Convolution+Relu”，中间五个“dilated Convolution+BN+Relu”，最后一层“dilated Convolution”。其中空洞因子（dilated factors，3×3）被依次设置为，1,2,3,4,3,2,1。每一个中间层的feature maps个数均为64.
下面给出本网络一些重要的设计和训练细节。
 使用dilated filter扩大感受野。在图像去噪任务中，背景信息对重构受损像素具有很大的作用。通过扩大CNN的感受野有两个方法，一个是增大卷积核尺寸，另一个是加深卷积深度。而增大卷积核尺寸，不仅引入了更多变量，也增加了计算负担，因此，最好的做法就是在现有的CNN设计中，使用深度更深的3×3卷积核。本文就是使用空洞卷积来平衡网络深度和感受野大小。空洞因子为s的空洞滤波器可以解释为尺寸为（2s+1）×（2s+1）的稀疏滤波器，其中只有9个位置非零。因此，对应于各层的感受野分为别：3,5,7,9,7,5,3，因此，所提出的网络卷感受野为33×33（问题：怎么得到的？）.如果使用传统的3×3滤波器，网络深度一定（如7），网络将会有一个15×15的感受野；或者感受野一定（如33×33），网络深度将为16。为了展示本文网络融合了以上两种模型的优势，基于噪声水平25，在相同的训练参数下，我们训练了三个模型。
使用批标准化BN和残差学习加速训练。
使用小尺寸训练样本避免边界效应。
学习噪声水平间隔较小的特定的去噪模型。