超分辨率文献整理


SRCNN

  • Image Super-Resolution Using Deep Convolutional Networks (TPAMI2015), Chao Dong et al.

基于卷积网络的超分辨率算法的鼻祖,模型很小,但是效果超过了传统的基于稀疏编码以及A+之类的方法,目前这篇文章发表在了IEEE PAMI上。

由此衍生的waifu2x大家有兴趣也可以去试试看。

VDSR

  • Accurate Image Super-Resolution Using Very Deep Convolutional Networks (CVPR2016), Jiwon Kim et al.

更深的网络往往能够带来更好的效果,VDSR是具有十几层的深度,效果也明显好于SRCNN这种比较浅的网络模型。

DRCN

  • Deeply-Recursive Convolutional Network for Image Super-Resolution (CVPR2016), Jiwon Kim et al.

递归结构可以有效控制模型的参数数量,其等效于叠加多个卷积模块。此外这篇文章还提出了一个多重监督的方法,使得递归网络能够更好的训练

DRRN

16年CVPR的文章,出自我们实验室的Tai师兄,收到了DRCN的启发,DRRN也采用了递归结构,此外模型的深度达到了52层,效果也是大大超过了以往的算法。这篇文章也引入了局部的残差学习,而不是直接堆叠卷积层

MemNet

17年ICCV的spotlight文章,出自我们实验室的Tai师兄,和DenseNet有点像,但是又增加了从低层到高层的连接,如图增强了记忆一样强化了信号,同样使达到了很高的超分辨率效果,此外Memnet还能处理图像降噪和JPEG Deblock等问题。

EDSR

  • Enhanced Deep Residual Networks for Single Image Super-Resolution (Winner of NTIRE2017 Super-Resolution Challenge), Bee Lim et al.

17年NTIRE比赛的冠军,主要就是发现了去掉BN层可以使得模型更好的训练。在DIV2k数据集上训练了一个星期,达到了非常高的PSNR和SSIM

LapSRN

  • Deep Laplacian Pyramid Networks for Fast and Accurate Super-Resolution (CVPR 2017), Wei-Sheng Lai et al.

17年CVPR的文章,主要提出了基于laplacian金字塔的递进式的重建方案,使得在一次运算时可以重建出多个尺度的高分辨率图像。

SESR

我们发现SE结构可以给卷积层输出的channel重新赋予权重,使得网络能够达到更高的效率,SESR只用了4的递归深度,等效27层网络,在同样的训练集上达到了最好的效果。详细可以看我们介绍SESR的文章


性能对比

转自https://github.com/huangzehao/Super-Resolution.Benckmark

Results on Set 5
Scale Bicubic A+ SRCNN SelfExSR CSCN VDSR DRCN IA
2x - PSNR/SSIM 33.66/0.9929 36.54/0.9544 36.66/0.9542 36.49/0.9537 36.93/0.9552 37.53/0.9587 37.63/0.9588 37.39/
3x - PSNR/SSIM 30.39/0.8682 32.59/0.9088 32.75/0.9090 32.58/0.9093 33.10/0.9144 33.66/0.9213 33.82/0.9226 33.46/
4x - PSNR/SSIM 28.42/0.8104 30.28/0.8603 30.48/0.8628 30.31/0.8619 30.86/0.8732 31.35/0.8838 31.53/0.8854 31.10/
Results on Set 14
Scale Bicubic A+ SRCNN SelfExSR CSCN VDSR DRCN IA
2x - PSNR/SSIM 30.24/0.8688 32.28/0.9056 32.42/0.9063 32.22/0.9034 32.56/0.9074 33.03/0.9124 33.04/0.9118 32.87/
3x - PSNR/SSIM 27.55/0.7742 29.13/0.8188 29.28/0.8209 29.16/0.8196 29.41/0.8238 29.77/0.8314 29.76/0.8311 29.69/
4x - PSNR/SSIM 26.00/0.7027 27.32/0.7491 27.49/0.7503 27.40/0.7518 27.64/0.7587 28.01/0.7674 28.02/0.7670 27.88/
Results on BSD 100
Scale Bicubic A+ SRCNN SelfExSR CSCN VDSR DRCN IA
2x - PSNR/SSIM 29.56/0.8431 31.21/0.8863 31.36/0.8879 31.18/0.8855 31.40/0.8884 31.90/0.8960 31.85/0.8942 31.79/
3x - PSNR/SSIM 27.21/0.7385 28.29/0.7835 28.41/0.7863 28.29/0.7840 28.50/0.7885 28.82/0.7976 28.80/0.7963 28.76/
4x - PSNR/SSIM 25.96/0.6675 26.82/0.7087 26.90/0.7101 26.84/0.7106 27.03/0.7161 27.29/0.7251 27.23/0.7233 27.25/

常用数据集

Test Dataset Image source
Set 5 Bevilacqua et al. BMVC 2012
Set 14 Zeyde et al. LNCS 2010
BSD 100 Martin et al. ICCV 2001
Urban 100 Huang et al. CVPR 2015
Train Dataset Image source
Yang 91 Yang et al. CVPR 2008
BSD 200 Martin et al. ICCV 2001
General 100 Dong et al. ECCV 2016
ImageNet Olga Russakovsky et al. IJCV 2015
COCO Tsung-Yi Lin et al. ECCV 2014