超分辨率文献整理
SRCNN
- Image Super-Resolution Using Deep Convolutional Networks (TPAMI2015), Chao Dong et al.
基于卷积网络的超分辨率算法的鼻祖,模型很小,但是效果超过了传统的基于稀疏编码以及A+之类的方法,目前这篇文章发表在了IEEE PAMI上。
由此衍生的waifu2x大家有兴趣也可以去试试看。
VDSR
- Accurate Image Super-Resolution Using Very Deep Convolutional Networks (CVPR2016), Jiwon Kim et al.
更深的网络往往能够带来更好的效果,VDSR是具有十几层的深度,效果也明显好于SRCNN这种比较浅的网络模型。
DRCN
- Deeply-Recursive Convolutional Network for Image Super-Resolution (CVPR2016), Jiwon Kim et al.
递归结构可以有效控制模型的参数数量,其等效于叠加多个卷积模块。此外这篇文章还提出了一个多重监督的方法,使得递归网络能够更好的训练
DRRN
16年CVPR的文章,出自我们实验室的Tai师兄,收到了DRCN的启发,DRRN也采用了递归结构,此外模型的深度达到了52层,效果也是大大超过了以往的算法。这篇文章也引入了局部的残差学习,而不是直接堆叠卷积层
MemNet
17年ICCV的spotlight文章,出自我们实验室的Tai师兄,和DenseNet有点像,但是又增加了从低层到高层的连接,如图增强了记忆一样强化了信号,同样使达到了很高的超分辨率效果,此外Memnet还能处理图像降噪和JPEG Deblock等问题。
EDSR
- Enhanced Deep Residual Networks for Single Image Super-Resolution (Winner of NTIRE2017 Super-Resolution Challenge), Bee Lim et al.
17年NTIRE比赛的冠军,主要就是发现了去掉BN层可以使得模型更好的训练。在DIV2k数据集上训练了一个星期,达到了非常高的PSNR和SSIM
LapSRN
- Deep Laplacian Pyramid Networks for Fast and Accurate Super-Resolution (CVPR 2017), Wei-Sheng Lai et al.
17年CVPR的文章,主要提出了基于laplacian金字塔的递进式的重建方案,使得在一次运算时可以重建出多个尺度的高分辨率图像。
SESR
我们发现SE结构可以给卷积层输出的channel重新赋予权重,使得网络能够达到更高的效率,SESR只用了4的递归深度,等效27层网络,在同样的训练集上达到了最好的效果。详细可以看我们介绍SESR的文章
性能对比
转自https://github.com/huangzehao/Super-Resolution.Benckmark
Results on Set 5
Scale | Bicubic | A+ | SRCNN | SelfExSR | CSCN | VDSR | DRCN | IA |
---|---|---|---|---|---|---|---|---|
2x - PSNR/SSIM | 33.66/0.9929 | 36.54/0.9544 | 36.66/0.9542 | 36.49/0.9537 | 36.93/0.9552 | 37.53/0.9587 | 37.63/0.9588 | 37.39/ |
3x - PSNR/SSIM | 30.39/0.8682 | 32.59/0.9088 | 32.75/0.9090 | 32.58/0.9093 | 33.10/0.9144 | 33.66/0.9213 | 33.82/0.9226 | 33.46/ |
4x - PSNR/SSIM | 28.42/0.8104 | 30.28/0.8603 | 30.48/0.8628 | 30.31/0.8619 | 30.86/0.8732 | 31.35/0.8838 | 31.53/0.8854 | 31.10/ |
Results on Set 14
Scale | Bicubic | A+ | SRCNN | SelfExSR | CSCN | VDSR | DRCN | IA |
---|---|---|---|---|---|---|---|---|
2x - PSNR/SSIM | 30.24/0.8688 | 32.28/0.9056 | 32.42/0.9063 | 32.22/0.9034 | 32.56/0.9074 | 33.03/0.9124 | 33.04/0.9118 | 32.87/ |
3x - PSNR/SSIM | 27.55/0.7742 | 29.13/0.8188 | 29.28/0.8209 | 29.16/0.8196 | 29.41/0.8238 | 29.77/0.8314 | 29.76/0.8311 | 29.69/ |
4x - PSNR/SSIM | 26.00/0.7027 | 27.32/0.7491 | 27.49/0.7503 | 27.40/0.7518 | 27.64/0.7587 | 28.01/0.7674 | 28.02/0.7670 | 27.88/ |
Results on BSD 100
Scale | Bicubic | A+ | SRCNN | SelfExSR | CSCN | VDSR | DRCN | IA |
---|---|---|---|---|---|---|---|---|
2x - PSNR/SSIM | 29.56/0.8431 | 31.21/0.8863 | 31.36/0.8879 | 31.18/0.8855 | 31.40/0.8884 | 31.90/0.8960 | 31.85/0.8942 | 31.79/ |
3x - PSNR/SSIM | 27.21/0.7385 | 28.29/0.7835 | 28.41/0.7863 | 28.29/0.7840 | 28.50/0.7885 | 28.82/0.7976 | 28.80/0.7963 | 28.76/ |
4x - PSNR/SSIM | 25.96/0.6675 | 26.82/0.7087 | 26.90/0.7101 | 26.84/0.7106 | 27.03/0.7161 | 27.29/0.7251 | 27.23/0.7233 | 27.25/ |
常用数据集
Test Dataset | Image source |
---|---|
Set 5 | Bevilacqua et al. BMVC 2012 |
Set 14 | Zeyde et al. LNCS 2010 |
BSD 100 | Martin et al. ICCV 2001 |
Urban 100 | Huang et al. CVPR 2015 |
Train Dataset | Image source |
---|---|
Yang 91 | Yang et al. CVPR 2008 |
BSD 200 | Martin et al. ICCV 2001 |
General 100 | Dong et al. ECCV 2016 |
ImageNet | Olga Russakovsky et al. IJCV 2015 |
COCO | Tsung-Yi Lin et al. ECCV 2014 |
Comments NOTHING