基于生成对抗网络的图像超分辨率重建方法和装置

1.本发明涉及图像处理技术领域，尤其是涉及一种基于生成对抗网络的图像超分辨率重建方法和装置。

背景技术：

2.图像超分辨率重建主要是指将模糊的低分辨率图像通过某些技术模型的方法得到清晰的高分辨率图像。到目前为止，图像超分辨率重建算法一般可以分为：传统的重建方法和基于学习的重建方法。传统重建方法会导致结果图像边缘模糊、丢失高频细节信息且无法处理复杂结构图像等的缺点，研究人员将深度学习算法应用于图像超分辨率重建的领域中且效果良好。通过对图像超分辨率重建的不断研究，生成对抗网络(gan,generative adversarial networks)的算法开始被应用于此领域。生成对抗网络的算法指的是生成器模型和判别器模型之间的对抗。生成器模型主要是通过卷积提取特征生成高分辨率图像，判别器模型的作用主要是生成的高分辨率图像进入判别器后会与原始图像进行判别真假，如果为假则继续训练，如果为真则为最终结果。基于此算法，srgan和esrgan模型相继而出，图像的最终重建效果更加逼真。
3.图像超分辨率重建的算法层出不穷，但是每种算法的结果还是存在一些缺陷。例如：由于生成对抗网络不稳定，提取原始图像特征的利用率不足等问题，生成的图像不清晰且有伪影，即生成图像质量较低，给人的视觉感受较差的问题。

技术实现要素：

4.本发明的目的在于提供一种基于生成对抗网络的图像超分辨率重建方法和装置，以缓解现有技术中存在的生成图像质量较低、视觉感受较差的技术问题。
5.第一方面，本发明实施例提供了一种基于生成对抗网络的图像超分辨率重建方法，应用于图像超分辨率重建系统，上述图像超分辨率重建系统包括：生成网络和判别网络；上述方法包括：
6.利用训练好的上述生成网络对预先获取的原始测试图像进行处理，获得第一高分辨率图像；上述生成网络包括若干个密集块组成的密集网络；
7.利用训练好的上述判别网络对上述第一高分辨率图像进行处理，生成测试结果图像；
8.将上述原始测试图像与上述测试结果图像进行评估计算，确定最终评估值。
9.在一些可能的实施方式中，还包括：利用预先获取的训练图像集对上述生成网络和上述判别网络进行训练；上述训练图像集包括预定数量个训练样本图像。
10.在一些可能的实施方式中，利用预先获取的训练图像集对上述生成网络和上述判别网络进行训练，包括：将上述训练样本图像输入至上述生成网络中，获得第一训练高分辨率图像；将上述第一训练高分辨率图像输入至上述判别网络进行判定，输出判定结果。
11.在一些可能的实施方式中，将上述第一训练高分辨率图像输入至上述判别网络进
行判定，输出判定结果，包括：基于wgan算法确定上述第一训练高分辨率图像和真实图像之间的差异性，输出判定结果。
12.在一些可能的实施方式中，还包括：获取若干张原始图像；对上述原始图像进行n倍下采样处理，得到训练样本图像；上述训练样本图像为低分辨率图像。
13.在一些可能的实施方式中，上述生成网络包括：第一卷积层、密集网络层、第二卷积层和第三卷积层；上述密集网络层包括16个密集块。
14.第二方面，本发明实施例提供了一种基于生成对抗网络的图像超分辨率重建装置，包括：
15.图像处理模块，用于利用训练好的上述生成网络对预先获取的原始测试图像进行处理，获得第一高分辨率图像；上述生成网络包括若干个密集块组成的密集网络；
16.测试模块，用于利用训练好的上述判别网络对上述第一高分辨率图像进行处理，生成测试结果图像；
17.评估计算模块，用于将上述原始测试图像与上述测试结果图像进行评估计算，确定最终评估值。
18.在一些可能的实施方式中，还包括：训练模块，用于利用预先获取的训练图像集对上述生成网络和上述判别网络进行训练；上述训练图像集包括预定数量个训练样本图像。
19.第三方面，本发明实施例提供了一种电子设备，包括存储器、处理器，所述存储器中存储有可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面任一项所述的方法的步骤。
20.第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有机器可运行指令，所述计算机可运行指令在被处理器调用和运行时，所述计算机可运行指令促使所述处理器运行上述第一方面任一项所述的方法。
21.本发明提供了一种基于生成对抗网络的图像超分辨率重建方法和装置，该方法包括：利用训练好的生成网络对预先获取的原始测试图像进行处理，获得第一高分辨率图像；生成网络包括若干个密集块组成的密集网络；利用训练好的判别网络对第一高分辨率图像进行处理，生成测试结果图像；将原始测试图像与测试结果图像进行评估计算，确定最终评估值，通过该方法可以以缓解现有技术中存在的生成图像质量较低、视觉感受较差的技术问题，实现提高图像质量的技术效果。
附图说明
22.为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
23.图1为本发明实施例提供的一种基于生成对抗网络的图像超分辨率重建方法的流程示意图；
24.图2为本发明实施例提供的一种基于生成对抗网络的图像超分辨率重建系统中生成网络的结构示意图；
25.图3为本发明实施例提供的一种基于生成对抗网络的图像超分辨率重建系统中判
别网络的结构示意图；
26.图4为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
27.为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
28.因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
29.应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。下面结合附图，对本发明的一些实施方式作详细说明。在不冲突的情况下，下述的实施例及实施例中的特征可以相互组合。
30.基于此，本发明实施例提供了一种基于生成对抗网络的图像超分辨率重建方法和装置，以缓解现有技术中存在的生成图像质量较低、视觉感受较差的技术问题。
31.为便于对本实施例进行理解，首先对本发明实施例所公开的一种基于生成对抗网络的图像超分辨率重建方法进行详细介绍，参见图1所示的一种基于生成对抗网络的图像超分辨率重建方法的流程示意图，该方法可以应用于图像超分辨率重建系统，该图像超分辨率重建系统包括：生成网络和判别网络(网络结构分别参见图2和图3)。该方法主要包括以下步骤s110至步骤s130：
32.s110：利用训练好的生成网络对预先获取的原始测试图像进行处理，获得第一高分辨率图像；生成网络包括若干个密集块组成的密集网络；
33.s120：利用训练好的判别网络对第一高分辨率图像进行处理，生成测试结果图像；
34.s130：将原始测试图像与测试结果图像进行评估计算，确定最终评估值。
35.在一种实施例中，还包括：利用预先获取的训练图像集对生成网络和判别网络进行训练；训练图像集包括预定数量个训练样本图像。
36.在一种实施例中，利用预先获取的训练图像集对生成网络和判别网络进行训练，包括：将训练样本图像输入至生成网络中，获得第一训练高分辨率图像；将第一训练高分辨率图像输入至判别网络进行判定，输出判定结果。
37.在一种实施例中，将第一训练高分辨率图像输入至判别网络进行判定，输出判定结果，包括：基于wgan算法确定第一训练高分辨率图像和真实图像之间的差异性，输出判定结果。
38.其中，wgan全称wasserstein gan，是传统生成对抗网络gan训练的替代方案。传统gan存在训练困难、生成器和判别器的loss无法指示训练进程、生成样本缺乏多样性等问题。wgan既能解决传统gan训练不稳定的问题，也提供了一个可靠的训练进程指标，而且该指标确实与生成样本的质量高度相关。
39.在一种实施例中，还包括：获取若干张原始图像；对原始图像进行n倍下采样处理，得到训练样本图像；训练样本图像为低分辨率图像。
40.在一种实施例中，生成网络包括：第一卷积层、密集网络层、第二卷积层和第三卷积层；密集网络层包括16个密集块。
41.作为一个具体的示例，本技术实施例提供了一种基于生成对抗网络的图像超分辨率重建方法，包括以下流程：
42.步骤0：对训练集div2k图像进行n倍下采样处理，得到低分辨率图像。
43.步骤1：将得到的低分辨率图像输入到生成网络g中，首先进入一个64通道步长为1卷积核大小为7*7的卷积层，然后通过relu激活函数激活。
44.步骤2：接着再通过16个密集块组成的密集网络，每个密集块的结构包括64通道步长为1卷积核大小为3*3的卷积层和relu激活函数层。
45.步骤3：再通过一个64通道步长为1卷积核大小为7*7的卷积层，将第一个密集块之前的参数与当前参数连接。
46.步骤4：再通过两次上采样，将图片扩大两倍，上采样模块包括上采样函数，一个256通道步长为1卷积核大小3*3的卷积层和relu激活函数。
47.步骤5：最后通过一个3通道步长为1卷积核大小9*9的卷积层生成高分辨率假图。
48.步骤6：将生成的高分辨率假图输入到判别网络中。
49.步骤7：进入一个64通道步长为2卷积核大小3*3的卷积层，bn参数标准化，leakyrelu激活；
50.步骤8：进入一个128通道步长为1卷积核大小3*3的卷积层，bn参数标准化，leakyrelu激活；
51.步骤9：进入一个128通道步长为2卷积核大小3*3的卷积层，bn参数标准化，leakyrelu激活；
52.步骤10：进入一个256通道步长为1卷积核大小3*3的卷积层，bn参数标准化，leakyrelu激活；
53.步骤11：进入一个256通道步长为2卷积核大小3*3的卷积层，bn参数标准化，leakyrelu激活；
54.步骤12：进入一个512通道步长为1卷积核大小3*3的卷积层，bn参数标准化，leakyrelu激活；
55.步骤13：进入一个512通道步长为2卷积核大小3*3的卷积层，bn参数标准化，leakyrelu激活；
56.步骤14：再通过一个1024个神经元的全连接层；
57.步骤15：通过relu激活函数。
58.步骤16：再通过1个神经元的全连接层提取图像所有特征进行组合输出。
59.步骤17：wgan算法判断真实图像和生成图像之间的差异性，输出判定结果。
60.步骤18：重复步骤1-17的操作15000次，最终得到训练好的模型。
61.步骤19：再将测试图像通过训练好的模型进行测试，生成测试结果图像，并与原始图像进行评估计算，得出峰值信噪比(psnr)和结构相似性(ssim)的评估值。
62.步骤20：结束。
63.本发明提供了一种基于生成对抗网络的图像超分辨率重建方法和装置，通过优化生成对抗网络在图像超分辨率重建中的应用，通过密集网络更深入的提取图像的特征信息，去除bn层减少生成图像伪影问题，判别方法替换成wgan算法，在保证生成对抗网络的稳定性的前提下，使生成图像更具有真实性。在日常生活中或者实验研究中，均可以提升图像超分辨率重建的效果，并提供良好的应用。
64.本发明实施例还提供了一种基于生成对抗网络的图像超分辨率重建装置，该装置包括：
65.图像处理模块，用于利用训练好的生成网络对预先获取的原始测试图像进行处理，获得第一高分辨率图像；生成网络包括若干个密集块组成的密集网络；
66.测试模块，用于利用训练好的判别网络对第一高分辨率图像进行处理，生成测试结果图像；
67.评估计算模块，用于将原始测试图像与测试结果图像进行评估计算，确定最终评估值。
68.在一种实施例中，还包括：训练模块，用于利用预先获取的训练图像集对生成网络和判别网络进行训练；训练图像集包括预定数量个训练样本图像。
69.本技术实施例所提供的基于生成对抗网络的图像超分辨率重建装置可以为设备上的特定硬件或者安装于设备上的软件或固件等。本技术实施例所提供的装置，其实现原理及产生的技术效果和前述方法实施例相同，为简要描述，装置实施例部分未提及之处，可参考前述方法实施例中相应内容。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，前述描述的系统、装置和单元的具体工作过程，均可以参考上述方法实施例中的对应过程，在此不再赘述。本技术实施例提供的基于生成对抗网络的图像超分辨率重建装置与上述实施例提供的基于生成对抗网络的图像超分辨率重建方法具有相同的技术特征，所以也能解决相同的技术问题，达到相同的技术效果。
70.本技术实施例还提供了一种电子设备，具体的，该电子设备包括处理器和存储装置；存储装置上存储有计算机程序，计算机程序在被所述处理器运行时执行如上所述实施方式的任一项所述的方法。
71.图4为本技术实施例提供的一种电子设备的结构示意图，该电子设备400包括：处理器40，存储器41，总线42和通信接口43，所述处理器40、通信接口43和存储器41通过总线42连接；处理器40用于执行存储器41中存储的可执行模块，例如计算机程序。
72.其中，存储器41可能包含高速随机存取存储器(ram，random access memory)，也可能还包括非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。通过至少一个通信接口43(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接，可以使用互联网，广域网，本地网，城域网等。
73.总线42可以是isa总线、pci总线或eisa总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。
74.其中，存储器41用于存储程序，所述处理器40在接收到执行指令后，执行所述程序，前述本发明实施例任一实施例揭示的流过程定义的装置所执行的方法可以应用于处理器40中，或者由处理器40实现。
75.处理器40可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器40中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器40可以是通用处理器，包括中央处理器(central processing unit，简称cpu)、网络处理器(network processor，简称np)等；还可以是数字信号处理器(digital signal processing，简称dsp)、专用集成电路(application specific integrated circuit，简称asic)、现成可编程门阵列(field-programmable gate array，简称fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器41，处理器40读取存储器41中的信息，结合其硬件完成上述方法的步骤。
76.对应于上述方法，本技术实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有机器可运行指令，所述计算机可运行指令在被处理器调用和运行时，所述计算机可运行指令促使所述处理器运行上述方法的步骤。
77.在本技术所提供的实施例中，应该理解到，所揭露装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
78.所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
79.另外，在本技术提供的实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。
80.所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，电子设备，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(rom，read-only memory)、随机存取存储器(ram，random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
81.应注意到：相似的标号和字母在附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释，此外，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
82.最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽
管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

技术特征：

1.一种基于生成对抗网络的图像超分辨率重建方法，其特征在于，应用于图像超分辨率重建系统，所述图像超分辨率重建系统包括：生成网络和判别网络；所述方法包括：利用训练好的所述生成网络对预先获取的原始测试图像进行处理，获得第一高分辨率图像；所述生成网络包括若干个密集块组成的密集网络；利用训练好的所述判别网络对所述第一高分辨率图像进行处理，生成测试结果图像；将所述原始测试图像与所述测试结果图像进行评估计算，确定最终评估值。2.根据权利要求1所述的基于生成对抗网络的图像超分辨率重建方法，其特征在于，还包括：利用预先获取的训练图像集对所述生成网络和所述判别网络进行训练；所述训练图像集包括预定数量个训练样本图像。3.根据权利要求2所述的基于生成对抗网络的图像超分辨率重建方法，其特征在于，利用预先获取的训练图像集对所述生成网络和所述判别网络进行训练，包括：将所述训练样本图像输入至所述生成网络中，获得第一训练高分辨率图像；将所述第一训练高分辨率图像输入至所述判别网络进行判定，输出判定结果。4.根据权利要求3所述的基于生成对抗网络的图像超分辨率重建方法，其特征在于，将所述第一训练高分辨率图像输入至所述判别网络进行判定，输出判定结果，包括：基于wgan算法确定所述第一训练高分辨率图像和真实图像之间的差异性，输出判定结果。5.根据权利要求2所述的基于生成对抗网络的图像超分辨率重建方法，其特征在于，还包括：获取若干张原始图像；对所述原始图像进行n倍下采样处理，得到训练样本图像；所述训练样本图像为低分辨率图像。6.根据权利要求2所述的基于生成对抗网络的图像超分辨率重建方法，其特征在于，所述生成网络包括：第一卷积层、密集网络层、第二卷积层和第三卷积层；所述密集网络层包括16个密集块。7.一种基于生成对抗网络的图像超分辨率重建装置，其特征在于，包括：图像处理模块，用于利用训练好的生成网络对预先获取的原始测试图像进行处理，获得第一高分辨率图像；所述生成网络包括若干个密集块组成的密集网络；测试模块，用于利用训练好的所述判别网络对所述第一高分辨率图像进行处理，生成测试结果图像；评估计算模块，用于将所述原始测试图像与所述测试结果图像进行评估计算，确定最终评估值。8.根据权利要求7所述的基于生成对抗网络的图像超分辨率重建装置，其特征在于，还包括：训练模块，用于利用预先获取的训练图像集对所述生成网络和所述判别网络进行训练；所述训练图像集包括预定数量个训练样本图像。9.一种电子设备，包括存储器、处理器，所述存储器中存储有可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现上述权利要求1至6任一项所述的方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有机器可运行指令，所述计算机可运行指令在被处理器调用和运行时，所述计算机可运行指令促使所述处理器运行所述权利要求1至6任一项所述的方法。

技术总结

本发明实施例提供了一种基于生成对抗网络的图像超分辨率重建方法和装置，涉及图像处理技术领域，该方法包括：利用训练好的生成网络对预先获取的原始测试图像进行处理，获得第一高分辨率图像；生成网络包括若干个密集块组成的密集网络；利用训练好的判别网络对第一高分辨率图像进行处理，生成测试结果图像；将原始测试图像与测试结果图像进行评估计算，确定最终评估值，通过该方法可以以缓解现有技术中存在的生成图像质量较低、视觉感受较差的技术问题，实现提高图像质量的技术效果。实现提高图像质量的技术效果。实现提高图像质量的技术效果。