留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

改进生成对抗网络实现红外与可见光图像融合

闵莉 曹思健 赵怀慈 刘鹏飞

闵莉, 曹思健, 赵怀慈, 刘鹏飞. 改进生成对抗网络实现红外与可见光图像融合[J]. 红外与激光工程, 2022, 51(4): 20210291. doi: 10.3788/IRLA20210291
引用本文: 闵莉, 曹思健, 赵怀慈, 刘鹏飞. 改进生成对抗网络实现红外与可见光图像融合[J]. 红外与激光工程, 2022, 51(4): 20210291. doi: 10.3788/IRLA20210291
Min Li, Cao Sijian, Zhao Huaici, Liu Pengfei. Infrared and visible image fusion using improved generative adversarial networks[J]. Infrared and Laser Engineering, 2022, 51(4): 20210291. doi: 10.3788/IRLA20210291
Citation: Min Li, Cao Sijian, Zhao Huaici, Liu Pengfei. Infrared and visible image fusion using improved generative adversarial networks[J]. Infrared and Laser Engineering, 2022, 51(4): 20210291. doi: 10.3788/IRLA20210291

改进生成对抗网络实现红外与可见光图像融合

doi: 10.3788/IRLA20210291
基金项目: 国家重点研发计划(2018YFB1105300);装备预研重点基金(JZX7Y2019025049301)
详细信息
    作者简介:

    闵莉,女,副教授,硕士生导师,博士,主要研究方向为模式识别与智能系统、图像处理与机器视觉

    通讯作者: 赵怀慈,男,研究员,博士生导师,博士,主要研究方向为图像处理,复杂系统建模与仿真技术,指挥、控制、通信与信息处理技术。
  • 中图分类号: TP391

Infrared and visible image fusion using improved generative adversarial networks

  • 摘要: 红外与可见光图像融合技术能够同时提供红外图像的热辐射信息和可见光图像的纹理细节信息,在智能监控、目标探测和跟踪等领域具有广泛的应用。两种图像基于不同的成像原理,如何融合各自图像的优点并保证图像不失真是融合技术的关键,传统融合算法只是叠加图像信息而忽略了图像的语义信息。针对该问题,提出了一种改进的生成对抗网络,生成器设计了局部细节特征和全局语义特征两路分支捕获源图像的细节和语义信息;在判别器中引入谱归一化模块,解决传统生成对抗网络不易训练的问题,加速网络收敛;引入了感知损失,保持融合图像与源图像的结构相似性,进一步提升了融合精度。实验结果表明,提出的方法在主观评价与客观指标上均优于其他代表性方法,对比基于全变分模型方法,平均梯度和空间频率分别提升了55.84%和49.95%。
  • 图  1  网络结构整体框架

    Figure  1.  Overall framework of network structure

    图  2  生成器网络结构

    Figure  2.  Generator network structure

    图  3  判别器网络结构

    Figure  3.  Discriminator network structure

    图  4  TNO数据集对比实验结果

    Figure  4.  Comparative experimental results of the TNO dataset

    图  5  RoadScene数据集对比实验结果。(a) 红外图像;(b) 可见光图像;(c) DRTV;(d) CNN;(e) FusionGAN;(f) DIDFuse;(g) DDcGAN;(h) 文中方法

    Figure  5.  Comparative experimental results of the RoadScene dataset. (a) Infrared image;(b) Visible image;(c) DRTV;(d) CNN;(e) FusionGAN;(f) DIDFuse;(g) DDcGAN;(h) Proposed method

    图  6  损失函数曲线

    Figure  6.  Loss function curve

    表  1  两组对比实验客观评价结果

    Table  1.   Objective evaluation results of two comparison experiment

    DatasetMethodsAGSF${Q^{AB/F}}$${Q_{CB}}$
    TNODRTV3.7619.6390.3190.411
    CNN4.70011.4890.3320.463
    FusionGAN4.01410.0060.3130.425
    DIDFuse4.64411.7710.3950.472
    DDcGAN5.52913.0440.3560.456
    Proposed method5.86114.4540.4010.504
    Road sceneDRTV3.2218.6960.3680.384
    CNN4.48410.5360.3980.384
    FusionGAN3.2908.4260.2780.387
    DIDFuse5.25314.1490.4690.452
    DDcGAN5.20013.5800.4230.461
    Proposed method5.85515.2430.4800.494
    下载: 导出CSV

    表  2  消融实验评价结果

    Table  2.   Evaluation results of ablation experiment

    MethodsAGSF${Q^{AB/F}}$${Q_{CB}}$
    DDcGAN5.52913.0440.3560.456
    DDcGAN+SN5.67013.0620.3680.469
    DDcGAN+GSFB5.74613.8410.3880.484
    DDcGAN+GSFB+SN5.86114.4540.4010.504
    下载: 导出CSV
  • [1] Shen Ying, Huang Chunhong, Huang Feng, et al. Infrared and visible image fusion: review of key technologies [J]. Infrared and Laser Engineering, 2021, 50(9): 20200467. (in Chinese)
    [2] Shen Yali. RGBT dual-model Siamese tracking network with feature fusion [J]. Infrared and Laser Engineering, 2021, 50(3): 20200459. (in Chinese)
    [3] Chen J, Wu K, Cheng Z, et al. A saliency-based multiscale approach for infrared and visible image fusion [J]. Signal Processing, 2021, 182(4): 107936.
    [4] Huan Kewei, Li Xiangyang, Cao Yutong, et al. Infrared and visible image fusion with convolutional neural network and NSST [J]. Infrared and Laser Engineering, 2022, 51(3): 20210139. (in Chinese)
    [5] An W B, Wang H M. Infrared and visible image fusion with supervised convolutional neural network [J]. Optik-International Journal for Light and Electron Optics, 2020, 219(17): 165120.
    [6] Pan Y, Pi D, Khan I A, et al. DenseNetFuse: A study of deep unsupervised DenseNet to infrared and visual image fusion [J]. Journal of Ambient Intelligence and Humanized Computing, 2021(3): 02820.
    [7] Goodfellow I J, Pouget-Abadie J, Mirza M, et al. Generative adversarial networks [J]. Advances in Neural Information Processing Systems, 2014, 3: 2672-2680.
    [8] Ma J, Wei Y, Liang P, et al. FusionGAN: A generative adversarial network for infrared and visible image fusion [J]. Information Fusion, 2019, 48: 11-26. doi:  10.1016/j.inffus.2018.09.004
    [9] Ma J, Xu H, Jiang J, et al. DDcGAN: A dual-discriminator conditional generative adversarial network for multi-resolution image fusion [J]. IEEE Transactions on Image Processing, 2020, 29: 4980-4995. doi:  10.1109/TIP.2020.2977573
    [10] Arjovsky M, Chintala S, Bottou L. Wasserstein GAN [J]. arXiv, 2017: 1701. 07875v1.
    [11] Miyato T, Kataoka T, Koyama M, et al. Spectral normalization for generative adversarial networks [C]//International Conference on Learning Representations, 2018.
    [12] Jégou S, Drozdzal M, Vazquez D, et al. The one hundred layers tiramisu: Fully convolutional densenets for semantic segmentation [C]//2017 IEEE Conference on Computer Vision and Pattern Recognition Workshops (CVPRW), IEEE, 2016.
    [13] X Li, You A, Zhu Z, et al. Semantic flow for fast and accurate scene parsing [J]. arXiv, 2020: 2002.10120.
    [14] Karen S, Andrew Z. Very deep convolutional networks for large-scale image recognition[J]. arXiv, 2014: 1409.1556.
    [15] Du Qinglei, Xu Han, Ma Yongoing, et al. Fusing infrared and visible images of different resolutions via total variation model [J]. Sensors, 2018, 18(11): 3827.
    [16] Li H, Wu X J, Kittler J. Infrared and visible image fusion using a deep learning framework[J]. arXiv, 2018: 1804.06992.
    [17] Zhao Z, Xu S, Zhang C, et al. DIDFuse: Deep image decomposition for infrared and visible image fusion [C]//Twenty-Ninth International Joint Conference on Artificial Intelligence and Seventeenth Pacific Rim International Conference on Artificial Intelligence, 2020.
  • [1] 高红霞, 魏涛.  改进PCNN与平均能量对比度的图像融合算法 . 红外与激光工程, 2022, 51(4): 20210996-1-20210996-8. doi: 10.3788/IRLA20210996
    [2] 谭威, 宋闯, 赵佳佳, 梁欣凯.  基于多层级图像分解的图像融合算法 . 红外与激光工程, 2022, 51(8): 20210681-1-20210681-9. doi: 10.3788/IRLA20210681
    [3] 王婷, 税渝阳, 梁浩文, 刘忆琨, 周建英.  强散射背景下的图像感知、融合与可视化技术 . 红外与激光工程, 2022, 51(8): 20220418-1-20220418-11. doi: 10.3788/IRLA20220418
    [4] 宦克为, 李向阳, 曹宇彤, 陈笑.  卷积神经网络结合NSST的红外与可见光图像融合 . 红外与激光工程, 2022, 51(3): 20210139-1-20210139-8. doi: 10.3788/IRLA20210139
    [5] 林森, 赵振禹, 任晓奎, 陶志勇.  基于语义信息补偿全局特征的物体点云分类分割 . 红外与激光工程, 2022, 51(8): 20210702-1-20210702-12. doi: 10.3788/IRLA20210702
    [6] 沈英, 黄春红, 黄峰, 李杰, 朱梦娇, 王舒.  红外与可见光图像融合技术的研究进展 . 红外与激光工程, 2021, 50(9): 20200467-1-20200467-18. doi: 10.3788/IRLA20200467
    [7] 曾瀚林, 孟祥勇, 钱惟贤.  高斯差分滤波图像融合方法 . 红外与激光工程, 2020, 49(S1): 20200091-20200091. doi: 10.3788/IRLA20200091
    [8] 刘鹏飞, 赵怀慈, 李培玄.  对抗网络实现单幅RGB重建高光谱图像 . 红外与激光工程, 2020, 49(S1): 20200093-20200093. doi: 10.3788/IRLA20200093
    [9] 林森, 刘世本, 唐延东.  多输入融合对抗网络的水下图像增强 . 红外与激光工程, 2020, 49(5): 20200015-20200015-9. doi: 10.3788/IRLA20200015
    [10] 戴进墩, 刘亚东, 毛先胤, 盛戈皞, 江秀臣.  基于FDST和双通道PCNN的红外与可见光图像融合 . 红外与激光工程, 2019, 48(2): 204001-0204001(8). doi: 10.3788/IRLA201948.0204001
    [11] 张家民, 时东锋, 黄见, 王英俭.  图像融合在偏振关联成像中的应用 . 红外与激光工程, 2018, 47(12): 1226002-1226002(7). doi: 10.3788/IRLA201847.1226002
    [12] 郭全民, 董亮, 李代娣.  红外与可见光图像融合的汽车抗晕光系统 . 红外与激光工程, 2017, 46(8): 818005-0818005(6). doi: 10.3788/IRLA201746.0818005
    [13] 曾祥通, 张玉珍, 孙佳嵩, 喻士领.  颜色对比度增强的红外与可见光图像融合方法 . 红外与激光工程, 2015, 44(4): 1198-1202.
    [14] 杨桄, 童涛, 孟强强, 孙嘉成.  基于梯度加权的红外与可见光图像融合方法 . 红外与激光工程, 2014, 43(8): 2772-2779.
    [15] 张宝辉, 闵超波, 窦亮, 张俊举, 常本康.  目标增强的红外与微光图像融合算法 . 红外与激光工程, 2014, 43(7): 2349-2353.
    [16] 王金玲, 贺小军, 宋克非.  采用区域互信息的多光谱与全色图像融合算法 . 红外与激光工程, 2014, 43(8): 2757-2764.
    [17] 彭逸月, 何伟基, 顾国华, 童涛.  多层级及对比度提升的红外和可见光图像融合 . 红外与激光工程, 2013, 42(4): 1095-1099.
    [18] 毛海岑, 刘爱东.  利用证据理论的图像融合方法 . 红外与激光工程, 2013, 42(6): 1642-1646.
    [19] 张勇, 金伟其.  夜视融合图像质量客观评价方法 . 红外与激光工程, 2013, 42(5): 1360-1365.
    [20] 张勇, 金伟其.  夜视融合图像质量主观评价方法 . 红外与激光工程, 2013, 42(2): 528-532.
  • 加载中
图(6) / 表(2)
计量
  • 文章访问数:  94
  • HTML全文浏览量:  12
  • PDF下载量:  29
  • 被引次数: 0
出版历程
  • 收稿日期:  2021-05-02
  • 修回日期:  2021-07-14
  • 刊出日期:  2022-05-06

改进生成对抗网络实现红外与可见光图像融合

doi: 10.3788/IRLA20210291
    作者简介:

    闵莉,女,副教授,硕士生导师,博士,主要研究方向为模式识别与智能系统、图像处理与机器视觉

    通讯作者: 赵怀慈,男,研究员,博士生导师,博士,主要研究方向为图像处理,复杂系统建模与仿真技术,指挥、控制、通信与信息处理技术。
基金项目:  国家重点研发计划(2018YFB1105300);装备预研重点基金(JZX7Y2019025049301)
  • 中图分类号: TP391

摘要: 红外与可见光图像融合技术能够同时提供红外图像的热辐射信息和可见光图像的纹理细节信息,在智能监控、目标探测和跟踪等领域具有广泛的应用。两种图像基于不同的成像原理,如何融合各自图像的优点并保证图像不失真是融合技术的关键,传统融合算法只是叠加图像信息而忽略了图像的语义信息。针对该问题,提出了一种改进的生成对抗网络,生成器设计了局部细节特征和全局语义特征两路分支捕获源图像的细节和语义信息;在判别器中引入谱归一化模块,解决传统生成对抗网络不易训练的问题,加速网络收敛;引入了感知损失,保持融合图像与源图像的结构相似性,进一步提升了融合精度。实验结果表明,提出的方法在主观评价与客观指标上均优于其他代表性方法,对比基于全变分模型方法,平均梯度和空间频率分别提升了55.84%和49.95%。

English Abstract

    • 红外与可见光图像融合作为图像融合技术的重要分支,在军事侦察和民用监控等领域有着广泛应用[1]。红外成像探测器能够通过目标与背景的亮温差捕获目标,摆脱了可见光传感器对光源的依赖,可以在夜晚识别目标,具有能克服恶劣天气的优点,但通常图像分辨率低;而可见光成像传感器捕捉目标的反射信息,其图像适合人类的视觉感知系统,具有分辨率高、细节特征丰富等优点,但容易受到光照与天气因素影响。因此,这两种图像具有天然的互补性[2],融合后的图像可以同时提供高亮目标信息与高分辨率场景纹理细节信息。

      在传统的红外与可见光图像融合方法中,通常将其他方法如显著性检测[3]加入多尺度变换框架,通过建立混合模型结合各方法优点,虽然提升了图像融合性能,但又需要手动设计融合规则,这让传统方法变得越来越复杂。

      卷积神经网络(Convolutional Neural Networks, CNN)通过卷积操作分割图像并自动提取不同层次特征,近些年通过在空间利用、深度、多路径、宽度、特征图利用、通道提升和引入注意力机制等方面的改进,使自身学习能力得到显著提升,在红外与可见光图像融合领域也获得广泛应用[4]。如An等人[5]提出基于CNN的图像融合方法,使融合图像特征更加清晰;Pan等人[6]使用密集连接的卷积神经网络(Densely Connected Convolutional Networks, Densenet)构建融合算法,充分利用了各卷积层提取的特征。但训练CNN需要大量标记数据,而红外与可见光图像融合任务无法定义融合标准,缺少Ground Truth指导融合框架训练,导致CNN融合性能较差。

      生成对抗网络(Generative Adversarial Networks, GAN)[7]在图像生成领域具有独到的优势,在无监督情况下可以任意逼近真实数据的分布。利用GAN的这种特性,Ma等人[8]提出FusionGAN方法,建立生成器与判别器之间的对抗,使融合图像保留更丰富的信息,端到端的网络结构不再需要手动设计融合规则;之后,Ma等人[9]做出改进,建立双判别器条件生成对抗网络模型(A Dual-Discriminator Conditional Generative Adversarial Network, DDcGAN),同时保留两种源图像的信息,但是双判别器也让网络更复杂,导致难以平衡生成器与判别器,使融合图像出现伪影。

      基于GAN的图像融合方法正致力于设计更复杂的生成器结构获取红外图像的热辐射强度和可见光图像的纹理细节,并对源图像采取单一特征提取方式,使融合图像通常在局部区域表现突出,但因为忽略了源图像包含的丰富语义信息,导致融合图像边缘模糊,并且存在GAN网络的通病,训练不稳定问题。

      针对以上问题,文中提出了一种改进的生成对抗网络实现红外与可见光图像融合。通过在融合图像与源图像之间建立对抗博弈充分训练生成器,提升图像融合效果。首先,在生成器中建立局部细节特征分支(Part Detail Feature Branch, PDFB)和全局语义特征分支(Global Semantic Feature Branch, GSFB),同时提取输入图像的细节和语义信息,使融合图像具有更清晰的纹理和边缘;其次,在判别器中引入谱归一化模块(Spectral Normalization, SN),增强网络训练过程中的稳定性,使网络更易收敛;最后,损失函数中增加感知损失,提高融合图像与源图像的语义相似性。

    • GAN最初由Goodfellow等人提出,框架由两个对立模型:生成器(Generator, G)与判别器(Discriminator, D)构成。生成器将先验分布${P_{{z}}}$的噪声作为输入,试图将生成样本分布(${P_G}$)逼近真实样本分布(${P_{data}}$)来欺骗判别器,判别器负责确定输入样本来自样本分布还是数据分布,训练过程中,生成器输出的样本分布不断逼近真实样本分布。

      近年来,对于GAN的改进主要集中在目标函数、训练技巧和网络结构三方面。

      GAN具有在无监督情况下学习真实数据分布的能力,非常适合无法定义图像融合标准的红外与可见光图像融合任务。而根据图像特点构建损失函数约束融合图像与源图像在像素强度和梯度等方面的差异,能够避免因缺少Ground Truth造成对源图像典型特征的缺失,端到端的网络结构也无需手动设计融合规则。

    • GAN内部的对抗博弈可以表示为:

      $$ \begin{split} \mathop {\min }\limits_G \mathop {\max }\limits_D {V_{GAN}}\left( {G,D} \right) = {E_{x\sim {P_{data}}\left( x \right)}}\left[ {\log D\left( x \right)} \right] +\\ \;\;\;\;\;\;\;\;{E_{{\textit{z}}\sim {P_z}\left( {\textit{z}} \right)}}\left[ {\log \left( {1 - D\left( {G\left( {\textit{z}} \right)} \right)} \right)} \right] \end{split} $$ (1)

      从公式(1)中可以看出,${P_G}$不能显示地表示,且在训练过程中,如果判别器训练得太好或者不够好,生成器将学习不到有效的梯度,不能保持二者的同步更新,因此导致GAN训练困难。针对这一问题,解决方法是使判别器网络满足利普希茨连续条件(Lipschitz continuity):

      $$\left| {f\left( {{x_1}} \right) - f\left( {{x_2}} \right)} \right| \leqslant K\left| {{x_1} - {x_2}} \right|$$ (2)

      对于$f$,最小的常数$K$称为$f$的利普希茨常数。将判别器的梯度限制在一定范围内,使判别器小范围地逐步进行更新,可以保持生成器与判别器的同步训练。Arjovsky等人[10]提出WGAN(Wasserstein GAN)进行判别器权重裁剪,限制判别器网络中所有参数不超过某个范围以满足Lipschitz的连续性,但破坏了参数之间的数值比例关系,进而降低了判别器的判别能力;Mi[11]等人提出在判别器中建立谱归一化层,通过约束每一层参数矩阵的谱范数,使判别器网络满足Lipschitz条件,在提高网络训练稳定性的同时也提高了计算效率,并且在这一过程中对每一层网络的权重矩阵的归一化处理也不会破坏矩阵结构。

    • 文中通过建立一个双判别器的生成对抗网络来解决相同分辨率的红外图像与可见光图像融合问题,整体框架结构如图1所示。

      图  1  网络结构整体框架

      Figure 1.  Overall framework of network structure

      Generator是输出融合图像的生成器,网络开始训练后,输入通道相连后的红外与可见光图像与融合图像并不组成数据对,而是以单通道形式输入到判别器中。双判别器Discriminator I与Discriminator V分别用于区分融合图像与红外图像、融合图像与可见光图像。经过生成器与判别器的不断对抗与迭代更新,得到训练完成的生成器,输入测试图像,输出图像融合结果。

      Single Channel代表每个判别器的输入是包含源图像与融合图像的单通道,因为如果输入是同时包含融合图像与对应的源图像作为条件信息的双通道,判别任务被简化为判别输入图像是否相同,而这对于判别器网络来说过于简单,将无法建立生成器与判别器之间的有效对抗关系,网络模型也失去意义。

    • 红外与可见光图像融合任务属于无监督学习问题,而编码器-解码器网络结构在无监督学习情况下具有良好的特征重构特性,因此,生成器采用编码器-解码器结构,如图2所示。

      图  2  生成器网络结构

      Figure 2.  Generator network structure

      通道相连后的红外与可见光图像需经过编码器的局部细节特征分支和全局语义特征分支进行特征提取,在特征融合后输入解码器对特征进行重构,输出最终的融合图像。其中局部细节特征分支采用Densenet结构,对于特征和梯度的传递更加有效,在充分利用图像的局部细节特征信息的同时又缓解了梯度消失。局部细节特征分支的基本单元是卷积层、批量归一化层和Leaky Relu激活函数。其中每个卷积层均使用3×3卷积核得到16个特征映射,通道数依次为16、32、48、64、80。

      输入图像除了包含红外图像的热辐射信息和可见光图像的细节纹理信息外,还包含丰富的语义信息。局部细节特征分支的网络结构是仅包含1个5层卷积的密集块(Dense Block, DB),相比于在语义分割中使用的网络模型,如FC-Densnet103[12]包含4、5、7、10、12、15等多层卷积共11个DB,细节分支的网络结构过于简单,对输入图像包含的语义信息提取不充分。但如果继续提高细节分支的网络深度,尽管特征映射会包含更多的语义信息,也会让模型变得更加复杂和难以训练。

      感受野反映了卷积神经网络每一层输出的特征图上的特征点在原始图像上映射的区域大小,降采样可以扩大感受野,能够提供更丰富的语义信息[13]。因此,建立全局语义特征分支,使用降采样层提取输入图像的语义信息。它由5个卷积层构成,通道相连的图像首先经过1次卷积得到32个通道的特征,然后再经历多次卷积,将通道数依次扩大到64和128,再降到80,最后一层采用双三次插值进行上采样恢复原始大小,使全局语义特征分支和局部细节特征分支最终的通道数相同,以便于两组特征的融合。

      两支路输出的细节特征与语义特征经过融合后,特征图的通道数达到160,再输入解码器中进行特征重构,最终通道数降至1,输出融合图像。

    • 两种源图像的成像原理不同,红外图像的热辐射信息主要以像素强度表达,而可见光图像的细节纹理信息主要以梯度表达。此外,两种源图像还各自包含语义信息,因此需分别设计判别器,引导生成器对源图像进行特征提取。判别器的网络结构如图3所示。

      图  3  判别器网络结构

      Figure 3.  Discriminator network structure

      双判别器内部采用相同结构,是一个5层的卷积神经网络,在第1层~第4层的卷积层中使用3×3卷积核,判别器本质是从输入图像中提取特征映射并进行分类,工作方式与池化层相同,所以将步长设置为2。最后的全连接层将前4层卷积后的特征进行整合,并由Tanh激活函数生成标量,估计输入图像来自于源图像而非融合图像的概率。

      为解决GAN训练不稳定的问题,在判别器网络中引入谱归一化,通过限制每一层网络权重矩阵的谱范数使判别器满足Lipschitz约束$\sigma \left( W \right){\rm{ = }}1$

      $$\sigma \left( {{W_{SN}}} \right) = \frac{W}{{\sigma (W)}}$$ (3)

      权重矩阵的谱范数$\sigma \left( W \right)$等于矩阵的最大奇异值,通常采用幂迭代法近似求解谱范数,避免直接通过矩阵奇异值分解计算增加计算量。经过谱归一化的权重矩阵的最大奇异值均为1,保证判别器网络满足1−Lipschitz连续。与和谱归一化配合使用的Leaky ReLU激活函数满足Lipschitz约束要求,不会破坏判别器网络已经满足的1−Lipschitz连续性。

    • 生成器与双判别器之间的损失构成总对抗损失${L_{adv}}$,公式如下:

      $${L_{adv - i,f}} = E\left[ { - \log {D_{\rm{I}}}\left( i \right)} \right] + E\left[ { - \log \left( {1 - {D_{\rm{I}}}\left( {G\left( {i,v} \right)} \right)} \right)} \right]$$ (4)
      $${L_{adv - v,f}} = E\left[ { - \log {D_{\rm{V}}}\left( v \right)} \right] + E\left[ { - \log \left( {1 - {D_{\rm{V}}}\left( {G\left( {i,v} \right)} \right)} \right)} \right]$$ (5)

      式中:$G$代表生成器;${D_{\rm{I}}}$${D_{\rm{V}}}$代表双判别器;$E$为期望;$i$$v$为红外与可见光图像。

      内容损失${L_{con}}$通过Frobenius范数和全变分模型分别从像素强度和梯度两方面约束融合图像与源图像的相似度;将红外图像、可见光图像和融合图像组成RGB三通道输入预训练的VGG19[14],由第2、4、8、12和16卷积层输出的特征图计算感知损失${L_{per}}$,提升融合图像的视觉效果。

      总损失函数表达式为:

      $$ \begin{split} {L_{total}}{\rm{ = }}&{L_{adv}}\; + \;{\lambda _1}{L_{con}} + {\lambda _2}{L_{per}} = {L_{adv}} + \; \\ &{\lambda _1}\left\{ {E\left[ {\left\| {G\left( {i,v} \right) - i} \right\|_F^2 + \xi {{\left\| {G\left( {i,v} \right) - v} \right\|}_{TV}}} \right]} \right\} + \\ &{\lambda _2}\left\{ {E\left[ {\left\| {\phi \left( {G\left( {i,v} \right)} \right) - \phi \left( x \right)} \right\|_2^2} \right] } \right\} \end{split} $$ (6)

      式中:${\lambda _1}$${\lambda _2}$分别为内容损失和感知损失的权重系数;$F$代表Frobenius范数;$TV$代表Total Variation范数;$\xi $为平衡像素强度损失和梯度损失的系数;$\phi \left( x \right)$代表提取的特征图。

    • 文中方法及其他深度学习类型对比方法使用的硬件平台配置如下:CPU为AMD Ryzen 53600,显卡为GeForce RTX 2060 SUPER 8G,内存为32 GB,采用tensorflow框架,在Ubuntu18.04系统上使用python3.6.5实现文中模型。部分对比方法和客观评价指标在Windows 10系统上使用Matlab R2018b运行和计算。

      在训练阶段采用TNO图像融合数据集,该数据集包含多种军事场景的多光谱夜间图像,波段涵盖可见光、近红外和长波红外。从中选取36对红外与可见光图像作为训练集,但图像数量不足以训练好网络模型,所以将它们裁剪为84×84分辨率的共27264对红外与可见光图像作为最终的训练集。

      批数量设置为24,优化器选用RMSProp,训练阶段包含920个epochs,采用的初始学习率为2×10−3,并在每个epoch后衰减到原始值的0.85。其他参数设置如下:${\lambda _1} = 0.1$${\lambda _2} = 1 \times {10^{ - 3}}$$\xi = 1.2$

      在测试阶段,首先从TNO数据集中选取20对红外与可见光图像作为测试集,输入经过训练的生成器得到最终的融合图像;其次在RoadScene数据集进行第2组实验,该数据集涵盖典型的道路场景,从中选取20对红外与可见光图像作为第二组测试集。

    • 首先,使用TNO数据集进行对比实验,选取5种典型的图像融合方法,实验结果如图4所示。图像从上至下依次对应红外图像、可见光图像、全变分模型(Different Resolutions via Total Variation Model, DRTV)方法[15]、CNN方法[16]、FusionGAN方法、深度图像分解(Deep Image Decomposition for Infrared and Visible Image Fusion, DIDFuse)方法[17]、DDcGAN方法及文中方法。红框代表对图像局部做截取放大处理,可以更直观地观察图像细节。

      图  4  TNO数据集对比实验结果

      Figure 4.  Comparative experimental results of the TNO dataset

      主观方面,从图4中可以看出,DRTV因为全变分模型的特性,导致融合图像在平滑区域出现阶梯效应;CNN未经过图像融合任务的训练,提取的特征不能有效融合,图像整体性较差;FusionGAN使用单判别器,造成融合图像更趋近于红外图像的像素分布,背景区域纹理细节信息保留不足;DIDFuse构建了基于深度学习的双尺度图像分解网络,但使用的编码器网络较浅,无法正确提取源图像典型特征;DDcGAN的网络结构对源图像高层特征空间的语义信息提取不足,导致边缘信息的丢失,双判别器结构又加剧了网络训练的不稳定性,导致融合图像出现伪影。而文中方法通过在提取语义信息和稳定网络训练等方面做出的改进,获得的融合图像清晰度高,目标边缘清晰,背景区域纹理细节丰富。

      第二组实验在RoadScene数据集上进行,为了更加充分和直观地对比不同算法在同一序列图像中的实验结果,从中选取同时包含道路、车辆和行人的图像,如图5所示。

      图  5  RoadScene数据集对比实验结果。(a) 红外图像;(b) 可见光图像;(c) DRTV;(d) CNN;(e) FusionGAN;(f) DIDFuse;(g) DDcGAN;(h) 文中方法

      Figure 5.  Comparative experimental results of the RoadScene dataset. (a) Infrared image;(b) Visible image;(c) DRTV;(d) CNN;(e) FusionGAN;(f) DIDFuse;(g) DDcGAN;(h) Proposed method

      图5(a)、(b)分别为红外与可见光图像;图5(c)同时丢失了行人与车辆的热辐射信息;图5(d)、(f)并未体现出背景区域树木的纹理;图5(e)、(g)的目标车辆和行人边缘模糊;图5(h)中同时保留了目标行人和车辆热辐射信息、道路和树木的纹理细节信息,易于人眼识别。

      主观评价方法依赖人类视觉敏感度,容易受到自身观感和外界环境的影响,需要引入客观指标定量衡量融合图像在纹理和边缘等方面的特性,以主客观结合的方式对图像融合算法的性能给出最终评价。

      在客观方法中,选取4种用于评估红外与可见光图像融合算法性能的典型指标,包括:平均梯度(Average Gradient, AG)和空间频率(Spatial Frequency, SF)评价图像清晰度和纹理细节丰富程度;边缘信息保留(Gradient-based fusion performance, ${Q^{AB/F}}$)评价源图像传递到融合图像的边缘信息量;人类视觉敏感度(Chen-Blum, ${Q_{CB}}$)评价融合图像对源图像局部细节特征的保留程度。

      客观评价结果如表1所示,文中方法在两组实验中的表现均优于其他对比方法,相比于DDcGAN方法,在TNO数据集中,4项客观指标分别提升了6.00%、10.81%、12.64%和10.53%;在RoadScene数据集中,4项客观指标分别提升了12.60%、12.25%、13.48%和7.16%。表明融合图像在边缘和纹理方面提升明显,客观上验证了算法改进的有效性。

      表 1  两组对比实验客观评价结果

      Table 1.  Objective evaluation results of two comparison experiment

      DatasetMethodsAGSF${Q^{AB/F}}$${Q_{CB}}$
      TNODRTV3.7619.6390.3190.411
      CNN4.70011.4890.3320.463
      FusionGAN4.01410.0060.3130.425
      DIDFuse4.64411.7710.3950.472
      DDcGAN5.52913.0440.3560.456
      Proposed method5.86114.4540.4010.504
      Road sceneDRTV3.2218.6960.3680.384
      CNN4.48410.5360.3980.384
      FusionGAN3.2908.4260.2780.387
      DIDFuse5.25314.1490.4690.452
      DDcGAN5.20013.5800.4230.461
      Proposed method5.85515.2430.4800.494

      综上,主观与客观评价结果相吻合,证明改进算法建立的局部与全局双分支编码器结构使源图像的细节和语义信息得到最大化保留,保证融合图像在目标和背景区域均具有清晰的纹理和边缘;引入谱归一,稳定网络训练,消除视觉伪影,进一步提升了图像融合结果。

    • 使用TNO数据集进行消融实验,分析网络结构改进的作用。实验包含3个部分:①DDcGAN + SN:在判别器中引入谱归一化;②DDcGAN + GSFB:在生成器中建立全局语义特征分支;③DDcGAN + GSFB + SN:同时对网络做出以上两种改进。谱归一化能够提高网络训练稳定性,可通过损失函数曲线验证效果,如图6所示。

      图  6  损失函数曲线

      Figure 6.  Loss function curve

      曲线中G-D2-Loss代表生成器与用于区分可见光图像与源图像的判别器之间的对抗损失,在引入谱归一化模块后,损失函数收敛更快,稳定后数值更小,代表网络训练更加稳定,图像融合精度更高。

      消融实验评价结果如表2所示。

      可以看出,全局语义分支结构通过降采样扩大感受野,能够挖掘出源图像高层特征空间包含的语义信息,为融合图像提供更清晰的边缘和纹理。与谱归一化相结合,最终使图像的融合效果产生了明显提升,证明改进有效。

      表 2  消融实验评价结果

      Table 2.  Evaluation results of ablation experiment

      MethodsAGSF${Q^{AB/F}}$${Q_{CB}}$
      DDcGAN5.52913.0440.3560.456
      DDcGAN+SN5.67013.0620.3680.469
      DDcGAN+GSFB5.74613.8410.3880.484
      DDcGAN+GSFB+SN5.86114.4540.4010.504
    • 文中提出了一种基于语义信息和谱归一化改进的生成对抗网络,以端到端形式进行红外与可见光图像融合。首先,在生成器的编码器内部建立局部细节特征分支和全局语义特征分支,提取输入图像的细节和语义信息;其次,在判别器中使用谱归一化,提升网络训练的稳定性,并引入感知损失,提升融合图像的视觉效果;最后,通过对比实验和消融实验证明改进方法在主观融合图像边缘、纹理细节上及客观融合图像质量上都达到更优的效果。但文中方法也存在不足,处理测试图像的平均时间为1.274 s,原因是方法基于深度学习,对硬件性能要求较高。因此,将在下一阶段重点研究轻量化网络方法解决上述问题,以便应用于便携式多光谱相机等设备。

参考文献 (17)

目录

    /

    返回文章
    返回