留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

红外弱小目标检测方法综述

韩金辉 魏艳涛 彭真明 赵骞 陈耀弘 覃尧 李楠

韩金辉, 魏艳涛, 彭真明, 赵骞, 陈耀弘, 覃尧, 李楠. 红外弱小目标检测方法综述[J]. 红外与激光工程, 2022, 51(4): 20210393. doi: 10.3788/IRLA20210393
引用本文: 韩金辉, 魏艳涛, 彭真明, 赵骞, 陈耀弘, 覃尧, 李楠. 红外弱小目标检测方法综述[J]. 红外与激光工程, 2022, 51(4): 20210393. doi: 10.3788/IRLA20210393
Han Jinhui, Wei Yantao, Peng Zhenming, Zhao Qian, Chen Yaohong, Qin Yao, Li Nan. Infrared dim and small target detection: A review[J]. Infrared and Laser Engineering, 2022, 51(4): 20210393. doi: 10.3788/IRLA20210393
Citation: Han Jinhui, Wei Yantao, Peng Zhenming, Zhao Qian, Chen Yaohong, Qin Yao, Li Nan. Infrared dim and small target detection: A review[J]. Infrared and Laser Engineering, 2022, 51(4): 20210393. doi: 10.3788/IRLA20210393

红外弱小目标检测方法综述

doi: 10.3788/IRLA20210393
基金项目: 国家自然科学基金(61802455,62003381,61502195);国家留学基金委基金(202108410232);河南省科技厅科技发展计划项目(192102210089,222102210077,222102320370);河南省教育厅高等学校重点科研项目(18B510021,22B120006);河南省教育厅新工科研究与实践项目(2020JGLX068);湖北省自然科学基金(2018CFB691);中央高校基本科研业务费资助项目(CCNU20TD005);周口市科技局科技发展计划项目(2021GG01001)
详细信息
    作者简介:

    韩金辉,男,讲师,博士,主要从事红外小目标检测、红外图像处理等方面的研究

    通讯作者: 魏艳涛,男,副教授,博士,主要从事人工智能、计算机视觉等方面的研究。
  • 中图分类号: TP391

Infrared dim and small target detection: A review

  • 摘要: 红外弱小目标检测系统可灵活部署在不同的平台中,在红外预警、制导等领域具有重要实用价值。但是,由于复杂场景下存在信噪比低、背景变化剧烈等问题,导致复杂背景下的红外弱小目标检测非常困难,一直是目标探测领域的研究难点和研究热点。根据红外图像数据使用方式的不同,将现有目标检测方法划分为单帧型(含局部信息类与非局部信息类等)和多帧型(含关联校验类与直接求取类等)两大类,并分别进行了简要梳理,分析了不同方法的原理、优势及不足。最后,对本领域的发展趋势做出了预测。该工作既可以帮助初学者快速了解本领域的研究现状和发展趋势,也可作为其他研究者的参考资料。
  • 图  1  (a)含小目标的典型单帧红外图像; (b)不同位置处的三维灰度分布

    Figure  1.  (a) Single-frame infrared image containing small target; (b) 3D mesh of different positions

    图  2  红外弱小目标检测算法分类

    Figure  2.  Classify of infrared dim and small target detection methods

    图  3  背景估计法的一般框图模型

    Figure  3.  General framework of background estimation method

    图  4  新型Top-hat算子结构窗口

    Figure  4.  Structure window of new Top-hat operator

    图  5  不同位置的梯度分布。(a) 普通背景;(b) 背景边缘;(c) 真实目标

    Figure  5.  Gradient distribution of different locations. (a) Normal background; (b) Background edge; (c) Real target

    图  6  人类视觉系统对比度机制

    Figure  6.  Contrast mechanisms in the human visual system

    图  7  DoG滤波模板的构建。 (a) 尖锐高斯核函数;(b) 平缓高斯核函数;(c) 二者之差构成DoG滤波模板

    Figure  7.  Construction of DoG filter template. (a) Sharp Gaussian kernel function; (b) Flat Gaussian kernel function; (c) Difference of them, i.e., DoG filtering template

    图  8  LCM算法采用的双层窗口

    Figure  8.  Double-layer window used in LCM algorithm

    图  9  (a) 真实场景红外图像;(b) 使用局部对比度法计算得到的结果图;(c) 对比度图的三维显示

    Figure  9.  (a) Infrared image of real scene; (b) Result image computed by local contrast method; (c) 3D show of contrast map

    图  10  两种常见的频域检测法

    Figure  10.  Two kinds of common frequency-domain detection methods

    图  11  (a) 聚类;(b) 支持向量机; (c) 神经网络

    Figure  11.  (a) Clustering; (b) SVM; (c) Neural network

    图  12  使用二维高斯函数得到的部分字典原子

    Figure  12.  Some dictionary atoms obtained using 2D Gaussian function

    图  13  (a) 原始红外图像;(b) RPCA直接分解得到的低秩背景;(c) RPCA直接分解得到的稀疏前景

    Figure  13.  (a) Original infrared image; (b) Low-rank background obtained by RPCA; (c) Sparse foreground obtained by RPCA

    图  14  图像块矩阵的构建与分解

    Figure  14.  Construction and decomposition of image patch matrix

    表  1  不同类型算法的典型示例及现有研究的主要改进方向

    Table  1.   Typical examples of different types of algorithms and main improvements of existing research

    MethodsTypical algorithmsResearch trends
    Single-frame methods Methods on based local information Background estimation Median filtering;
    Max-mean filtering;
    Max-median filtering;
    TDLMS adaptive filtering, etc
    From simple traditional filtering methods to adaptive filtering methods (such as TDLMS, etc.)
    Morphological methods New tophat, etc. 1. Design more appropriate structural windows;
    2. Use other information (such as local significance, local entropy, etc.) for weighting
    Directional derivative/ gradient methods Directional derivative;
    High order directional derivative;
    Gradient, etc.
    1. Obtain the directional derivative using facet kernel;
    2. Introduce higher derivative;
    3. Combined with other methods (such as contrast), etc.
    Local contrast Difference-form LCM;
    Ratio-form LCM;
    Ratio-difference LCM, etc.
    1. Transition from difference type or ratio type to ratio-difference joint type;
    2. Improve the calculation window;
    3. Use more information (such as local entropy, local signal to clutter ratio, etc.) as the weighting function;
    4. Combined with other types of algorithms (such as frequency domain algorithm, background estimation algorithm, etc.)
    Methods based on nonlocal information Frequency-domain methods High pass filter;
    Low pass filter;
    Fourier transform;
    Wavelet transform, etc.
    1. Transition from simple Fourier transform and high/low pass filter to wavelet analysis;
    2. Combined with other types of algorithms (such as morphological methods)
    Classifier Clustering;
    Support vector machine;
    Neural network, etc.
    1. Optimize classification parameters (such as distance threshold in clustering algorithm, mapping method in support vector machine, etc.);
    2. Design a more suitable classification network (mainly for neural network method);
    3. Combined with other types of algorithms (such as the combination of depth network and contrast algorithm)
    Over complete sparse representation Sparse representation;
    Group sparse representation, etc.
    1. Construct an appropriate over complete target dictionary;
    2. Construct the over complete dictionary for the target and background respectively;
    3. Combined with other types of algorithms (such as frequency domain algorithm, etc.)
    Sparse and low-rank decomposition
    (mainly refers to RPCA)
    RPCA for image matrix;
    RPCA for image patch;
    RPCA for tensor, etc.
    1. Improve the data organization method (from image matrix to image patch or tensor);
    2. Improve the relaxation conditions (from simple 1-norm, nuclear norm to more complex relaxation conditions);
    3. Introduce regularization factors (such as total variation);
    4. Improve the iterative solution process (such as protecting large singular values, or introducing weighting factors, etc.)
    5. Combined with other types of algorithms (such as contrast algorithm, etc.)
    Multi-frame methods Associated checking Single-frame detection first, then correlation check between multi frames Pipeline filtering;
    Energy accumulation;
    Markov theory;
    Kalman filtering;
    Particle filter, etc.
    From simple energy accumulation and time-domain verification to more complex verification theories and methods, such as Markov theory, Kalman filter, particle filter, and so on
    Directed calculation 3D search 3D matched filter;
    Dynamic programming, etc.
    From simple time-domain calculation (such as 3D matched filtering, dynamic programming, temporal variance, temporal difference, etc.) to spatial-temporal joint calculation (such as spatial-temporal contrast, spatial-temporal tensor, etc.)
    1D processing Temporal variance;
    Temporal power law;
    Temporal inner product;
    Temporal profile, etc.
    Inter-frame difference Difference between two adjacent frames;
    Difference between multi adjacent frames, etc.
    Spatial-temporal methods Spatial-temporal local contrast;
    Spatial-temporal tensor, etc.
    下载: 导出CSV

    表  2  不同类型算法的优势及存在的缺陷

    Table  2.   Advantages and disadvantages of different types of algorithms

    MethodsAdvantagesDisadvantages
    Single-frame methods Methods based on local information Background estimation 1. The principle and the calculation are both simple;
    2. It is in good agreement with imaging theory
    When the background is very complex, it is easy to get an inaccurate estimation
    Morphological methods The structural window can be designed according to the characteristics of the target to improve the detection performance When the target is very weak, it is easy to erase the target by mistake
    Directional derivative/
    gradient methods
    It expands the characteristics of target and background, and makes it easier to distinguish them The mathematical definition is strict, so it is difficult to design the formula
    Local contrast 1. The definition is flexible and the formula can be designed pertinently;
    2. Target enhancement and complex background suppression can be considered simultaneously;
    3. The principle is simple and easy to implement
    It is required that the target must be the most prominent locally, otherwise it cannot be detected (for example, when the target is close to the highlighted background)
    Methods based on nonlocal information Frequency-domain methods It is a transform domain algorithm with complete theory and clear physical meaning When the background is very complex, the complex background also contains high-frequency information, which is easy to interfere with target detection
    Classifier 1. It belongs to machine learning algorithm, and has strong adaptability;
    2. The target is not required to be the most prominent locally.
    1. Prior knowledge is generally required (training samples are required);
    2. It is required that the samples and the data to be tested are distributed in the same way
    Over complete sparse
    representation
    1. It belongs to machine learning algorithm, and has strong adaptability;
    2. The target is not required to be the most prominent locally.
    1. Prior knowledge is generally required;
    2. It is impossible to build a dictionary that covers all situations
    Sparse and
    low-rank decomposition
    (mainly refers to RPCA)
    1. It belongs to machine learning algorithm, and has strong adaptability;
    2. The target is not required to be the most prominent locally.
    3. No prior knowledge is required
    When the background is very complex, some background edges and noise are easily incorrectly decomposed into sparse matrix to interfere with target detection
    Multi-frame methods Associated checking Single-frame detection first, then correlation check between multi frames Multi frame information can be used to further eliminate false targets The detection performance largely depends on the detection results of single-frame algorithm
    Directed calculation 3D search The target position and target trajectory can be determined at the same time The motion information of the target should be taken as a priori knowledge
    1D processing 1. The principle is simple and easy to implement
    2. Good parallel ability
    Only applicable to the scenes of fixed background and moving target
    Inter-frame difference The principle is simple and easy to implement Only applicable to the scenes of fixed background and moving target
    Spatial-temporal methods Using multi frame information to achieve good detection performance 1. Only applicable to the scenes of fixed background and moving target
    2. Large amount of calculation and output lag
    下载: 导出CSV
  • [1] Zhou Fei, Wu Yiquan, Dai Yimian, et al. Graph-regularized Laplace approximation for detecting small infrared target against complex backgrounds [J]. IEEE Access, 2019, 7: 85354-85371. doi:  10.1109/ACCESS.2019.2925563
    [2] Ren Xiangyang, Wang Jie, Ma Tianlei, et al. Review on infrared dim and small target detection technology [J]. Journal of Zhengzhou University (Natural Science Edition), 2020, 52(2): 1-21. (in Chinese)
    [3] Bai Xiangzhi, Bi Yanguang. Derivative entropy-based contrast measure for infrared small-target detection [J]. IEEE Transactions on Geoscience & Remote Sensing, 2018, 56(4): 2452-2466.
    [4] Li Junhong, Zhang Ping, Wang Xiaowei, et al. Infrared small-target detection algorithms: A survey [J]. Journal of Image and Graphics, 2020, 25(9): 1739-1753. (in Chinese)
    [5] Deng He, Sun Xianping, Zhou Xin. A multiscale fuzzy metric for detecting small infrared targets against chaotic cloudy/sea-sky backgrounds [J]. IEEE Transactions on Cybernetics, 2019, 49(5): 1694-1707. doi:  10.1109/TCYB.2018.2810832
    [6] Kim S. Target attribute-based false alarm rejection in small infrared target detection [C]//Proceedings of SPIE, 2012, 8537: 85370G.
    [7] Gao Chenqiang, Zhang Tianqi, Li Qiang. Small infrared target detection using sparse ring representation [J]. Aerospace & Electronic Systems Magazine IEEE, 2012, 27(3): 21-30.
    [8] Roland Miezianko. IEEE OTCBVS WS Series Bench, Terravic Research Infrared Database[DB/OL]. [2004-01-01](2018-3-13). http://vcipl-okstate.org/pbvs/bench/index.html.
    [9] Wei Changan, Jiang Shouda. Infrared small target image background reduction using morphological reconstruction operators [J]. Infrared Technology, 2008, 30(12): 713-716. (in Chinese)
    [10] Bae T W, Zhang Fei, Kweon I S. Edge directional 2D LMS filter for infrared small target detection [J]. Infrared Physics & Technology, 2012, 55: 137-145.
    [11] Kim S, Yang Y, Lee J, et al. Small target detection utilizing robust methods of the human visual system for IRST [J]. Journal of Infrared, Millimeter and Terahertz Waves, 2009, 30(9): 994-1011. doi:  10.1007/s10762-009-9518-2
    [12] Aghaziyarati S, Moradi S, Talebi H. Small infrared target detection using absolute average difference weighted by cumulative directional derivatives [J]. Infrared Physics & Technology, 2019, 101: 78-87.
    [13] Nasiri M, Chehresa S. Infrared small target enhancement based on variance difference [J]. Infrared Physics & Technology, 2017, 82: 107-119.
    [14] Rawat S S, Verma S K, Kumar Y. Infrared small target detection based on non-convex triple tensor factorization [J]. IET Image Process, 2021, 15(2): 556-570. doi:  10.1049/ipr2.12049
    [15] Hui Bingwei, Song Zhiyong, Wang Qi, et al. A benchmark for dim or small aircraft targets detection and tracking [J]. Aero Weaponry, 2019, 26(6): 56-59. (in Chinese)
    [16] Dai Yimian, Zhou Fei, Wu Yiquan, et al. Asymmetric contextual modulation for infrared small target detection [DB/OL]. [ 2020-09-30]. https://arxiv.org/abs/2009.14530.
    [17] Yang Weiping, Shen Zhenkang. Small target detection and preprocessing technology in infrared image sequences [J]. Infrared and Laser Engineering, 1998, 27(1): 23-28. (in Chinese)
    [18] Deshpande S D, Meng H E, Venkateswarlu R, et al. Max-mean and max-median filters for detection of small targets [C]//Proceedings of SPIE, 1999, 3809: 74-83.
    [19] Zhang Biyin, Zhang Tianxu, Cai Zhiguo, et al. Fast new small-target detection algorithm based on a modified partial differential equation in infrared clutter [J]. Optical Engineering, 2007, 46(10): 106401. doi:  10.1117/1.2799509
    [20] Cao Yuan, Liu Ruiming, Yang Jie. Small target detection using two-dimensional least mean square (TDLMS) filter based on neighborhood analysis [J]. International Journal of Infrared and Millimeter Waves, 2008, 29(2): 188-200. doi:  10.1007/s10762-007-9313-x
    [21] Ding Hao, Zhao Huijie. Adaptive method for the detection of infrared small target [J]. Optical Engineering, 2015, 54(11): 113107. doi:  10.1117/1.OE.54.11.113107
    [22] Lv Pingyue, Sun Shengli, Lin Changqing, et al. Space moving target detection and tracking method in complex background [J]. Infrared Physics & Technology, 2018, 91: 107-118.
    [23] Zhang Yixuan, Li Ling, Xin Yunhong. Infrared small target detection based on adaptive double-layer TDLMS filter [J]. Acta Photonica Sinica, 2019, 48(9): 0910001. (in Chinese) doi:  10.3788/gzxb20194809.0910001
    [24] Yu Nong, Wu Changyong, Tang Xinyi, et al. Adaptive background perception algorithm for infrared target detection [J]. Acta Electronica Sinica, 2005, 33(2): 200-204. (in Chinese)
    [25] Bai Xiangzhi, Zhou Fugen. Analysis of new top-hat transformation and the application for infrared dim small target detection [J]. Pattern Recognition, 2010, 43(6): 2145-2156. doi:  10.1016/j.patcog.2009.12.023
    [26] Bai Xiangzhi, Zhou Fugen, Xie Yongchun, et al. New top-hat transformation and application on infrared small target detection [J]. Journal of Data Acquisition and Processing, 2009, 24(5): 643-649. (in Chinese)
    [27] Liu Yuan, Tang Xinyi, Li Zheng. A new top hat local contrast based algorithm for infrared small target detection [J]. Infrared Technology, 2015, 37(7): 544-552. (in Chinese)
    [28] Deng Lizhen, Zhang Jieke, Xu Guoxia, et al. Infrared small target detection via adaptive M-estimator ring top-hat transformation [J]. Pattern Recognition, 2021, 112(1): 107729.
    [29] Lu Ruitao, Yang Xiaogang, Li Weipeng, et al. Robust infrared small target detection via multidirectional derivative-based weighted contrast measure [J]. IEEE Geoscience and Remote Sensing Letters, 2020, 19: 1-5. doi:  10.1109/LGRS.2020.3026546
    [30] Bi Yanguang, Chen Junzhang, Sun Heng, et al. Fast detection of distant, infrared targets in a single image using multiorder directional derivatives [J]. IEEE Transactions on Aerospace and Electronic Systems, 2020, 56(3): 2422-2436. doi:  10.1109/TAES.2019.2946678
    [31] Chen Xiangping, Wang Zhicheng, Tian Jinwen. Fusion detection of small infrared target based on local entropy and local gradient strength [J]. Computer & Digital Engineering, 2006, 34(10): 1-3, 19. (in Chinese)
    [32] Fan Mingming, Tian Shaoqing, Liu Kai, et al. Infrared small target detection algorithm based on gradient direction consistency and eigendecomposition [J]. Infrared and Laser Engineering, 2020, 49(1): 0126001. (in Chinese) doi:  10.3788/IRLA202049.0126001
    [33] Askar Hamdulla, Wu Wencheng. Point target detection technology based on multi-scale local gradient [J]. Journal of University of Electronic Science and Technology of China, 2019, 48(6): 893-903. (in Chinese)
    [34] Zhang Hong, Zhang Lei, Yuan Ding, et al. Infrared small target detection based on local intensity and gradient properties [J]. Infrared Physics & Technology, 2018, 89: 88-96.
    [35] Liu Depeng, Li Zhengzhou, Zeng Jingjie, et al. Infrared dim small target detection based on multi-scale local contrast and multi-scale gradient coherence [J]. Acta Armamentarii, 2018, 39(8): 1526-1535. (in Chinese)
    [36] Wang Lu, Liu Mingna, Yang Jie. Infrared dim small target detection based on contrast and gradient distribution [J]. Aerospace Shanghai, 2019, 36(5): 89-93. (in Chinese)
    [37] Chen Yaohong, Zhang Gaopeng, Ma Yingjun, et al. Small infrared target detection based on fast adaptive masking and scaling with iterative segmentation [J]. IEEE Geoscience and Remote Sensing Letters, 2021, 19: 7000605. doi:  10.1109/LGRS.2020.3047524
    [38] Dong Lili, Wang Bin, Zhao Ming, et al. Robust infrared maritime target detection based on visual attention and spatiotemporal filtering [J]. IEEE Transactions on Geoscience and Remote Sensing, 2017, 55(5): 3037-3050. doi:  10.1109/TGRS.2017.2660879
    [39] Itti L, Koch C, Niebur E. A model of saliency-based visual attention for rapid scene analysis [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 1998, 20(11): 1254-1259. doi:  10.1109/34.730558
    [40] Shao Xiaopeng, Fan Hua, Lu Guangxu, et al. An improved infrared dim and small target detection algorithm based on the contrast mechanism of human visual system [J]. Infrared Physics & Technology, 2012, 55(5): 403-408.
    [41] Wang Xin, Lv Guofang, Xu Lizhong. Infrared dim target detection based on visual attention [J]. Infrared Physics & Technology, 2012, 55(6): 513-521.
    [42] Dong Xiabin, Huang Xinsheng, Zheng Yongbin, et al. Infrared dim and small target detecting and tracking method inspired by human visual system [J]. Infrared Physics & Technology, 2014, 62: 100-109.
    [43] Han Jinhui, Ma Yong, Huang Jun, et al. An infrared small target detecting algorithm based on human visual system [J]. IEEE Geoscience and Remote Sensing Letters, 2016, 13(3): 452-456.
    [44] Xie Kai, Fu Keren, Zhou Tao, et al. Small target detection based on accumulated center-surround difference measure [J]. Infrared Physics & Technology, 2014, 67: 229-236.
    [45] Wei Yantao, You Xinge, Li Hong. Multiscale patch-based contrast measure for small infrared target detection [J]. Pattern Recognition, 2016, 58(C): 216-226.
    [46] Pan Shengda, Zhang Su, Zhao Ming, et al. Infrared small target detection based on double-layer local contrast measure [J]. Acta Photonica Sinica, 2020, 49(1): 0110003. (in Chinese)
    [47] Chen C L P, Li Hong, Wei Yantao, et al. A local contrast method for small infrared target detection [J]. IEEE Transactions on Geoscience and Remote Sensing, 2014, 52(1): 574-581. doi:  10.1109/TGRS.2013.2242477
    [48] Han Jinhui, Ma Yong, Zhou Bo, et al. A robust infrared small target detection algorithm based on human visual system [J]. IEEE Geoscience and Remote Sensing Letters, 2014, 11(12): 2168-2172. doi:  10.1109/LGRS.2014.2323236
    [49] Qin Yao, Li Biao. Effective infrared small target detection utilizing a novel local contrast method [J]. IEEE Geoscience and Remote Sensing Letters, 2016, 13(12): 1890-1894. doi:  10.1109/LGRS.2016.2616416
    [50] Han Jinhui, Liang Kun, Zhou Bo, et al. Infrared small target detection utilizing the multiscale relative local contrast measure [J]. IEEE Geoscience and Remote Sensing Letters, 2018, 15(4): 612-616. doi:  10.1109/LGRS.2018.2790909
    [51] Hsn Jinhui, Moradi S, Faramarzi I, et al. A local contrast method for infrared small target detection utilizing a tri-layer window [J]. IEEE Geoscience and Remote Sensing Letters, 2020, 17(10): 1822-1826. doi:  10.1109/LGRS.2019.2954578
    [52] Han Jinhui, Liu Chengyin, Liu Yuchun, et al. Infrared small target detection utilizing the enhanced closest-mean background estimation [J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 2021, 14: 645-662. doi:  10.1109/JSTARS.2020.3038442
    [53] Han Jinhui, Moradi S, Faramarzi I, et al. Infrared small target detection based on the weighted strengthen local contrast measure [J]. IEEE Geoscience and Remote Sensing Letters, 2020, 18(9): 1670-1674. doi:  10.1109/LGRS.2020.3004978
    [54] Cai Jun, Huang Yuanyuan, Li Pengze, et al. Infrared small target detection algorithm using visual contrast mechanism [J]. Systems Engineering and Electronics, 2019, 41(11): 2416-2423. (in Chinese)
    [55] Guan Xuewei, Peng Zhenming, Huang Suqi, et al. Gaussian scale-space enhanced local contrast measure for small infrared target detection [J]. IEEE Geoscience and Remote Sensing Letters, 2020, 17(2): 327-331. doi:  10.1109/LGRS.2019.2917825
    [56] Duan Siwei, Wang Zhonghua, Ye Zheng. An infrared small object detection algorithm based on spatial weighted local contrast [J]. Laser & Infrared, 2020, 50(10): 1200-1206. (in Chinese)
    [57] Chen Yuwen, Xin Yunhong. An efficient infrared small target detection method based on visual contrast mechanism [J]. IEEE Geoscience and Remote Sensing Letters, 2016, 13(7): 962-966. doi:  10.1109/LGRS.2016.2556218
    [58] Xu Wenqing, Wang Min. Infrared small target detection algorithm based on adaptive morphology filter [J]. Laser & Infrared, 2017, 47(1): 108-113. (in Chinese)
    [59] Qin Yao, Bruzzone L, Gao Chengqiang, et al. Infrared small target detection based on facet kernel and random walker [J]. IEEE Transactions on Geoscience and Remote Sensing, 2019, 57(9): 7104-7118.
    [60] Xia Chaoqun, Li Xiaorun, Zhao Liaoying. Infrared small target detection via modified random walks [J]. Remote Sensing, 2018, 10(12): 2004. doi:  10.3390/rs10122004
    [61] Cui Zheng, Yang Jingli, Jiang Shouda, et al. An infrared small target detection algorithm based on high-speed local contrast method [J]. Infrared Physics & Technology, 2016, 76: 474-481.
    [62] Cui Zheng, Yang Jingli, Li Junbao, et al. An infrared small target detection framework based on local contrast method [J]. Measurement, 2016, 91: 405-413. doi:  10.1016/j.measurement.2016.05.071
    [63] Deng He, Sun Xianping, Liu Maili, et al. Small infrared target detection based on weighted local difference measure [J]. IEEE Transactions on Geoscience and Remote Sensing, 2016, 54(7): 4204-4214. doi:  10.1109/TGRS.2016.2538295
    [64] Deng He, Sun Xianping, Liu Maili, et al. Infrared small-target detection using multiscale gray difference weighted image entropy [J]. IEEE Transactions on Aerospace and Electronic Systems, 2016, 52(1): 60-72. doi:  10.1109/TAES.2015.140878
    [65] Deng He, Sun Xianping, Liu Maili, et al. Entropy-based window selection for detecting dim and small infrared targets [J]. Pattern Recognition, 2017, 61: 66-77. doi:  10.1016/j.patcog.2016.07.036
    [66] Chen Yuwen, Song Bin, Wang Dianjun, et al. An effective infrared small target detection method based on the human visual attention [J]. Infrared Physics & Technology, 2018, 95: 128-135.
    [67] Chen Yuwen, Song Bin, Du Xiaojiang, et al. Infrared small target detection through multiple feature analysis based on visual saliency [J]. IEEE Access, 2019, 7: 38996-39004. doi:  10.1109/ACCESS.2019.2906076
    [68] Du Peng, Askar Hamdulla. Infrared small target detection using homogeneity-weighted local contrast measure [J]. IEEE Geoscience and Remote Sensing Letters, 2020, 17(3): 514-518. doi:  10.1109/LGRS.2019.2922347
    [69] Xiong Bin, Huang Xinhan, Wang Min. Local gradient field feature contrast measure for infrared small target detection [J]. IEEE Geoscience and Remote Sensing Letters, 2020, 18(3): 553-557.
    [70] Han Jinhui, Liu Sibang, Qin Gang, et al. A local contrast method combined with adaptive background estimation for infrared small target detection [J]. IEEE Geoscience and Remote Sensing Letters, 2019, 16(9): 1442-1446. doi:  10.1109/LGRS.2019.2898893
    [71] Yang L, Yang J, Yang K. Adaptive detection for infrared small target under sea-sky complex background [J]. Electronics Letters, 2004, 40(17): 1083-1085. doi:  10.1049/el:20045204
    [72] Qi Shengxiang, Ma Jie, Li Hang, et al. Infrared small target enhancement via phase spectrum of quaternion fourier transform [J]. Infrared Physics & Technology, 2014, 62: 50-58.
    [73] Shi Yafei, Wei Yantao, Huang Yao, et al. High-boost-based multiscale local contrast measure for infrared small target detection [J]. IEEE Geoscience & Remote Sensing Letters, 2018, 15(1): 33-37.
    [74] Gregoris D J, Yu S K, Tritchew S. Wavelet transform-based filtering for the enhancement of dim targets in FLIR images [C]//Proceedings of SPIE, 1994, 2242: 573-583.
    [75] Wu Yiquan, Luo Zijuan, Wu Wenyi. A method of small target detection in infrared image based on nonsubsampled contourlet transform [J]. Journal of Image and Graphics, 2009, 14(3): 477-481.
    [76] Kong Xiangyu, Liu Lei, Qian Yunsheng, et al. Automatic detection of sea-sky horizon line and small targets in maritime infrared imagery [J]. Infrared Physics & Technology, 2016, 76: 185-199.
    [77] Wang He, Xin Yunhong. Infrared small target detection based on DT-CWT [J]. Laser & Infrared, 2020, 50(9): 1145-1152. (in Chinese)
    [78] Zheng Sheng, Liu Jian, Tian Jinwen. Research of SVM-based infrared small object segmentation and clustering method [J]. Signal Processing, 2005(5): 515-519. (in Chinese)
    [79] Dong Xiabin, Huang Xinsheng, Zheng Yongbin, et al. A novel infrared small moving target detection method based on tracking interest points under complicated background [J]. Infrared Physics & Technology, 2014, 65: 36-42.
    [80] Wu Yiquan, Zhou Yang, Long Yunlin. Small target detection in hyperspectral remote sensing image based on adaptive parameter SVM [J]. Acta Optica Sinica, 2015, 35(9): 0928001. (in Chinese) doi:  10.3788/AOS201535.0928001
    [81] Zhou Weina. Research on infrared target recognition based on neural network [D]. Shanghai: Shanghai Maritime University, 2006. (in Chinese)
    [82] Ma Qi, Zhu Bin, Cheng Zhengdong, et al. Detection and recognition method of fast low-altitude unmanned aerial vehicle based on dual channel [J]. Acta Optica Sinica, 2019, 39(12): 1210002. (in Chinese) doi:  10.3788/AOS201939.1210002
    [83] Hou Qingyu, Wang Zhipeng, Tan Fanjiao, et al. RISTDnet: Robust infrared small target detection network [J]. IEEE Geoscience and Remote Sensing Letters, 2022, 19: 7000805.
    [84] Dai Yimian, Wu Yiquan, Zhou Fei, et al. Attentional local contrast networks for infrared small target detection [J]. IEEE Transactions on Geoscience and Remote Sensing, 2021, 59(11): 9813-9824. doi:  1109/TGRS.2020.3044958
    [85] Zhao Jiajia, Tang Zhengyuan, Yang Jie, et al. Infrared small target detection using sparse representation [J]. Journal of Systems Engineering and Electronics, 2011, 22(6): 897-904. doi:  10.3969/j.issn.1004-4132.2011.06.004
    [86] Han Jinhui. An adaptive algorithm for infrared small target detection based on image sparse representation [D]. Wuhan: Huazhong University of Science and Technology, 2013. (in Chinese)
    [87] He Yujie, Li Min, Zhang Jinli, et al. Small infrared target detection based on low-rank and sparse representation [J]. Infrared Physics & Technology, 2015, 68: 98-109.
    [88] Wan Minjie, Gu Guohua, Qian Weixian, et al. Robust infrared small target detection via non-negativity constraint-based sparse representation [J]. Applied Optics, 2016, 55(27): 7604-7612. doi:  10.1364/AO.55.007604
    [89] Zhang Xiaomin, Ren Kan, Wan Minjie, et al. Infrared small target tracking based on sample constrained particle filtering and sparse representation [J]. Infrared Physics & Technology, 2017, 87: 72-82. doi:  10.1016/j.infrared.2017.10.003
    [90] Shi Zhen, Wei Changan, Fu Ping, et al. A parallel search strategy based on sparse representation for infrared target tracking [J]. Algorithms, 2015, 8(3): 529-540. doi:  10.3390/a8030529
    [91] Qin Hanlin, Han Jiao, Yan Xiang, et al. Infrared small moving target detection using sparse representation-based image decomposition [J]. Infrared Physics & Technology, 2016, 76: 148-156.
    [92] Liu Depeng, Li Zhengzhou, Liu Bing, et al. Infrared small target detection in heavy sky scene clutter based on sparse representation [J]. Infrared Physics & Technology, 2017, 85: 13-31.
    [93] Candès E J, Li X, Ma Y, et al. Robust principal component analysis? [J]. Journal of the ACM, 2011, 58(3): 11.
    [94] Lin Zhouchen, Chen Minming, Ma Yi. The augmented lagrange multiplier method for exact recovery of corrupted low-rank matrices [DB/OL]. (2010-09-26)[2021-02-01]. http://arxiv.org/abs/1009.5055.
    [95] Zhang Baohua, Liu Yanxian, Jiao Doudou, et al. Dim and small infrared target background suppression based on improved RPCA and guided filter [J]. Journal of Inner Mongolia University of Science and Technology, 2016, 35(3): 269-273. (in Chinese)
    [96] Fan Junliang, Gao Yongming, Wu Zhihuan, et al. Detection algorithm of single frame infrared small target based on RPCA [J]. Journal of Ordnance Equipment Engineering, 2018, 39(11): 147-151. (in Chinese)
    [97] Dou Tianmei, Xin Yunhong. Infrared small target detection based on low rank sparse decomposition in Gaussian space [J]. Computer Science and Application, 2020, 10(5): 960-970. (in Chinese) doi:  10.12677/CSA.2020.105099
    [98] Gao Chenqiang, Meng Deyu, Yang Yi, et al. Infrared patch-image model for small target detection in a single image [J]. IEEE Transactions on Image Processing, 2013, 22(12): 4996-5009. doi:  10.1109/TIP.2013.2281420
    [99] Dai Yimian, Wu Yiquan, Song Yu, et al. Non-negative infrared patch-image model: Robust target-background separation via partial sum minimization of singular values [J]. Infrared Physics & Technology, 2017, 81: 182-194.
    [100] Wang Xiaoyang, Peng Zhenming, Kong Dehui, et al. Infrared dim and small target detection based on stable multisubspace learning in heterogeneous scene [J]. IEEE Transactions on Geoscience and Remote Sensing, 2017, 55(10): 5481-5493. doi:  10.1109/TGRS.2017.2709250
    [101] Wang Xiaoyang, Peng Zhenming, Kong Dehui, et al. Infrared dim target detection based on total variation regularization and principal component pursuit [J]. Image and Vision Computing, 2017, 63: 1-9. doi:  10.1016/j.imavis.2017.04.002
    [102] Wang Chuanyun, Qin Shiyin. Adaptive detection method of infrared small target based on target-background separation via robust principal component analysis [J]. Infrared Physics & Technology, 2015, 69: 123-135.
    [103] Li Wei, Zhao Mingjing, Deng Xiaoya, et al. Infrared small target detection using local and nonlocal spatial information [J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 2019, 12(9): 3677-3689. doi:  10.1109/JSTARS.2019.2931566
    [104] Dai Yimian, Wu Yiquan, Song Yu. Infrared small target and background separation via column-wise weighted robust principal component analysis [J]. Infrared Physics & Technology, 2016, 77: 421-430.
    [105] Fang Houzhang, Chen Min, Liu Xiyang, et al. Infrared small target detection with total variation and reweighted L1 regularization [J]. Mathematical Problems in Engineering, 2020(1): 1-9.
    [106] Zhu Hu, Ni Haopeng, Liu Shiming, et al. TNLRS: Target-aware non-local low-rank modeling with saliency filtering regularization for infrared small target detection [J]. IEEE Transactions on Image Processing, 2020, 29: 9546-9558. doi:  10.1109/TIP.2020.3028457
    [107] Zhang Tianfang, Wu Hao, Liu Yuhan, et al. Infrared small target detection based on non-convex optimization with Lp-norm constraint [J]. Remote Sensing, 2019, 11(5): 559. doi:  10.3390/rs11050559
    [108] Zhou Fei, Wu Yiquan, Dai Yimian, et al. Detection of small target using schatten 1/2 quasi-norm regularization with reweighted sparse enhancement in complex infrared scenes [J]. Remote Sensing, 2019, 11(17): 2058. doi:  10.3390/rs11172058
    [109] Dai Yimian. Wu Yiquan. Reweighted infrared patch-tensor model with both nonlocal and local priors for single-frame small target detection [J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 2017, 10(8): 3752-3767. doi:  10.1109/JSTARS.2017.2700023
    [110] Zhang Xiangyue, Ding Qinghai, Luo Haibo, et al. Infrared small target detection based on an image-patch tensor model [J]. Infrared Physics & Technology, 2019, 99(1): 55-63.
    [111] Zhang Landan, Peng Zhenming. Infrared small target detection based on partial sum of the tensor nuclear norm [J]. Remote Sensing, 2019, 11(4): 382. doi:  10.3390/rs11040382
    [112] Guan Xuewei, Zhang Landan, Huang Siqi, et al. Infrared small target detection via non-convex tensor rank surrogate joint local contrast energy [J]. Remote Sensing, 2020, 12(9): 1520. doi:  10.3390/rs12091520
    [113] Wang Bin, Xu Wenhai, Zhao Ming, et al. Antivibration pipeline-filtering algorithm for maritime small target detection [J]. Optical Engineering, 2014, 53(11): 113109. doi:  10.1117/1.OE.53.11.113109
    [114] Ma Tianlei, Shi Zelin, Yin Jian, et al. Dim air target detection based on radiation accumulation and space inversion [J]. Infrared and Laser Engineering, 2015, 44(11): 3500-3506. (in Chinese)
    [115] Ma Tianlei, Shi Zelin, Yin Jian, et al. Rectilinear-motion space inversion-based detection approach for infrared dim air targets with variable velocities [J]. Optical Engineering, 2016, 55(3): 033102. doi:  10.1117/1.OE.55.3.033102
    [116] Sun Bin, Li Yingjie, Chen Guosheng, et al. Moving target segmentation using Markov random field-based evaluation metric in infrared videos [J]. Optical Engineering, 2018, 57(1): 013106.
    [117] Lou Kang, Zhu Zhiyu, Ge Huilin. Infrared target detection and tracking method based on target motion feature [J]. Journal of Nanjing University of Science and Technology, 2019, 43(4): 455-461. (in Chinese)
    [118] Li Zhongmin, Wu Haochen. A survey of maneuvering target tracking using Kalman filter [C]//Proceedings of 2015 4th International Conference on Mechatronics, Materials, Chemistry and Computer Engineering, 2015.
    [119] Zhang Xiaomin, Ren Kan, Wan Minjie, et al. Infrared small target tracking based on sample constrained particle filtering and sparse representation [J]. Infrared Physics & Technology, 2017, 87: 72-82.
    [120] Reed I S, Gagliardi R M, Shao H M. Application of three-dimensional filtering to moving target detection [J]. IEEE Transactions on Aerospace and Electronic Systems,, 1983, 19(6): 898-905.
    [121] Reed I S, Gagliardi R M, Stotts L B. Optical moving target detection with 3-D matched filtering [J]. IEEE Transactions on Aerospace and Electronic Systems, 1988, 24(4): 327-336. doi:  10.1109/7.7174
    [122] Choi J H, Rajala S A. Three-dimensional location estimation of trajectories of point targets using a projection-based transformation method [J]. Optical Engineering, 1995, 34(3): 933-939. doi:  10.1117/12.190417
    [123] Barniv Y. Dynamic programming solution for detecting dim moving targets [J]. IEEE Transactions on Aerospace and Electronic Systems, 1985, 21(1): 144-156.
    [124] Barniv Y, Kella O. Dynamic programming solution for detecting dim moving targets part II: analysis [J]. IEEE Transactions on Aerospace and Electronic Systems, 1987, 23(6): 776-788.
    [125] Silverman J, Caefer C E, Disalvo S, et al. Temporal filtering for point target detection in staring IR imagery: II. Recursive variance filter [C]//Proceedings of SPIE, 1998, 3373: 44-53.
    [126] Sun Xiechang, Zhang Tianxu, Li Meng. Moving point target detection using temporal variance filter in IR imagery [C]//Proceedings of SPIE, 2007, 6786: 67861Z.
    [127] Wu Bin, Ji Hongbing. Improved power-law-detector-based moving small dim target detection in infrared images [J]. Optical Engineering, 2008, 47(1): 010503. doi:  10.1117/1.2829771
    [128] Bae T W. Small target detection using bilateral filter and temporal cross product in infrared images [J]. Infrared Physics & Technology, 2011, 54(5): 403-411.
    [129] Liu Delian, Zhang Jianqi, Dong Weike. Temporal profile based small moving target detection algorithm in infrared image sequences [J]. Int J Infrared Milli Waves, 2007, 28: 373-381. doi:  10.1007/s10762-007-9214-z
    [130] Liu Delian, Li Zhaohui, Wang Xiaorui, et al. Moving target detection by nonlinear adaptive filtering on temporal profiles in infrared image sequences [J]. Infrared Physics & Technology, 2015, 73: 41-48.
    [131] Kim S, Sun S G, Kim K T. Highly efficient supersonic small infrared target detection using temporal contrast filter [J]. Electronics Letters, 2014, 50(2): 81-83. doi:  10.1049/el.2013.2109
    [132] Hsieh Fengyang, Han Chinchuan, Wu Naishen, et al. A novel approach to the detection of small objects with low contrast [J]. Signal Processing, 2006, 86(1): 71-83. doi:  10.1016/j.sigpro.2005.03.020
    [133] Qu Jingjing, Xin Yunhong. Combined continuous frame difference with background difference method for moving object detection [J]. Acta Photonica Sinica, 2014, 43(7): 0710002. (in Chinese) doi:  10.3788/gzxb20144307.0710002
    [134] Liu Jin, Ji Hongbing. An improved robust estimation algorithm for small IR target detection [C]//IEEE Symposium on Industrial Electronics & Applications, 2009: 394-398.
    [135] Gao Jinyan, Lin Zaiping, An Wei. Infrared small target detection using a temporal variance and spatial patch contrast filter [J]. IEEE Access, 2019, 7: 32217-32226. doi:  10.1109/ACCESS.2019.2903808
    [136] Li Yansheng, Zhang Yongjun, Yu Jingang, et al. A novel spatio-temporal saliency approach for robust dim moving target detection from airborne infrared image sequences [J]. Information Science, 2016, 369: 548-563. doi:  10.1016/j.ins.2016.07.042
    [137] Deng Lizhen, Zhu Hu, Tao Chao, et al. Infrared moving point target detection based on spatial–temporal local contrast filter [J]. Infrared Physics & Technology, 2016, 76: 168-173.
    [138] Du Peng, Askar Hamdulla. Infrared moving small-target detection using spatial–temporal local difference measure [J]. IEEE Geoscience and Remote Sensing Letters, 2020, 17(10): 1817-1821. doi:  10.1109/LGRS.2019.2954715
    [139] Pang Dongdong, Shan Tao, Ma Pengge, et al. A novel spatiotemporal saliency method for low-altitude slow small infrared target detection [J]. IEEE Geoscience and Remote Sensing Letters, 2022, 19: 7000705. doi:  10.1109/LGRS.2020.3048199
    [140] Uzair M, Brinkworth R, Finn A. A bio-inspired spatiotemporal contrast operator for small and low-heat-signature target detection in infrared imagery [J]. Neural Comput & Applic, 2021, 33: 7311-7324.
    [141] Sun Yang, Yang Jungang, Long Yunli, et al. Infrared small target detection via spatial-temporal total variation regularization and weighted tensor nuclear norm [J]. IEEE Access, 2019, 7: 56667-56682. doi:  10.1109/ACCESS.2019.2914281
    [142] Zhang Ping, Zhang Lingyi, Wang Xiaoyang, et al. Edge and corner awareness-based spatial-temporal tensor model for infrared small-target detection [J]. IEEE Transactions on Geoscience and Remote Sensing, 2021, 59(12): 10708-10724. doi:  10.1109/TGRS.2020.3037938
    [143] Zhu Hu, Liu Shiming, Deng Lizhen, et al. Infrared small target detection via low-rank tensor completion with Top-Hat regularization [J]. IEEE Transactions on Geoscience and Remote Sensing, 2020, 58(2): 1004-1016. doi:  10.1109/TGRS.2019.2942384
    [144] Bi Yanguang, Bai Xiangzhi, Jin Ting, et al. Multiple feature analysis for infrared small target detection [J]. IEEE Geoscience and Remote Sensing Letters, 2017, 14(8): 1333-1337. doi:  10.1109/LGRS.2017.2711047
    [145] Jiang Zetao, Jiang Qi, Huang Yongsong, et al. Infrared and low-light-level visible light enhancement image fusion method based on latent low-rank representation and composite filtering [J]. Acta Photonica Sinica, 2020, 49(4): 0410001. (in Chinese)
    [146] Girshick R, Donahue J, Darrell T, et al. Rich feature hierarchies for accurate object detection and semantic segmentation [C]//Proceedings of the IEEE Computer Society Conference on Computer Vision and Pattern Recognition, 2014: 580–587.
    [147] Redmon J, Divvala S, Girshick R, et al. You only look once: unified, real-time object detection [C]//Proceedings of the IEEE Computer Society Conference on Computer Vision and Pattern Recognition, 2016: 779–788.
  • [1] 李岳楠, 徐浩宇, 董浩.  频域内面向目标检测的领域自适应 . 红外与激光工程, 2022, 51(7): 20210638-1-20210638-9. doi: 10.3788/IRLA20210638
    [2] 高凡, 杨小冈, 卢瑞涛, 王思宇, 高久安, 夏海.  Anchor-free轻量级红外目标检测方法(特邀) . 红外与激光工程, 2022, 51(4): 20220193-1-20220193-9. doi: 10.3788/IRLA20220193
    [3] 张景程, 乔新博, 赵永强.  红外偏振摄像机动目标检测跟踪系统(特邀) . 红外与激光工程, 2022, 51(4): 20220233-1-20220233-10. doi: 10.3788/IRLA20220233
    [4] 孙鹏, 于跃, 陈嘉欣, 秦翰林.  基于深度空时域特征融合的高动态空中多形态目标检测方法(特邀) . 红外与激光工程, 2022, 51(4): 20220167-1-20220167-8. doi: 10.3788/IRLA20220167
    [5] 鲁晓锋, 柏晓飞, 李思训, 王轩, 黑新宏.  基于改进加权增强局部对比度测量的红外小目标检测方法 . 红外与激光工程, 2022, 51(8): 20210914-1-20210914-9. doi: 10.3788/IRLA20210914
    [6] 王国刚, 孙召进, 刘云鹏.  J-MSF: 一种新的多通道多尺度红外弱小目标检测算法 . 红外与激光工程, 2022, 51(5): 20210459-1-20210459-10. doi: 10.3788/IRLA20210459
    [7] 蒋昕昊, 蔡伟, 杨志勇, 徐佩伟, 姜波.  基于YOLO-IDSTD算法的红外弱小目标检测 . 红外与激光工程, 2022, 51(3): 20210106-1-20210106-10. doi: 10.3788/IRLA20210106
    [8] 南天章, 耿建君, 陈旭, 陈颖.  基于邻域特征的红外低慢小目标检测 . 红外与激光工程, 2019, 48(S1): 174-180. doi: 10.3788/IRLA201948.S128002
    [9] 曹文焕, 黄树彩, 赵炜, 黄达.  二维非重构压缩感知自适应目标检测算法 . 红外与激光工程, 2019, 48(1): 126001-0126001(8). doi: 10.3788/IRLA201948.0126001
    [10] 唐聪, 凌永顺, 郑科栋, 杨星, 郑超, 杨华, 金伟.  基于深度学习的多视窗SSD目标检测方法 . 红外与激光工程, 2018, 47(1): 126003-0126003(9). doi: 10.3788/IRLA201847.0126003
    [11] 吴天舒, 张志佳, 刘云鹏, 裴文慧, 陈红叶.  基于改进SSD的轻量化小目标检测算法 . 红外与激光工程, 2018, 47(7): 703005-0703005(7). doi: 10.3788/IRLA201847.0703005
    [12] 陈卫, 孙晓兵, 乔延利, 陈震庭, 殷玉龙.  海面耀光背景下的目标偏振检测 . 红外与激光工程, 2017, 46(S1): 63-68. doi: 10.3788/IRLA201746.S117001
    [13] 王晓飞, 王霄衣, 史翔宇, 阎秋静, 陈向南.  基于空间上下文单类分类器的目标检测算法 . 红外与激光工程, 2015, 44(S1): 236-240.
    [14] 孙照蕾, 惠斌, 秦莫凡, 常铮, 罗海波, 夏仁波.  红外图像显著目标检测算法 . 红外与激光工程, 2015, 44(9): 2633-2637.
    [15] 彭志勇, 王向军, 卢进.  窗口热辐射下基于视觉显著性的红外目标检测方法 . 红外与激光工程, 2014, 43(6): 1772-1776.
    [16] 韩艳丽, 刘峰.  基于三角形匹配的空间小目标检测算法 . 红外与激光工程, 2014, 43(9): 3134-3140.
    [17] 刘志刚, 卢云龙, 魏一苇.  有监督的高光谱图像伪装目标检测方法 . 红外与激光工程, 2013, 42(11): 3076-3081.
    [18] 黎志华, 李新国.  基于OpenCV的红外弱小运动目标检测与跟踪 . 红外与激光工程, 2013, 42(9): 2561-2565.
    [19] 吴明军, 许建铮, 周桢, 张亚涛.  针对运动摄像机的快速低存储开销运动目标检测算法 . 红外与激光工程, 2013, 42(8): 2275-2280.
    [20] 杨亚威, 李俊山, 杨威, 赵方舟.  利用稀疏化生物视觉特征的多类多视角目标检测方法 . 红外与激光工程, 2012, 41(1): 267-272.
  • 加载中
图(14) / 表(2)
计量
  • 文章访问数:  129
  • HTML全文浏览量:  26
  • PDF下载量:  70
  • 被引次数: 0
出版历程
  • 收稿日期:  2021-06-13
  • 修回日期:  2021-09-26
  • 刊出日期:  2022-05-06

红外弱小目标检测方法综述

doi: 10.3788/IRLA20210393
    作者简介:

    韩金辉,男,讲师,博士,主要从事红外小目标检测、红外图像处理等方面的研究

    通讯作者: 魏艳涛,男,副教授,博士,主要从事人工智能、计算机视觉等方面的研究。
基金项目:  国家自然科学基金(61802455,62003381,61502195);国家留学基金委基金(202108410232);河南省科技厅科技发展计划项目(192102210089,222102210077,222102320370);河南省教育厅高等学校重点科研项目(18B510021,22B120006);河南省教育厅新工科研究与实践项目(2020JGLX068);湖北省自然科学基金(2018CFB691);中央高校基本科研业务费资助项目(CCNU20TD005);周口市科技局科技发展计划项目(2021GG01001)
  • 中图分类号: TP391

摘要: 红外弱小目标检测系统可灵活部署在不同的平台中,在红外预警、制导等领域具有重要实用价值。但是,由于复杂场景下存在信噪比低、背景变化剧烈等问题,导致复杂背景下的红外弱小目标检测非常困难,一直是目标探测领域的研究难点和研究热点。根据红外图像数据使用方式的不同,将现有目标检测方法划分为单帧型(含局部信息类与非局部信息类等)和多帧型(含关联校验类与直接求取类等)两大类,并分别进行了简要梳理,分析了不同方法的原理、优势及不足。最后,对本领域的发展趋势做出了预测。该工作既可以帮助初学者快速了解本领域的研究现状和发展趋势,也可作为其他研究者的参考资料。

English Abstract

    • 目标检测是红外搜索与跟踪(Infrared Search and Track,IRST)系统的关键技术之一[1]。但是,在诸如制导、预警、机载或星载监视/监控、以及近年来很受关注的反无人机等实际应用领域中,由于目标本身尺寸很小或者距离探测器很远,在系统输出的图像中,目标所占的像素点通常很少;同时,由于大气散射吸收等影响,目标的亮度一般也比较微弱,这类典型目标通常被称为红外弱小目标。近年来,红外弱小目标的检测一直是目标检测领域的难点和热点[2],其挑战主要表现在:首先,红外弱小目标本身亮度弱、尺寸小(按照研究者们约定俗成的说法,一般不超过80个像素),缺乏明显的形状、纹理和颜色等信息,难以直接检测[3-4];其次,在真实场景下,虚警也是一个难以解决的问题,它大多由两个方面的因素造成,一是探测器视场中有时不可避免地会出现各种各样的复杂背景,如树木、建筑、云层、海浪等,它们可能具有超过真实目标的亮度和比较复杂的边缘杂波信息,容易干扰检测[5],二是由于器件制造缺陷以及系统工作时的随机电噪声等因素,原始图像中会存在一些高亮度点噪声,这些点噪声也容易被错当成目标[6];最后,一些实际应用场合(如制导等)对实时性的要求很高,这进一步增加了目标检测的难度[7]

      图1给出了一幅典型的包含红外弱小目标的真实红外图像[8],其中TT(True Target)代表真实目标,NB(Normal Background)代表普通背景,HB(High-brightness Background)代表高亮背景,EB(Edge of Background)代表背景边缘,PNHB(Pixel-sized Noise with High Brightness)代表高亮度点噪声。

      图  1  (a)含小目标的典型单帧红外图像; (b)不同位置处的三维灰度分布

      Figure 1.  (a) Single-frame infrared image containing small target; (b) 3D mesh of different positions

      图1中可以看到,一般情况下,在红外图像中,普通背景的分布比较平缓,其灰度通常也不高;高亮背景虽然灰度值较大,但是其分布也比较平缓;真实目标通常呈团状分布,与四周邻域间的灰度存在一定差异,且大致从中心到四周逐渐均匀衰减,没有明显的方向性;背景边缘两侧的灰度也存在一定差异,但是边缘在局部小区域一般沿着某个特定的方向分布,这一点与真实目标很不同;高亮度点噪声一般面积极小(主要指电噪声导致的随机噪声,通常只有单个的随机闪烁像素点)或位置固定(主要指器件缺陷导致的固定噪声),与真实目标也有很大不同。如何合理利用这些差异排除各种复杂因素的干扰,实现高检测率、低虚警率的实时红外弱小目标检测,是红外图像处理领域的重要研究方向,具有重要的理论意义和实用价值。

      目前,许多国家在红外弱小目标检测领域都投入了大量科研力量。国外方面,美国陆军航空与导弹司令部(Aviation and Missile Command,AMCOM)建成了世界上最早也最大的红外弱小目标图像数据库[9],韩国[10-11]、伊朗[12]、印度[13-14]等国也持续有成果见诸报道。国内方面,得益于各高校和科研院所的研究者们不断地推陈出新,许多方向的理论研究成果已达到国际领先水平,同时,在数据储备方面,回丙伟、范红旗等[15]和戴一冕、吴一全等[16]也于近年初步建立了一定规模的弱小目标检测数据库,进一步促进了我国在该领域的发展。

      概括而言,现有的红外弱小目标检测方法大致可以分为单帧型(Single-frame based)和多帧型(Multi-frame based)两大类,其中单帧型算法又包括局部信息类单帧型算法和非局部信息类单帧型算法,多帧型算法又包括关联校验类多帧型算法和直接求取类多帧型算法等,如图2所示。

      图  2  红外弱小目标检测算法分类

      Figure 2.  Classify of infrared dim and small target detection methods

    • 单帧型算法在一帧图像内对弱小目标进行检测,其优点在于很多单帧算法的计算相对简单,具有良好的实时化应用潜力。并且,在一定情况下,单帧型算法还可以作为一些多帧型算法的基础模块,所以目前研究者们的工作偏重单帧型算法更多一些。根据检测时依据的信息类型不同,现有的单帧型算法又可以被分为局部(Local)信息类和非局部(Nonlocal)信息类等两类。

    • 局部信息类单帧型算法认为,红外图像中背景像素点的灰度通常与其局部邻域像素点比较接近,而目标像素点的灰度与其邻域像素点之间具有较明显的差异。通过提取图像中每个像素点与其邻域参照像素点的差异信息,即可成功筛选出目标。这类算法主要包括背景估计法、形态学法、方向导数/梯度法、局部对比度法等。

    • 一个被研究者们广泛接受的单帧成像模型认为,一帧完整的红外图像可以被分为三个子部分的和:

      $$ I(x,y) = {I_B}(x,y) + {I_T}(x,y) + {I_N}(x,y) $$ (1)

      式中:(x,y)为图像中每个像素点的坐标;I为原始图像;IB为背景图像;IT为目标图像;IN为示噪声图像。

      背景估计法认为,如果能够使用某种方法从整幅图像I中将背景图像IB估计并分离出来(通常是以IB作为参照,将IIB对应求差分),即可比较方便地从残余部分中获取目标。常见的背景估计算法框图模型如图3所示。

      图  3  背景估计法的一般框图模型

      Figure 3.  General framework of background estimation method

      早期人们主要使用一些传统滤波方法对原始图像进行背景估计。例如,杨卫平、沈振康使用一个小窗口(即滤波模板)对原始图像进行遍历[17],在每个位置处仅分析小窗口内的局部区域,并选取中心像素点周围若干像素的灰度中间值作为当前位置的IB,若中心像素为背景像素,其估计值会比较接近原始值,若中心像素为目标像素,则估计值一般小于原始值,故差分后可以明显地看到目标所在的位置;Deshpande等[18]提出了Max-mean/Max-median滤波器,将滤波模板划分为多个方向,分别计算滤波结果,并取各方向中的最大值作为IB,实质上是利用了背景边缘与目标在方向性信息上的差异(见前文图1)达到抑制边缘的目的;Zhang Biyin等[19]提出了一种各向异性部分差分滤波器,首先判断出每个像素点的类型,再对目标像素使用增强模板、对背景像素使用抑制模板,从而实现对目标的增强和对复杂背景的抑制;等等。

      随着研究的深入,自适应滤波得到了更多的关注,其一大优势在于滤波模板中的参数可以随数据自适应地学习和调整,因而可以适应更复杂的背景。例如,Cao Yuan等[20]利用二维最小均方差(Two Dimensional Least Mean Square,TDLMS)算法进行自适应背景估计,使用最陡下降法对模板系数进行更新;Ding Hao等[21]提出了一种中心挖空的TDLMS模板,用于在估计背景时隔离小目标,从而得到更准确的背景结果;吕凭乐等[22]专注于星载平台,针对空间目标的特点对TDLMS算法的检测流程做了进一步优化,特别是提高了对簇状噪声的抑制能力;张艺璇等[23]提出了一种双层TDLMS滤波方法,第一层专门用于移除背景,第二层专门用于提取目标;等等。

      从理论上看,背景估计法原理简明,实现方便。但是,该型算法的检测性能直接取决于估计的准确性,而当探测器视场中的背景非常复杂时,使用传统滤波法得到的背景很有可能会出现失准。即使采用TDLMS等自适应型滤波算法,在背景边缘等灰度跳变较大的位置处也会存在估计失准的问题。在这种情况下,经过下一步的差分后,容易得到大量虚警,不利于真实弱小目标的检测。

    • 形态学法是一种基于集合理论和几何学的非线性滤波方法,在运用时通常需要先根据目标数据的特点设计一个特定形状的结构窗口,并使用该结构窗口遍历整幅图像,在每个像素点处进行局部的腐蚀和膨胀两个基本操作,从而实现突出目标、抑制背景和噪声的效果。如何根据实际应用来设计合适的结构窗口是这类算法的核心问题。例如,余农等[24]设计了一种梅花型结构窗口,提高了对杂波起伏的抵抗能力;白相志等[25-26]对传统型Top-Hat算法的结构窗口进行了改进,将其分割为中心与周围区域(见图4),中心区域用来捕捉小目标,周围区域用来捕捉局部邻域内的背景,显然该窗口更适用于红外小目标检测任务,并迅速得到了比较广泛的应用;刘源、汤心溢等[27]将白相志提出的新型Top-hat与局部显著性算法相结合;邓丽珍等[28]提出了一种类似的环状结构窗口,并在后续处理环节中使用了局部信息熵作为加权;等等。

      图  4  新型Top-hat算子结构窗口

      Figure 4.  Structure window of new Top-hat operator

      形态学方法的实现也比较方便,且并行性好,处理速度较快。但是,从理论上看,形态学方法的处理结果不仅与结构窗口的形状有关,也与结构窗口的大小有关。若结构窗口过大,使用形态学法容易误将较小的真实目标抹掉,导致漏检;若结构窗口过小,又可能会造成较多的复杂背景残留,导致虚警。只有结构窗口的大小与真实目标的尺度比较接近时,才能取得最佳的性能。但是,在实际中,目标的具体尺度极有可能是未知信息,导致形态学方法在应用中面临一定困难。

    • 方向导数/梯度法的基本思想是将原始图像的灰度值看作一个标量场,并求出场中每个点处的方向导数和梯度。由于梯度是矢量,其大小和方向都可作为区分真实目标与复杂背景的特征,例如,普通背景的梯度应该比较小,且方向是随机的;真实目标的梯度应该比较大,且方向是指向中心的会聚状;背景边缘的梯度也会比较大,但方向应该是平行状(见图5)。显然,使用的特征越多,区分结果一般也会越可靠。这类方法的典型例子有:卢瑞涛等[29]使用小面核模型来求取方向导数,并以方向导数作为局部对比度信息的加权;Bi Yanguang等[30]引入了高阶方向导数的概念,进一步增加了用于区分目标和背景的特征数量;陈湘凭等[31]通过提取每帧图像的局部梯度和局部熵的特征图像,实现真实目标的检测和复杂背景的抑制;范明明等[32]先使用梯度方向一致性增强小目标,再结合特征分解方法抑制强背景边缘;艾斯卡尔∙艾木都拉等[33]提出了一种基于协方差矩阵的局部梯度强度测算方法,用来抑制多纹理杂波区域(如背景边缘等);Zhang Hong等[34]将像素点的梯度与亮度放在一起考虑;刘德鹏等[35]和王露等[36]先使用其他方法获取图像中的一些可疑目标区域,再使用梯度分布信息剔除其中的假目标;陈耀弘等[37]在获取图像中的可疑区域后,联合使用梯度与对比度信息来进一步检测目标;等等。

      图  5  不同位置的梯度分布。(a) 普通背景;(b) 背景边缘;(c) 真实目标

      Figure 5.  Gradient distribution of different locations. (a) Normal background; (b) Background edge; (c) Real target

      从理论上看,使用方向导数/梯度法以后,可以将原始的标量图像数据转换为矢量数据,增加了一个新的数据维度——“方向”。这实际上可以视为一种简单的数据升维,即通过增加数据的维度来增加真实目标与复杂背景的可区分度。但是,方向导数/梯度的数学定义比较严格,难以针对图像数据的具体特征进行有针对性的改进,因此当背景非常复杂时,方向导数/梯度法的效果往往不会太好。

    • 局部对比度法主要受人类视觉系统的对比度机制启发,即人眼对视场中的对比度信息更加敏感(见图6,此处4个子图的中心区域灰度值相同,但人眼会认为第一个子图的中心区域最突出,这是因为第一个子图中的对比度信息最明显)。在原始红外图像中,目标虽然不是整幅图像中最亮的,却往往要比其周围的邻域背景稍微亮一些,即存在一定的局部对比度信息;背景部分虽然可能具有很高的亮度,但背景通常是大面积平缓分布的,其内部的对比度并不突出。因此,人眼可以迅速准确地捕获图像中的真实目标。局部对比度法通过模拟人眼的这一机制,在每个像素点处计算其局部对比度信息,并以之作为目标提取的依据,不仅原理简洁易实现,而且契合原始图像特征,可以取得比一般算法更好的检测性能,因而得到了广大研究者们的持续关注。董丽丽等[38]对Itti等[39]提出的人类视觉模型进行了修正,使之更适用于红外弱小目标的检测。

      图  6  人类视觉系统对比度机制

      Figure 6.  Contrast mechanisms in the human visual system

      局部对比度的本质是当前位置与局部邻域之间的差异信息,但是具体的定义可以非常灵活,很多研究者根据实际问题的需要选择了不同的参数和方法进行局部对比度的计算。特别地,一些算法还巧妙地考虑了对背景边缘和噪声的抑制能力。大体上,可以将现有的局部对比度算法进一步划分为差值型、比值型和比差联合型三类。

      (1)差值型局部对比度:以中心若干像素点与四周邻域若干像素点的灰度差作为局部对比度信息,可以有效地将亮度虽高但分布平缓的高亮背景区域消除为0,从而使目标变得容易检测。例如,邵晓鹏等[40]采用了一种中心系数为正、四周系数为负的LoG(Laplacian of Gaussian)滤波器模板,在使用该模板对原始图像进行卷积滤波的过程中,实际上求得的是每个像素点与其邻域像素点之间的差值;王鑫等[41]提出了一种结构类似但构建起来更简便的DoG (Difference of Gaussian)滤波器模板(见图7),并被董夏斌等[42]沿用,影响力较大,但是,LoG和DoG都对背景边缘比较敏感,其滤波结果中存在大量的边缘残留,给弱小目标的检测带来很大干扰;韩金辉等[43]根据真实目标与背景边缘在方向性方面的差异,使用椭圆形的Gabor核函数替代了DoG中的圆形Gauss核函数,通过调整椭圆的长轴角度,赋予滤波器方向区分能力,以更好地抑制背景边缘;谢凯等[44]在计算差值前对周围像素点进行了加权,将距中心较远的像素点赋予更大的权重;魏艳涛等[45]针对在实际应用中通常并不知道目标具体尺寸的难题,提出调整计算窗口的大小,采用多尺度计算进行自适应检测;潘胜达等[46]提出了一个带隔离层的窗口,可以处理不同大小的目标,无须多尺度计算,从而节省了大量计算量;等等。但是,差值型局部对比度在计算过程中仅提取了目标与邻域背景之间的差异信息,并没有对真实目标进行任何增强操作,当目标非常弱小时,容易造成漏检。

      图  7  DoG滤波模板的构建。 (a) 尖锐高斯核函数;(b) 平缓高斯核函数;(c) 二者之差构成DoG滤波模板

      Figure 7.  Construction of DoG filter template. (a) Sharp Gaussian kernel function; (b) Flat Gaussian kernel function; (c) Difference of them, i.e., DoG filtering template

      (2)比值型局部对比度:以中心若干像素点与四周邻域若干像素点的灰度比作为增强因子,用于增强中心像素点。由于真实目标通常比周围邻域稍亮,其增强因子一般大于1,故比值型局部对比度可以有效增强真实目标。特别地,一些算法还将局部邻域划分成多个方向分别计算,利用方向性信息更好地抑制背景边缘。例如,陈俊龙等[47]以一个带8个方向的双层窗口为基础(见图8,中心0子块用于捕捉目标,周围8子块用于捕捉邻域背景。通常情况下,为抑制背景边缘,人们一般取8方向中的最大值作为最终背景参与计算),提出了一种LCM(Local Contrast Measure)算法;在此基础上,韩金辉等[48]提出了一种ILCM(Improved LCM)算法,引入了子块平均值作为参数,可以更好地抑制随机点噪声,但当目标较小时,容易将小目标也平滑掉;覃尧等提出了一种NLCM(Novel LCM)算法[49],对每个子块仅采用最大的若干个像素点进行平均,在保留噪声抑制能力的同时,较好地解决了小目标被平滑的问题;等等。但是,比值型对比度并未对背景做消减操作,当图像中存在亮度极高的大面积背景时,尽管这些背景的增强因子仅为1左右,不如真实目标的增强因子大,但是乘以原值后的最终增强值还是可能会超过真实目标,造成较多的虚警。

      图  8  LCM算法采用的双层窗口

      Figure 8.  Double-layer window used in LCM algorithm

      (3)比差联合型局部对比度:将差值型局部对比度与比值型局部对比度有机结合为一体,从而将二者的优势结合起来。通常的做法是先使用中心像素与四周像素的灰度比作为增强因子,对中心像素进行增强(比值),再使用增强后的值减去增强前的值(差值),得到相对增强值,以达到同时增强目标、消除复杂背景的目的。有时也被称为相对局部对比度(Relative LCM,RLCM)。韩金辉等[50]首次提出RLCM的定义,并从滤波模板的设计[51]、背景参照的选取[52]、加权函数的引入[53]等方面进行了一系列改进。这一思想随即被许多研究者们认可和采纳,例如,蔡军等[54]对比差联合公式做了一些改进,增加了一个指数函数作为衰减因子,实现对复杂背景的进一步抑制;Guan Xuewei等[55]在比差联合对比度计算前引入了多尺度高斯滤波,以事先提高图像信噪比,方便后续检测;段思韦等[56]先使用DoG滤波消除部分背景,再对残余结果求取比差联合对比度;等等。但是,由于比差联合型局部对比度的思想提出较晚,相关研究尚不充分,目前还存在一些值得深入研究的问题,例如,比值运算和差值运算是否可以有更好的结合方式、计算窗口是否可以有更好的改进方法、背景参照是否可以有更好的选取原则,等等。

      值得注意的是,在一些最新研究中,很多学者倾向于将局部对比度算法与其他不同类型的算法联合起来使用,以取得更好的检测效果。例如,Chen Yuwen等[57]与徐文晴等[58]将局部对比度算法与形态学方法相结合;覃尧等[59]和夏超群等[60]先使用局部对比度筛选出若干可疑目标种子,再使用随机游走(Random Walk)理论分割出目标;Cui Zheng等将局部对比度与支持向量机相结合[61-62];邓鹤等利用信息熵对局部对比度进行加权,并对局部信息熵的窗口形状、尺寸等进行了充分分析[63-65];陈玉文等使用局部信杂比(Signal-to-Clutter Ratio,SCR)对局部对比度进行加权[66],或将局部对比度算法与频域思想相结合[67];Du Peng等[68]使用局部平滑度对局部对比度进行加权;Xiong Bin等[69]先计算得到原始图像的局部梯度,再对梯度图计算局部对比度;韩金辉等[70]将局部对比度与TDLMS自适应背景估计相结合;等等。从理论上看,这种多算法联合的思想可以利用图像中的更多信息,从而取得比单一类型算法更好的检测性能。但是,现有的联合型算法大多是多种算法的直接杂糅,而对各算法之间的原理互补性关注不足,未能更好地实现不同类型算法的有机结合。

    • 概括地说,局部信息类单帧型算法在对每个像素点进行计算时只关注当前局部小区域内的若干像素点,所以通常计算量比较小,当采用并行加速和流水线架构等工程优化手段后,可能具备实时处理的潜力。其中,局部对比度算法原理简洁易实现、与红外图像模型契合较好,并且通过合理地设计对比度计算公式,可以很方便地实现对真实目标的增强和对复杂背景噪声的抑制(例如,利用差值消除高亮背景,利用方向性信息抑制背景边缘,利用平均或加权平均操作抑制随机噪声,等等),所以尤其受到人们的关注。但是,使用局部信息对目标进行检测必须满足一个基本前提,那就是目标在局部必须是最突出的,而这一前提在复杂的真实背景下有可能并不成立。一种非常有可能出现的情况是,若背景非常复杂,目标有可能会靠近某些亮度极高的背景,并很容易被其淹没,此时想要使用局部信息检测出目标是非常困难的(如图9所示,此处使用的算法出自参考文献[52]),这导致局部信息类算法在复杂的真实背景下出现检测性能下降的问题。

      图  9  (a) 真实场景红外图像;(b) 使用局部对比度法计算得到的结果图;(c) 对比度图的三维显示

      Figure 9.  (a) Infrared image of real scene; (b) Result image computed by local contrast method; (c) 3D show of contrast map

    • 非局部信息类单帧型算法根据目标图像与背景/噪声图像在所占频段、数据空间等方面的不同,使用频域法、分类器法、超完备稀疏表示法、稀疏低秩分解法等将目标图像从整幅原始图像中分离出来。由于这类算法直接对整幅图像进行计算,并不关心目标在局部区域的显著性,因此可以在一定程度上解决邻域高亮背景对目标的淹没问题。

    • 频域法认为,原始红外图像中的背景部分通常是连续分布的,在频域应该占据低频部分;目标与局部背景之间有明显的不连续性,对应高频部分;噪声是完全随机的,对应最高频部分。如果能够将图像变换到频域,然后将目标频段滤出,或是将背景频段滤出并移除,即可比较方便地检测出目标。常见算法框图模型如图10所示。

      图  10  两种常见的频域检测法

      Figure 10.  Two kinds of common frequency-domain detection methods

      早期人们使用传统的傅里叶变换、高通/低通滤波器来进行频域滤波,例如,杨杰等[71]采用Butterworth高通滤波器对图像进行滤波,且滤波器的截止频率可根据图像中的信息熵自适应调节;Qi Shengxiang等[72]提出了一种基于四元数傅里叶变换的检测方法,该方法比传统的相位谱增加了3个信号通道,可供利用的信息更多,因而对复杂场景的鲁棒性较高;师亚飞等[73]对High-boost滤波器进行了改进,使平滑背景的滤波输出为0,小目标的滤波输出大于0,实际上相当于构建了一个高通滤波器;等等。

      随着小波变换与多分辨率分析研究的兴起,研究者们也开始采用基于小波分析的方法进行红外弱小目标的检测,例如,Gregoris等[74]将小波变换引入到红外小目标检测领域;吴一全等[75]提出了一种基于Contourlet变换的方法,在变换域中对背景频段进行抑制,对目标频段进行增强,以提高检测能力;Kong Xiangyu等[76]针对海天背景的红外弱小目标检测,提出可以用Haar小波分解得到的对角细节信息来帮助检测海天线;王鹤等[77]使用双树复小波对原始图像进行分解,并使用Top-hat算子对分解后的低频子带进行滤波,再对重构后的图像使用局部图像熵进行加权,从而提取出红外小目标;等等。

      从理论上看,频域法假设目标与各种类型的复杂背景所占据的频段不同,因此通过将原始图像变换到频域,即可有效地提取出真实目标。但是,它的主要局限在于,当图像中的背景比较复杂时,大量的背景边缘也包含一定的高频信息,它们在频域中可能与真实目标所占据的频段有一定的重合,此时使用频域法在理论上难以将复杂背景与真实目标成功区分开来。

    • 分类器法将红外弱小目标的检测看作是一个对所有像素点的二分类问题,通常需要先获取每个像素点的足够丰富的特征信息,然后根据这些特征信息,按照一定的原则,将每个像素点划分为目标像素点或背景像素点。常见的分类方法包括聚类、支持向量机、神经网络等(见图11)。其中,聚类通常是按照数据之间的关联性在特征空间上进行分类;支持向量机先将数据映射到高维特征空间,再在高维特征空间中寻找超平面对其进行分类;神经网络则是通过对核函数和支路传输增益等参数进行训练来实现分类。

      图  11  (a) 聚类;(b) 支持向量机; (c) 神经网络

      Figure 11.  (a) Clustering; (b) SVM; (c) Neural network

      分类器法的典型算法包括:郑胜等[78]先使用背景估计和差分获取可疑像素点,再使用聚类分析提取出可能的小目标;董夏斌等[79]首先提取图像中的兴趣点,然后根据兴趣点之间关联方式的不同,提出了一种新的R均值聚类法,将兴趣点划分为目标和背景两类;吴一全等[80]使用支持向量机在核空间中寻找分离目标和背景的最佳超平面,利用该超平面将像素分为背景和目标两类;周薇娜[81]选用了径向基神经网络和非线性自回归网络实现了单帧图像的红外目标检测;马旗等[82]使用YOLO(You Only Look Once)深度神经网络架构对红外与可见光双通道图像进行处理,以检测快速低空无人机目标;侯晴宇等[83]基于深度学习理论,提出了一种名为RISTDnet的卷积神经网络;戴一冕等[84]将LCM算法做成模块,然后嵌入整个卷积神经网络中;等等。

      随着机器学习理论的不断发展,分类器法在最近几年越来越受到研究者们的关注。但是,许多分类器法都属于有监督学习,需要使用大量目标样本和背景样本作为先验知识进行训练,而样本的获取往往比较困难,尤其是面对非合作目标的时候。同时,在多数情况下,分类器法的性能与所使用的具体样本也有一定关系,例如,通常只有样本与待测场景的数据满足独立同分布时,分类器法才能取得较好的效果,否则往往难以保证分类的准确性。这些约束条件在很大程度上限制了分类器法的实际应用。

    • 超完备稀疏表示法主要依据的是线性子空间理论。已知一个矢量可以分解成其他基矢量的线性组合:

      $$ A=[{\alpha }_{1},{\alpha }_{2},\mathrm{\cdots},{\alpha }_{P}]\left[\begin{array}{c}{k}_{1}\\ {k}_{2}\\ \mathrm{\cdots}\\ {k}_{P}\end{array}\right]=M\times k $$ (2)

      式中:A为任意的n维原始矢量(如果是待处理的数据是二维矩阵,可以先将其按行或按列拉成矢量);α1α2,…,αP为事先准备好的P个(P通常远大于nn维基矢量,也被称为原子,它们共同构成一个叫超完备字典的矩阵Mk1k2,…,kP为对应的线性组合系数,它们组成了系数矢量k。显然,这是一个未知数个数远大于方程个数的线性方程组,其求解是一个NP难问题,需要从无穷多组解中按照一定的原则寻找最合适的那一组解。

      如果原始矢量与超完备字典中的某几个原子关联度比较高,例如比较相似(严格的说法应该是原始矢量来自于由这几个原子矢量张成的子空间),则在进行线性分解时,这些原子对应的系数会比较大,而其他原子的系数会很小,系数矢量呈现明显的稀疏性;反之,如果原始矢量与字典中的所有原子均无关,系数矢量将不具备这种稀疏性。所以,人们通常以“系数矢量的稀疏性最大”作为最优解的选取原则,即

      $$ \mathop {\arg \min }\limits_{\boldsymbol k} {\left\| {\boldsymbol k} \right\|_0},s.t.{\boldsymbol A}= {\boldsymbol M} \times {\boldsymbol k} $$ (3)

      并采用贪婪算法、弱贪婪算法等进行超完备稀疏表示问题的求解。式中:||k||0表示系数矢量k的0范数,即k中非0元素的个数,用于度量k的稀疏程度。

      按照以上理论,赵佳佳等[85]首先使用几何形态与真实目标类似的二维高斯函数仿真生成一系列的目标样本,用这些样本作为原子构建超完备字典(如图12所示),然后将原始图像划分为尺度与样本相同的小块,对每个小块均采用字典进行分解,若发现某个小块的系数矢量比较稀疏,则认为该小块是包含小目标的,否则认为该小块只包含背景;韩金辉[86]提出先对字典构建其自相关的标准参照模型,然后将待测图像块与字典的互相关结果与标准参照模型进行差分,根据差分结果中是否存在异常来确定是否有弱小目标存在,这实际上是结合了匹配滤波的思想;何玉杰等[87]不仅关注了目标的数据特征,还关注了背景的数据特征,认为背景数据具有一定的非局部自相似性,应该是低秩的,因此他们提出了一种带低秩约束的超完备字典稀疏表示方法;Wan Minjie等先对原始图像使用频域算法[88]或粒子滤波[89]获得显著性图,然后再对显著性图进行超完备字典稀疏表示;Shi Zhen等[90]提出了一种并行稀疏表示方法,提高了求解效率;秦翰林等[91]和刘德鹏等[92]对目标和背景分别构建了超完备字典,并分别稀疏表示,这实际上与“组稀疏”理论十分接近;等等。

      图  12  使用二维高斯函数得到的部分字典原子

      Figure 12.  Some dictionary atoms obtained using 2D Gaussian function

      显然,在超完备稀疏表示法中,超完备字典往往需要利用目标特性和背景特性等先验知识进行构建,且其构建的准确性直接影响算法的检测性能。但是,当面对非合作目标时,先验知识的获取会比较困难。此外更普遍的问题是,实际应用中的真实场景和目标形态都是千变万化的,人们不可能构建出完全涵盖所有情况的字典,这限制了超完备稀疏表示法的通用性。

    • 稀疏低秩分解法认为,背景图像IB和目标图像IT来自不同的线性子空间,它们的特点有很大不同:背景图像具有一定的非局部自相似性,内部数据关联性比较高,因而背景图像IB的秩比较低,是一幅图像的主要成分;小目标的尺寸不大,在整幅图像中所占比例极小,所以目标图像IT应该非常稀疏,是一幅图像中的异常信息。因此,若能将一个原始图像矩阵在一定的最优化准则下拆分为一个秩尽可能低的矩阵、及一个稀疏度尽可能高的矩阵,即可实现背景部分与目标部分的分离,见公式(4):

      $$ \mathop {\arg \min }\limits_{{\boldsymbol L},{\boldsymbol S}} \{ r({\boldsymbol L}) + \lambda {\left\| {\boldsymbol S} \right\|_o}\} ,s.t.{\boldsymbol D} = {\boldsymbol L} + {\boldsymbol S} $$ (4)

      式中:D表示待处理的原始数据矩阵;L表示分解得到的低秩(Low rank)矩阵,通常为背景图像IBS表示分解得到的稀疏(Sparse)矩阵,通常将其看作是在低秩矩阵上叠加的一些异常信息,如目标、噪声等前景信息;r(L)表示L矩阵的秩;||S||0表示S矩阵的0范数,即S当中非0元素的个数,用于度量S矩阵的稀疏度(越小则稀疏度越高);λ为一个加权常系数,在迭代求解时作为惩罚因子使用。

      一般而言,直接以矩阵的秩和稀疏度为约束条件通常是一个非凸问题,求解非常困难,在实际应用当中,通常需要对公式(4)进行松弛以方便求解。考虑噪声和误差的影响后,最常见的松弛方法如公式(5)所示:

      $$ \arg \min \{ {\left\| {\boldsymbol L} \right\|_*} + \lambda {\left\| {\boldsymbol S} \right\|_1} + \frac{1}{{2\mu }}\left\| {{\boldsymbol D} - {\boldsymbol L} - {\boldsymbol S}} \right\|_F^2\} ,s.t.{\boldsymbol D} = {\boldsymbol L} + {\boldsymbol S} $$ (5)

      式中:||L||*表示L矩阵的核范数,即L矩阵的所有奇异值之和,用于逼近L矩阵的秩;||S||1表示S矩阵的1范数,即S中各元素绝对值之和,用于逼近S矩阵的稀疏度;|| ||F表示Frobenius范数,即矩阵中所有元素的平方和再开方,此处用于度量噪声和误差的影响;μ是另一个加权常系数。通常采用公式(5)思想的方法也被称为鲁棒性主成分分析法(Robust Principal Component Analysis,RPCA)[93],它相比传统的主成分分析法(Principal Component Analysis,PCA)具有更好的抗噪能力。

      完成松弛后,就可以构建相应的增广拉格朗日乘子函数,并通过迭代的方法近似求出低秩矩阵L(背景)和稀疏矩阵S(包含目标的前景)了[94]。常见的求解方法包括加速近端梯度算法(Accelerated Proximal Gradient,APG)、交替方向乘子法(Alternating Direction Method of Multipliers,ADMM)等。不同求解方法在收敛速度、求解准确性等方面有很大差异,但基本思想几乎都是在迭代过程中不断对矩阵进行奇异值分解,并逐渐将各奇异值向近0端调整(或称紧缩),以得到低秩的L和对应的S,直到算法收敛。

      相比同属于机器学习方法的分类器法、超完备稀疏表示法而言,以RPCA为代表的稀疏低秩分解法的一大优势在于其属于无监督学习类型,不需要关于目标和背景的先验知识,只要它们二者相互独立即可,这在大多数实际应用中都是可以满足的。因此,近年来,稀疏低秩分解法在红外弱小目标检测领域得到了越来越多研究者们的关注。按照数据组织方式的不同,可以将现有的稀疏低秩分解法分为图像矩阵法、图像块矩阵法和张量法等三类。需要注意的是,当图像中的背景比较复杂时,一些明显的背景边缘和角落处也具有一定的数据稀疏性,容易被错误地分解进入稀疏矩阵,影响下一步的目标检测。无论采用何种数据组织方式,这一问题都不容忽视。

      (1) 图像矩阵法:直接以原始图像矩阵I作为待处理的原始数据矩阵D,并对其进行分解。这种方法原理最简明,实现最容易。例如,张宝华等[95]直接使用RPCA算法对原始红外图像进行稀疏低秩分解,再使用引导滤波等方法进一步确定目标的具体位置;樊俊良等[96]先使用Butterworth高通滤波对原始图像进行处理,滤除部分背景干扰,再使用RPCA对滤波后的结果进行分解,进一步从稀疏前景当中寻找弱小目标;窦田玫等[97]先对原始图像进行多尺度高斯滤波,抑制部分杂波干扰,然后再对滤波后的结果做RPCA分解;等等。但是,从理论上看,如果原始红外图像中包含有一定的强背景边缘和噪声,由于边缘和噪声部分也存在一定的稀疏信息,很容易会被错误地分解进入稀疏前景部分,严重影响接下来对弱小目标的检测,如图13所示,此处使用的算法出自参考文献[94],并使用了其中的ADMM法进行求解。从数学上看,也可以这样理解:当背景比较复杂时,背景图像IB不再是低秩的,应用RPCA算法的数学前提不再成立,故检测效果会比较差。

      图  13  (a) 原始红外图像;(b) RPCA直接分解得到的低秩背景;(c) RPCA直接分解得到的稀疏前景

      Figure 13.  (a) Original infrared image; (b) Low-rank background obtained by RPCA; (c) Sparse foreground obtained by RPCA

      (2) 图像块矩阵法:先使用一定大小的窗口对原始红外图像进行遍历,在每个位置处,将得到的窗口块拉伸成一个列向量,并按顺序将所有这些向量组合成一个新的图像块矩阵,以该矩阵作为待处理的原始数据矩阵D,并对其进行分解、处理和检测(如图14所示)。由于图像中不同位置处的背景通常具有一定的自相似性,图像块矩阵的低秩性能一般要比原始图像更佳。同时,由于图像块之间存在一定的重叠,增加了数据的冗余度,从数学上看,相当于强背景边缘也具备了一定的低秩性,从而可以在一定程度上缓解背景边缘被错误分解进入稀疏前景的问题,有利于对弱小目标的检测。

      图  14  图像块矩阵的构建与分解

      Figure 14.  Construction and decomposition of image patch matrix

      高陈强等[98]最早提出图像块矩阵法后,这一思想迅速被许多研究者们认可和继承,并且人们针对背景边缘的错误分解问题做了很多进一步的改进。大部分工作集中在低秩背景部分,通过对公式(5)中的核范数进行修正,或增加一些正则化项,达到在低秩背景部分中保留背景边缘的目的。例如,戴一冕等[99]认为,背景边缘在图像中所占的比例相比真实目标要大,其对应的奇异值也较大,所以他们提出在每次对背景部分进行奇异值紧缩时,只对一些较小的奇异值进行紧缩,较大的奇异值则保持不变,以保留边缘;王晓阳等[100]认为,由于背景复杂多样,如果只假定背景来自一个子空间是不够的,应该假定其来自多个子空间,所以他们在目标函数中,使用矩阵的行1范数来代替核范数对背景部分的秩进行松弛,以适应复杂多变的背景,接着,他们又提出可以采用正则化思想来对分解结果进行约束[101],以得到想要的分解结果,于是背景部分的全变分(Total Variation,TV,也被称为全变差)被引入作为正则化因子,嵌入到目标函数中,以保留复杂背景边缘;等等。

      当前,该领域也有一些研究从稀疏前景部分着手,试图解决背景边缘的错误分解问题。例如,王传云等[102]针对目标尺度未知的难题,提出了多尺度图像块矩阵模型;李伟等[103]先使用对比度法求取原始红外图像显著性图,再对显著性图进行多尺度分解;戴一冕等[104]对稀疏前景部分的每一列引入不同的加权系数λ,越不像目标的列权重就越大,在迭代更新时受到的惩罚也越多,从而使背景边缘尽可能地进入低秩背景部分;进一步地,方厚章等[105]认为稀疏前景部分中灰度越大的像素越有可能是真目标,其他的应该是复杂背景干扰,所以他们对稀疏前景部分的每个像素都引入了不同的加权系数,灰度越小的像素权重越大,在迭代更新时受到的惩罚也越多,同样可以实现使背景边缘尽可能进入低秩背景部分的目的;朱虎等[106]提出使用熵来衡量稀疏前景部分的显著性,并将其嵌入目标函数中;等等。

      在一些最新成果中,部分研究者对稀疏和低秩的松弛条件展开了更深入的研究,使之更加适合红外弱小目标检测的应用实际。例如,Zhang Tianfang等[107]针对稀疏前景的松弛问题指出,使用1范数作为稀疏松弛条件容易陷入局部最优解,所以他们对稀疏前景采用了p范数来进行松弛,可以认为1范数是p范数在p=1时的一种特例,而p范数是1范数的推广;Zhou Fei等[108]则针对低秩背景的松弛问题,使用比核范数更为紧致的Schatten Quasi范数来作为低秩松弛条件,可以认为核范数是Schatten Quasi范数在p=1时的一种特例,而Schatten Quasi范数是核范数的推广;等等。值得注意的是,采用这些松弛近似后,新的目标函数通常不再是凸的,其求解也会变得更加困难。

      (3) 张量法:这类方法认为,图像内部相邻像素点数据之间具有一定的空间相关性,而图像块矩阵法中对每个图像块“拉向量”的做法会破坏这种空间相关性,造成检测性能的下降,因此,他们直接将每个图像块按照顺序进行堆叠,构成一个新的三维数据立方,并对这个三维数据立方在张量(Tensor)空间中进行分解。由于数据立方可以按xyz三个方向分别进行展开,所以它可以描述相邻像素点之间更多的空间相关性信息。实际上,也可以认为图像矩阵法和图像块矩阵法都只是张量法在某种情况下的特例,而张量法是图像矩阵法和图像块矩阵法的推广。戴一冕等[109]最先将张量概念引入红外弱小目标检测领域,在图像块矩阵的基础上提出了图像块张量,并且他们还提出在分解时以局部复杂程度作为加权反馈给稀疏前景部分,以确保复杂的背景边角被尽可能地分解到低秩背景部分;张祥越等[110]简化了图像块张量模型,略去了加权部分,也可以取得不错的效果;Zhang Landan等借鉴了图像块矩阵法中的部分研究成果,认为在图像块张量中,真实目标对应的奇异值是最小的,而背景边缘对应的奇异值较大,因此在对低秩背景部分迭代求解时,只紧缩较小的一些奇异值,而较大的奇异值保持不变,以尽可能地保留背景边缘[111],或者也可以针对稀疏前景部分,使用局部对比度进行加权,使稀疏前景部分中尽量只包含目标,而复杂的背景边角则尽可能地进入低秩背景部分[112];等等。

      总之,稀疏低秩分解法凭借其数学意义明确、无须先验知识等优势,在最近几年中吸引了许多研究者的目光。但是,从理论上看,当图像中的背景比较复杂时,一些背景边缘角落处和噪声点处也具有一定的数据稀疏性,容易被错误地分解进入稀疏矩阵,严重干扰真实目标的检测。虽然不少研究者从数据组织、正则化约束、奇异值加权等角度展开了一些研究,但这一问题仍然是影响该类算法检测性能的主要因素。

    • 概括地说,非局部信息类单帧型算法充分利用帧内所有信息进行弱小目标的检测,并不关心目标在局部区域的显著性,即使目标因为靠近高亮背景而变得不突出,也可以被成功分离出来,这相比局部信息类算法是一大优势。但是,目前提出的各种非局部信息类单帧型算法尚存在一些不足之处,有待进一步的研究和改进。例如,频域法假设目标与背景所占据的频段不同,但是当背景比较复杂时,二者的频段实际是有一定重合的,此时难以在频域将二者准确区分开来;分类器法大多需要大量的训练样本,但在红外弱小目标检测领域,样本的获取比较困难,尤其是面对非合作目标时;超完备稀疏表示法的性能取决于超完备字典的准确性,但是在实际中,人们不可能构建出能够涵盖所有情形的超完备字典;稀疏低秩分解法假设目标是稀疏的、背景是低秩的,但是当复杂背景存在时,背景边缘和噪声所在的位置也存在一定的稀疏信息,容易造成虚警;等等。

    • 与单帧型算法不同,多帧型算法综合利用空域-时域信息进行弱小目标的检测,并对目标在序列图像中的运动轨迹进行预测(亦称跟踪。在实际应用中,检测与跟踪通常不可分割)。当视场中存在某些与真实目标极其相似的干扰时(如碎云等),这类方法通常要比单纯的单帧型算法更加有效。

      目前的多帧型算法大致可以划分为两类,一是关联校验类,即先用单帧算法在每帧中求出若干可疑目标,然后利用目标运动轨迹的连续性,在多帧间进行检验,进一步排除假目标、提取真目标的运动轨迹,这种方法有时也被称为“跟踪前检测”(Detect Before Track,DBT)算法;二是直接求取类,即利用运动目标在时域中的灰度波动信息,直接在多帧间对目标进行提取,这种方法有时也被称为“检测前跟踪”(Track Before Detect,TBD)算法。

    • 关联校验类多帧型算法的基本思想是:在实际应用中,目标的运动轨迹一般是连续的,并且相邻帧之间的运动距离通常不会太远,可以考虑先在每帧中使用单帧算法求出若干可疑目标,再在多帧间对所有可疑目标进行关联校验,只有那些在连续若干帧中持续出现在同一位置附近的目标才被认为是真实目标,从而可以进一步排除复杂背景导致的虚警,提高检测性能。典型例子有:Wang Bin等[113]提出在时域中使用管道滤波器(Pipeline Filter)进行帧间联合校验,将某目标在相邻帧之间出现的位置距离作为该目标是否可信的依据;马天磊等[114-115]使用能量累积法进行目标轨迹校验,若某条路径上目标持续出现,则该路径被输出为目标轨迹;孙斌等[116]根据马尔可夫随机场理论,使用区域生长法对连续帧之间的运动目标轨迹进行分割;娄康等[117]、李忠民等[118]通过卡尔曼滤波对下一帧的目标位置进行预测,并与实际位置进行对比校验,最终提取出目标轨迹;Zhang Xiaomin等[119]使用粒子滤波对目标轨迹进行追踪;等等。

      从理论上看,关联校验类算法可以被认为是在单帧型算法的基础上增加了一个时域校验的后处理环节,属于空时结合算法的一种,其主要优势在于算法思想比较容易理解,实现起来一般也并不困难。另外,这类算法对目标出现的位置进行了持续的检测、预测、校验等,本质上相当于在对目标运动的轨迹进行跟踪,这在实际应用中具有非常重大的意义。并且,在跟踪过程中,即使目标在个别帧中被障碍物遮挡,也可以很方便地依据前后文进行补强。但是,关联校验类算法的性能在很大一部分程度上取决于前置单帧型算法自身的检测性能,若单帧型算法的性能十分不佳(例如出现了大量漏检等),即使追加后续的时域关联校验环节,也难以有效提升最终的检测性能,甚至有可能会出现校验后的性能反而比校验前还要更差的情况。

    • 当探测器视场中的背景内容相对固定而目标持续运动时,图像中有目标经过的像素点与其他像素点在时域中的灰度波动形态有很大不同,其中,目标像素点在连续若干帧中具有比较明显的峰状波动,而其他类型像素点的变化一般比较平缓。根据这些不同,一些研究者提出可以在多帧间对目标进行检测。这类研究主要包括以下几种思路:一,直接在三维数据空间中,根据目标的运动信息对其运动轨迹进行搜索;二,对每个像素点记录其在连续多帧中的灰度值,得到一维数据,并使用一维处理方法求取其中的异常波动信息;三,在连续帧之间求差分,消除固定背景,提取运动目标;四,将某些单帧型算法推广到时域,构建空时结合新算法。

    • 三维搜索法通常将探测器获取的连续若干帧图像堆叠形成一个三维数据立方,并直接在三维数据空间中根据目标的运动信息对其轨迹进行搜索。例如,Reed等[120-121]将匹配滤波器的思想推广到三维,提出了三维匹配滤波器(3D-matched Filter)的概念,在已知目标的运动方向和运动速度时,检测性能较好;Choi等[122]将目标在三维空间中的运动轨迹投影到二维平面,以简化运算,并对目标位置的预测提出了一些建议;Barniv等[123-124]将动态规划(Dynamic Programming)理论引入红外小目标检测领域,其基本思想是按照时间顺序对红外图像序列划分阶段,每帧红外图像中又按照像素点间的联系划分为若干状态,最后按照递归的方法对可能的目标轨迹进行跟踪,得到小目标的轨迹;等等。

      从理论上看,三维搜索法根据目标运动信息进行目标轨迹检测,可以同时获取目标的运动轨迹和每帧中的位置。但是,三维搜索法通常需要目标的运动方向和运动速度等作为先验条件,然而在实际应用当中,目标的运动信息通常是未知的,此时使用这些方法往往需要进行全时空搜索,将耗费大量计算,实时性难以保证。

    • 一维处理法一次只关注一个像素点在连续若干帧之间的灰度信息,利用目标像素点与其他像素点在时域中的波动信息差异,对目标像素点与其他像素点进行区分。例如,Silverman等[125]提出了一种递归时域滤波器,以连续的时域方差为依据,检测时域中的波动目标,该方法为Sun Xiechang等[126]采纳并改进;武斌等[127]提出了一种基于时域幂法则的检测方法,可以有效提取时域中的异常灰度波动信息,确定目标像素点;Bae等[128]提出可以对每个像素点的灰度值在时间域上采用时域内积的方式求出小目标所在的位置;刘德连等[129-130]在时域中对每个像素点提出了一种名为停滞点连线的概念,并以之为基准,计算每个像素点的灰度与基准之间的差值,以提取波动目标;等等。

      从理论上看,一维处理法化三维处理为一维处理,通常计算更方便,且并行性好,有助于实现实时检测。但是,当探测器视场中存在运动背景或固定目标时,这类方法将失效。

    • 帧间差分法认为相邻帧之间的背景部分是固定不变或变化很小的,而运动目标在相邻帧之间出现的位置有较大改变,因此使用相邻帧进行差分,即可将背景部分消除,得到小目标。例如,Kim等[131]使用相邻帧的差分来消除固定不动的背景,提取灰度出现波动的目标;Hsieh等[132]对相邻帧差分后的残余噪声进行了分析,认为噪声符合高斯分布,因此通过阈值法提取出残差中不符合高斯分布的可疑目标;屈晶晶等[133]使用连续5帧之间的差分,利用的信息更多;Liu Jin等[134]使用迭代的方法,对早前的一些帧引入遗忘因子,以提高背景消除的准确性;高金燕等[135]将相邻帧差分的思想与单帧内的空域对比度信息相结合;等等。

      从理论上看,帧间差分法的思想比较简单,便于理解和实现。但是,帧间差分法同样只适用于背景固定、目标运动的场景,而当探测器视场中存在运动背景或固定目标时,帧间差分法将失效。

    • 除上述提到的各类方法外,近年来还有一种研究趋势值得关注,那就是将一些单帧型算法的思想推广到时域,构建空时结合新算法,综合利用多帧信息进行目标检测。比较典型的例子有空时局部对比度法和空时张量法等。

      在对比度领域,Li Yansheng等[136],邓丽珍等[137],Du Peng等[138],庞栋栋等[139],以及Uzair等[140]将空域局部对比度算法推广到时域,各自分别提出了一种将空域对比度与时域对比度相结合的算法,利用空时联合对比度信息提取目标。

      在最近的一些张量研究中,也有一部分研究者直接将连续若干帧图像进行堆叠,构建空时张量,例如,Sun Yang等[141]在构建空时张量后,对低秩背景部分引入了全变分正则化,以确保背景边缘能够正确地分解进入低秩背景部分;张萍等[142]以局部复杂度作为空时张量中稀疏前景部分的加权参数,使背景边角尽可能进入低秩背景;朱虎等[143]使用形态学滤波结果对空时张量中的稀疏前景部分进行加权;等等。

    • 从理论上看,直接求取类算法的优势在于利用了多帧图像的信息直接在时域求取目标,故其检测性能一般会比较好。并且,在一些情况下,目标位置和目标运动轨迹可以同时被确定。

      但是,这类算法往往需要联合前后若干帧的信息才能实现对当前帧的检测,导致目标输出有一定的滞后性。同时,由于需要考虑的信息较多,多帧型算法通常具有比较庞大的计算量,所需的存储空间也比较多,实时性一般也不佳。并且,这类算法通常只适用于一些目标运动而背景相对比较固定的场合,而当视场中存在静止的目标或者明显运动的背景时,一些直接求取类算法的检测性能将会急剧下降,甚至完全失效。此外,一些算法需要将目标的运动方向、运动速度等信息作为先验知识,但实际应用中的目标多为非合作目标,无法获取这些先验知识。甚至,目标的运动状态还可能是时变的,比如目标相对探测器迎头飞时,位移速度很小,而当目标改为垂直光轴飞的时候,其位移速度会变得很快,这也会给某些多帧方法的应用带来很大困难。

    • 在现有材料科学和成像手段的制约下,复杂背景下的红外弱小目标检测一直是一项具有挑战性的研究,吸引了众多学者不断地提出更新颖、更先进的方法。表1对前文提到的不同类型算法的一些典型示例及现有研究的主要改进方向进行了汇总,表2则对各型算法的优点及存在的主要缺陷进行了汇总。

      表 1  不同类型算法的典型示例及现有研究的主要改进方向

      Table 1.  Typical examples of different types of algorithms and main improvements of existing research

      MethodsTypical algorithmsResearch trends
      Single-frame methods Methods on based local information Background estimation Median filtering;
      Max-mean filtering;
      Max-median filtering;
      TDLMS adaptive filtering, etc
      From simple traditional filtering methods to adaptive filtering methods (such as TDLMS, etc.)
      Morphological methods New tophat, etc. 1. Design more appropriate structural windows;
      2. Use other information (such as local significance, local entropy, etc.) for weighting
      Directional derivative/ gradient methods Directional derivative;
      High order directional derivative;
      Gradient, etc.
      1. Obtain the directional derivative using facet kernel;
      2. Introduce higher derivative;
      3. Combined with other methods (such as contrast), etc.
      Local contrast Difference-form LCM;
      Ratio-form LCM;
      Ratio-difference LCM, etc.
      1. Transition from difference type or ratio type to ratio-difference joint type;
      2. Improve the calculation window;
      3. Use more information (such as local entropy, local signal to clutter ratio, etc.) as the weighting function;
      4. Combined with other types of algorithms (such as frequency domain algorithm, background estimation algorithm, etc.)
      Methods based on nonlocal information Frequency-domain methods High pass filter;
      Low pass filter;
      Fourier transform;
      Wavelet transform, etc.
      1. Transition from simple Fourier transform and high/low pass filter to wavelet analysis;
      2. Combined with other types of algorithms (such as morphological methods)
      Classifier Clustering;
      Support vector machine;
      Neural network, etc.
      1. Optimize classification parameters (such as distance threshold in clustering algorithm, mapping method in support vector machine, etc.);
      2. Design a more suitable classification network (mainly for neural network method);
      3. Combined with other types of algorithms (such as the combination of depth network and contrast algorithm)
      Over complete sparse representation Sparse representation;
      Group sparse representation, etc.
      1. Construct an appropriate over complete target dictionary;
      2. Construct the over complete dictionary for the target and background respectively;
      3. Combined with other types of algorithms (such as frequency domain algorithm, etc.)
      Sparse and low-rank decomposition
      (mainly refers to RPCA)
      RPCA for image matrix;
      RPCA for image patch;
      RPCA for tensor, etc.
      1. Improve the data organization method (from image matrix to image patch or tensor);
      2. Improve the relaxation conditions (from simple 1-norm, nuclear norm to more complex relaxation conditions);
      3. Introduce regularization factors (such as total variation);
      4. Improve the iterative solution process (such as protecting large singular values, or introducing weighting factors, etc.)
      5. Combined with other types of algorithms (such as contrast algorithm, etc.)
      Multi-frame methods Associated checking Single-frame detection first, then correlation check between multi frames Pipeline filtering;
      Energy accumulation;
      Markov theory;
      Kalman filtering;
      Particle filter, etc.
      From simple energy accumulation and time-domain verification to more complex verification theories and methods, such as Markov theory, Kalman filter, particle filter, and so on
      Directed calculation 3D search 3D matched filter;
      Dynamic programming, etc.
      From simple time-domain calculation (such as 3D matched filtering, dynamic programming, temporal variance, temporal difference, etc.) to spatial-temporal joint calculation (such as spatial-temporal contrast, spatial-temporal tensor, etc.)
      1D processing Temporal variance;
      Temporal power law;
      Temporal inner product;
      Temporal profile, etc.
      Inter-frame difference Difference between two adjacent frames;
      Difference between multi adjacent frames, etc.
      Spatial-temporal methods Spatial-temporal local contrast;
      Spatial-temporal tensor, etc.

      表 2  不同类型算法的优势及存在的缺陷

      Table 2.  Advantages and disadvantages of different types of algorithms

      MethodsAdvantagesDisadvantages
      Single-frame methods Methods based on local information Background estimation 1. The principle and the calculation are both simple;
      2. It is in good agreement with imaging theory
      When the background is very complex, it is easy to get an inaccurate estimation
      Morphological methods The structural window can be designed according to the characteristics of the target to improve the detection performance When the target is very weak, it is easy to erase the target by mistake
      Directional derivative/
      gradient methods
      It expands the characteristics of target and background, and makes it easier to distinguish them The mathematical definition is strict, so it is difficult to design the formula
      Local contrast 1. The definition is flexible and the formula can be designed pertinently;
      2. Target enhancement and complex background suppression can be considered simultaneously;
      3. The principle is simple and easy to implement
      It is required that the target must be the most prominent locally, otherwise it cannot be detected (for example, when the target is close to the highlighted background)
      Methods based on nonlocal information Frequency-domain methods It is a transform domain algorithm with complete theory and clear physical meaning When the background is very complex, the complex background also contains high-frequency information, which is easy to interfere with target detection
      Classifier 1. It belongs to machine learning algorithm, and has strong adaptability;
      2. The target is not required to be the most prominent locally.
      1. Prior knowledge is generally required (training samples are required);
      2. It is required that the samples and the data to be tested are distributed in the same way
      Over complete sparse
      representation
      1. It belongs to machine learning algorithm, and has strong adaptability;
      2. The target is not required to be the most prominent locally.
      1. Prior knowledge is generally required;
      2. It is impossible to build a dictionary that covers all situations
      Sparse and
      low-rank decomposition
      (mainly refers to RPCA)
      1. It belongs to machine learning algorithm, and has strong adaptability;
      2. The target is not required to be the most prominent locally.
      3. No prior knowledge is required
      When the background is very complex, some background edges and noise are easily incorrectly decomposed into sparse matrix to interfere with target detection
      Multi-frame methods Associated checking Single-frame detection first, then correlation check between multi frames Multi frame information can be used to further eliminate false targets The detection performance largely depends on the detection results of single-frame algorithm
      Directed calculation 3D search The target position and target trajectory can be determined at the same time The motion information of the target should be taken as a priori knowledge
      1D processing 1. The principle is simple and easy to implement
      2. Good parallel ability
      Only applicable to the scenes of fixed background and moving target
      Inter-frame difference The principle is simple and easy to implement Only applicable to the scenes of fixed background and moving target
      Spatial-temporal methods Using multi frame information to achieve good detection performance 1. Only applicable to the scenes of fixed background and moving target
      2. Large amount of calculation and output lag

      展望未来,红外弱小目标检测研究领域呈现出以下发展趋势:

      (1) 空时结合类算法越来越受关注,例如空时对比度法、空时张量法等都是空时结合类算法中值得注意的研究方向。从前文中的内容可以看到,目前研究者们的工作主要集中在单帧型算法方面,而多帧型算法方面的工作相对较少。但是,单帧型算法只利用了单帧图像内的空域信息,对于目标的时域运动信息利用不足,而空时结合类算法综合利用了帧间信息,可以在复杂真实场景下有效地辅助目标检测。即使目标在个别帧中出现被遮挡的情况,也能根据前后帧推测出目标所在的位置。因此,最近几年来空时结合类算法越来越受到研究者们的关注。

      但是,使用空时结合类算法时需要重点注意几个问题:1) 当视场中的背景变化剧烈时,必须先对连续帧图像进行配准,方能进行下一步的检测,而图像配准的质量将直接影响检测效果,因此红外弱小目标检测领域的图像配准有可能成为新的研究热点之一;2) 小目标在实际应用中的尺度、速度等信息可能各不相同,其时域运动信息也是复杂多变的,有必要将更多的运动信息纳入模型中(例如开展时域的多尺度检测研究等),提高检测方法的泛化能力;3) 由于空时结合类算法往往需要用到前后多帧信息,数据量、计算量都比较大,其输出可能会有一定的滞后性,难以满足一些高分辨率、高帧频且要求实时处理的应用需求,因此,在理论上提高算法的并行处理能力,并在工程实践中针对算法进行流水线处理和并行加速,也是值得研究的内容。

      (2) 多特征融合、多方法结合的趋势越来越明显[144]。从前文及表1中的总结中可以看到,目前许多研究方向的研究者们都在探索将该领域的研究算法与其他类型的算法相结合以求取得更好的检测性能,甚至还有一些研究者[145]从多波段图像(如可见光图像与红外图像)的配准和融合等角度出发,提高目标检测的成功率。总的来看,目前的结合型方法大多可以归为两类,并联型结合与串联型结合。

      并联型结合的理论依据是复杂背景在不同方面的特征存在着一定的不重合性,某些复杂背景虽然具有比较明显的A特征,但其B特征却并不突出。因此,使用不同方法分别对原始图像提取A、B两种特征,再对二者的结果进行与、或、相加、相乘(即加权)等运算,即可起到抑制复杂背景、提高检测性能的效果。例如,参考文献[29]中提到的以方向导数作为局部对比度信息的加权,就是一种典型的并联型结合思想(其他还有很多,不一一列举)。

      串联型结合的思想也是利用多种方法对原始图像进行处理,与并联型不同的是它们将不同方法按某种次序依次使用。例如,在参考文献[69]中,先计算得到原始图像的局部梯度,再对梯度图计算局部对比度,就是一种很典型的串联型结合思想,与参考文献[29]中明显不同。

      无论是并联型结合还是串联型结合,其结合思想都比较简单,实现起来一般也不难。但是,由于它们通常将不同类型的算法作为孤立模块来使用,并未对不同算法内部的深层原理做深入挖掘,因而难以充分实现不同类型算法的优势互补。在未来的研究中,如何实现不同类型算法的“嵌入式”有机结合,达到优势互补,以更好地提高最终检测性能,是非常值得关注的一个方向。

      以局部型算法中的局部对比度法为例,它假设目标在局部是最突出的,所以通过提取图像中的局部对比度即可找出目标。然而当目标靠近高亮背景时,目标在局部将不再是最突出的,此时使用局部对比度法往往检测失败。再比如非局部算法中的RPCA算法,它假设目标和背景的特征不重叠,其中目标是稀疏的、背景是低秩的,因此通过对原始数据进行稀疏低秩分解,即可分离目标和背景。然而当视场中的背景非常复杂时,大量边缘和噪声也具有一定的稀疏性,会干扰检测。但是,这两种算法的优缺点恰好是互补的,如果能够将二者相互嵌合,构建新的算法,则有可能可以弱化单一算法的假设条件,使得当这些假设失效时,算法仍能准确找出目标。一个比较可行的思路是,如果能够以RPCA分解得到的低秩背景作为参照,与原始红外图像进行对比度信息的计算,则可以避免小目标被周围高亮背景淹没的问题;而RPCA分解可能带来的背景边缘、噪声等残留,则可以通过对比度计算时引入方向性和求平均等简单操作来进行抑制。

      (3) 基于机器学习或者深度学习网络的方法逐渐成为研究热点。随着近年来机器学习理论的兴起和不断发展,基于模型或数据驱动的检测方法得到了很多关注,一些研究者开始尝试使用机器学习的方法来解决红外弱小目标检测的问题。例如,前文所述的分类器法(包括聚类、支持向量机、神经网络等)、超完备稀疏表示法(稀疏表示、组稀疏表示等)、稀疏低秩分解法(图像矩阵法、图像块矩阵法、张量法等)等方法都可以被归为机器学习型算法。

      特别值得注意的是神经网络类算法中的深度学习理论。近年来随着卷积神经网络(Convolutional Neural Network,CNN)的性能被不断挖掘,基于深度学习的方法逐渐成为新的研究热点,目前已经在数据挖掘、自然语言处理、多媒体学习等领域都取得了很多成果。大体上,可以将现有的深度学习目标检测方法划分为两阶段和单阶段两大类。两阶段的方法主要以R-CNN(Region-CNN)[146]及其衍生算法为代表,但它们在速度和效率上存在瓶颈。单阶段的方法以YOLO[147]等算法为代表,主要针对速度和效率问题进行了专门的改进。一些研究者选择将这些现有成果直接(或略加改进)移植到红外弱小目标检测领域当中,也取得了不错的效果。特别是在某些综合了不同场景(比如既有天空又有建筑)的图像中,深度学习方法通常可以取得比传统算法更好的检测性能。

      但是,使用深度学习理论进行红外弱小目标检测也有一些值得注意的地方:

      首先,深度学习方法通常需要一定数量的样本对模型进行训练,而在红外弱小目标检测领域,由于应用范围比较敏感,目前尚未出现被广泛采用的、具有高质量标注的红外小目标检测数据集,研究者们往往面临训练数据稀少的问题(尤其是当面对非合作目标时)。因此,研究小样本下的检测网络会有较高的价值。值得关注的问题一个是如何对现有样本进行合适的增广,合理地扩充训练样本;第二个是必须对小样本带来的过拟合问题给予足够重视,提高算法的泛化能力。

      其次,深度学习型算法虽然检测性能较好,但普遍存在实时性欠佳的问题,在高性能GPU上尚未实现实时处理,对于计算资源有限(如弹载平台)的场合更是难以应用,因此,有必要通过网络剪枝及知识蒸馏等方法有针对性地设计专门的轻量化网络,而非直接移植其他领域的现有成果。这方面的专门研究目前还不是很充分,但前景可期。

      最后,在深度卷积网络中通常通过堆叠网络、缩减特征图尺寸的方式来增大感受野(Receptive Field),进而提取更多的语义特征,以提升对全局图像场景中的高层语义的理解能力。但是,一方面,这会导致语义特征提取与目标尺寸之间存在矛盾,红外弱小目标的语义特征极易随着网络层数堆叠而消失,这一点需要研究者们给予足够重视。另一方面,这也导致中间层的信息迭代过程往往是隐藏的,所获取的深度特征通常缺乏可解释能力,在未来工作中,研究者更倾向于将传统特征与深度特征相结合,从而增强深度学习算法的可解释性。

      四、需要重视正演与反演相结合的思想,成像过程的理论建模在检测中的重要性将逐渐上升。随着红外弱小目标检测研究的进一步深入,检测算法的求解变得越来越困难。尤其是在机器学习(包括深度学习)领域,尽管人们已经提出了包括梯度下降法、加速近端梯度法、交替方向法等一系列求解方法,想要准确求出最佳的结果仍然非常困难,最大的难题在于实际当中往往存在多解性问题,使用现有求解算法很容易陷入局部最优解,而非全局最优解。

      针对这一问题,采用正演与反演相结合的思想将是一个比较可行的解决方法。首先采用正演方法,根据目标、背景、信道、探测器等的物理特性对成像过程进行理论建模。在检测阶段,也就是反演阶段,可以使用正演阶段获取的一些信息对算法的求解过程进行一定的指导和修正,从而减少多解性问题,提高解的可靠性。但是,在目前的工作中,针对不同场景下红外弱小目标成像过程的理论建模研究比较稀少,而使用正演与反演相结合的思想进行红外弱小目标检测的研究更少,这也是未来工作当中非常值得关注的一个方向。

    • 复杂场景下的红外弱小目标检测具有非常重大的理论意义和实际应用价值,但受目标弱小和背景/噪声复杂等因素的影响,要实现高检测率、低虚警率和高实时性的红外弱小目标检测一直是一项非常有挑战性的工作。文中将现有的红外弱小目标检测算法划分为单帧型算法和多帧型算法两大类,每一大类下又按照检测原理划分为若干子类,并对它们分别进行了简要的梳理,分析了不同类型检测算法的原理、优势及不足。最后,文中还对此领域的未来发展趋势做出了一定的预测。文中的工作既可以帮助初学者快速了解和掌握本领域的研究现状和发展方向,也可以作为其他研究者的重要参考资料。

      致 谢

      在撰写过程中,承多位同仁审核并提出了宝贵修改意见,在此一并致以最诚挚的谢意,他们包括(排名不分先后):西安电子科技大学方厚章老师,陕西师范大学辛云宏教授,北京航空航天大学白相志教授,南京航空航天大学戴一冕博士,浙江大学夏超群博士,重庆大学李正周教授、李永松博士,重庆邮电大学高陈强教授,中国科学院沈阳自动化研究所张祥越博士,南昌航空大学王忠华教授,内蒙古科技大学张宝华教授,火箭军工程大学卢瑞涛老师,中国科学院武汉物理与数学研究所邓鹤研究员,南京邮电大学朱虎教授,北京理工大学庞栋栋博士,郑州大学马天磊老师等。

参考文献 (147)

目录

    /

    返回文章
    返回