Volume 49 Issue 7
Jul.  2020
Turn off MathJax
Article Contents

Wang Tengfei, Chen Yonghe, Fu Yutian. Infrared light field relay imaging system based on micro field lens array[J]. Infrared and Laser Engineering, 2020, 49(7): 20190548. doi: 10.3788/IRLA20190548
Citation: Wang Tengfei, Chen Yonghe, Fu Yutian. Infrared light field relay imaging system based on micro field lens array[J]. Infrared and Laser Engineering, 2020, 49(7): 20190548. doi: 10.3788/IRLA20190548

Infrared light field relay imaging system based on micro field lens array

doi: 10.3788/IRLA20190548
  • Received Date: 2020-04-10
  • Rev Recd Date: 2020-05-02
  • Available Online: 2020-07-23
  • Publish Date: 2020-07-23
  • Light field imaging is a method of imaging by acquiring light field information and refocusing on a specific plane. With the limitation of the light field camera structure, the detector is generally modified to achieve coupling of the microlens array and the detector. It is not applicable to infrared light field cameras. To this end, a novel structure of a micro field lens array combined with a relay lens was proposed. This new structure utilized a relay lens to image the intermediate image plane at a 1:1 ratio and eliminated the vignetting of the relay lens through the micro field lens array. The modulation transfer function curve of the system was calculated by the slanted edge method. The image quality of direct coupling, relay lens coupling and new structure coupling were compared. According to different refocus planes, the curve value of the new coupling structure at Nyquist frequency was increased by 5%-240% compared with that of the relay lens coupling structure. It was close to the curve value of the direct coupling structure. The new structure can realize coupling and avoid the sharp decrease of system image quality. It plays an important role in the infrared field camera.
  • [1] Ng R, Levoy M, Brédif M, et al. Light field photography with a hand-held plenoptic camera [J]. Computer Science Technical Report, 2005, 2(11): 1−11.
    [2] Zhang W, Chang S, Tao X, et al. Three dimensional reconstruction using a lenslet light field camera[C]//Applications of Digital Image Processing XLI. International Society for Optics and Photonics, 2018, 10752: 1075209.
    [3] Overbeck R S, Erickson D, Evangelakos D, et al. A system for acquiring, processing, and rendering panoramic light field stills for virtual reality[C]//SIGGRAPH Asia 2018 Technical Papers. ACM, 2018: 197.
    [4] Zhang C, Hou G, Zhang Z, et al. Efficient auto-refocusing for light field camera [J]. Pattern Recognition, 2018, 81(9): 176−189.
    [5] Liu Y, Hossain M M, Sun J, et al. Investigation and optimization of sampling characteristics of light field camera for flame temperature measurement [J]. Chinese Physics B, 2019, 28(3): 034207. doi:  10.1088/1674-1056/28/3/034207
    [6] Zhou Zhiliang. Research on light field imaging technology[D]. Hefei: University of Science and Technology of China, 2012.
    [7] Georgiev T G, Lumsdaine A. Focused plenoptic camera and rendering [J]. Journal of Electronic Imaging, 2010, 19(2): 021106. doi:  10.1117/1.3442712
    [8] Adelson E, Wang J. Single lens stereo with a plenoptic camera [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 1992, 14(2): 99−106. doi:  10.1109/34.121783
    [9] Qi J C, Liu B, Zhang M, et al. New design of light field camera based on optic fiber plates[C]//Fifth Symposium on Novel Optoelectronic Detection Technology and Application. International Society for Optics and Photonics, 2019, 11023: 1102322.
    [10] Burns P D. Slanted-edge Mtf for digital camera and scanner analysis[C]//Is and Ts Pics Conference, Society for Imaging Science & Technology, 2000: 135-138.
  • 加载中
通讯作者: 陈斌, bchen63@163.com
  • 1. 

    沈阳化工大学材料科学与工程学院 沈阳 110142

  1. 本站搜索
  2. 百度学术搜索
  3. 万方数据库搜索
  4. CNKI搜索

Figures(6)  / Tables(4)

Article Metrics

Article views(671) PDF downloads(95) Cited by()

Related
Proportional views

Infrared light field relay imaging system based on micro field lens array

doi: 10.3788/IRLA20190548
  • 1. Key Laboratory of Infrared System Detection and Imaging Technology, Chinese Academy of Sciences, Shanghai 200083, China
  • 2. Shanghai Institute of Technical Physics, Chinese Academy of Sciences, Shanghai 200083, China
  • 3. University of Chinese Academy of Sciences, Beijing 100049, China

Abstract: Light field imaging is a method of imaging by acquiring light field information and refocusing on a specific plane. With the limitation of the light field camera structure, the detector is generally modified to achieve coupling of the microlens array and the detector. It is not applicable to infrared light field cameras. To this end, a novel structure of a micro field lens array combined with a relay lens was proposed. This new structure utilized a relay lens to image the intermediate image plane at a 1:1 ratio and eliminated the vignetting of the relay lens through the micro field lens array. The modulation transfer function curve of the system was calculated by the slanted edge method. The image quality of direct coupling, relay lens coupling and new structure coupling were compared. According to different refocus planes, the curve value of the new coupling structure at Nyquist frequency was increased by 5%-240% compared with that of the relay lens coupling structure. It was close to the curve value of the direct coupling structure. The new structure can realize coupling and avoid the sharp decrease of system image quality. It plays an important role in the infrared field camera.

  • 光场成像技术是近年来的研究热点,国内外对于光场相机及其应用的研究有了不少进展。光场成像可实现数字重聚焦[1]、深度计算、三维成像[2]等功能。在显微成像、虚拟现实[3]、计算机视觉[4]、人脸识别、火场温度预警[5]等领域,光场成像都有不小的应用前景。

    光场成像是一种先采集光场信息后进行重聚焦计算的成像方法。在相机主透镜的焦面附近设置一片微透镜阵列,即可实现光场信息的采集。对于微透镜阵列型光场相机,微透镜焦距较小,可能导致光学系统的后工作距过小而无法与带有保护窗的探测器相匹配,往往需要对探测器进行复杂的封装改造[1,6]。这种情况在红外系统中更为严重,特别是对于背照式探测器,甚至无法通过改造探测器来满足微透镜与探测器的耦合要求。除了改造探测器,另有其他方法可实现微透镜阵列与探测器的耦合。Georgiev等[7]提出聚焦光场相机,主透镜所成的像与探测器关于微透镜阵列成共轭关系,其设计的微透镜阵列焦距为1.5 mm,系统的后工作距较大,无需改造探测器。Adelson等[8]在微透镜阵列与探测器之间引入了中继透镜,以此克服系统后工作距过小的限制。Qi等[9]利用光纤板实现微透镜和探测器的耦合,并起到保护探测器的作用。

    文中设计了新型的红外光场相机结构。通过中继透镜系统耦合微透镜阵列与探测器。为改善中继透镜带来的严重的渐晕效应,设计中增设了一片微场镜阵列置于微透镜阵列后。微场镜阵列与中继透镜的组合可以使得光场成像光学系统与探测器实现较好耦合的同时,改善渐晕,又可将微透镜边缘质量较差的光线滤除。这种结构较为适合微透镜型红外光场相机。

    • 微透镜型光场相机主要由主透镜、微透镜阵列以及探测器构成,如图1所示。微透镜阵列置于主透镜的像面上,探测器面置于微透镜阵列的焦面上。场景中物面与微透镜阵列面关于主透镜成物像共轭关系;由于主透镜出瞳与微透镜阵列之间的距离远大于微透镜的焦距,主透镜出瞳与探测器面关于微透镜阵列成物像共轭关系。场景中物点发出的光线会聚在其对应的像上,而后经过微透镜,不同方向的光线会入射在微透镜下不同的像素点上,从而记录下光线的方向信息。

      Figure 1.  Structure diagram of light field camera

    • 图2所示,根据光线的直线传播理论,给定两个平行平面,平面上的任意两点即可确定某条光线。将平行平面上的两个点坐标联合表示,即某一条光线可表示为$L\left( {u,v,s,t} \right)$

      Figure 2.  Biplane parametric representation of four-dimensional light field

      若以$\left( {s',t'} \right)$表示像面,像面上的辐照度分布$\overline E \left( {s',t'} \right)$,为光线对方向的积分,即

      对于光场相机,某一深度的辐照度分布也可通过公式(1)计算。如图3所示,以$\left( {u,v} \right)$$\left( {s,t} \right)$分别表示出瞳面和微透镜阵列面的坐标,则某一条光线可表示为$L\left( {u,v,s,t} \right)$,这条光线与重聚焦面相交于$\left( {s',t'} \right)$,因此这条光线也可表示为$L'\left( {u',v',s',t'} \right)$,其中$u = u'$$v = v'$,即

      Figure 3.  Schematic of refocusing

      图3中的几何关系,可得出$s = u' + \dfrac{{s' - u'}}{\alpha }$$t = v' + \dfrac{{t' - v'}}{\alpha }$$\alpha $为重聚焦平面与出瞳面的距离与微透镜阵列面与出瞳面的距离之比,下文中称之为重聚焦比。将公式(1)改写为:

      通过公式(3)即可实现光场相机的重聚焦成像。

    • 对于微透镜阵列与探测器的耦合问题,直接耦合一直是最为常见的方式。但是这种方式并不适用于红外光场成像系统。中继透镜是实现微透镜阵列与探测器之间耦合的另一种方式,即通过中继透镜将微透镜阵列的焦面成像到探测器面上。由于中继透镜的孔径有限,因此中心区域附近微透镜的边缘光线以及边缘区域微透镜的大部分光线都可能无法通过中继透镜的孔径,造成极为严重的渐晕,如图4(a)所示。

      Figure 4.  Contrast diagram of relay lens vignetting. (a) Without micro field lens array; (b) with micro field lens array

      光线在中继透镜上的入射高度过大是造成渐晕的原因。在光场成像系统中,每个微透镜对主透镜的出瞳成像,其具有一定大小的视场。中继透镜与微透镜之间的距离较大,导致了某些微透镜视场内的光线在中继透镜的入射高度过大,无法通过中继透镜,即产生了渐晕。在微透镜的视场内,每一个像素点都与出瞳的某一个区域成物像关系,包含着这一条光线的角度信息。中继透镜对视场内的光线发生遮挡,那么采集到的光场信息就会缺失一部分角度信息,导致重聚焦计算后的图像像质下降。因此,若要采用中继透镜实现微透镜阵列与探测器的耦合,必须改善中继透镜的渐晕效应。Adelson等[6]提出在微透镜后的中间像面上放置一片材料为毛玻璃的平行平板,使微透镜视场内的光线漫射,以此改善中继透镜的渐晕。这种设计结构虽然可在一定程度上减弱渐晕,但会严重衰减最后到达探测器的光线强度。对于红外光学系统,需要尽量提高信号光强度,因此毛玻璃结构无法满足红外光场相机的要求。

      根据中继透镜产生渐晕的过程,改变光线的方向,使边缘受到遮挡的光线折向中继透镜孔径,即可改善渐晕。在传统光学系统中,常在中间像面上设置场镜,可在不改变系统总光焦度的同时,改变光线方向。对于光场成像系统,一片场镜无法使所有微透镜的光线折向中继透镜的孔径。另外,场镜的设置需要满足光瞳匹配的条件,即场镜前系统的光瞳与场镜后系统的光瞳关于场镜成共轭关系。微透镜阵列与中间像面的距离较小,远小于普通场镜所能达到的焦距,微透镜的光瞳与中继透镜的光瞳难以形成共轭关系。光场相机无法采用常规的场镜达到控制光线角度的目的。

      为此,提出了一种新型光路结构。如图4(b)所示,在中间像面(即微透镜阵列的焦面)上设置另一片微透镜阵列,两片阵列上的微透镜一一对应,中间像面上的各个微透镜起到场镜的作用,以此改善中继透镜产生的渐晕。经过设计,调整微场镜的焦距使微透镜的光瞳与中继透镜的光瞳形成共轭关系,即可满足光瞳匹配的条件。

    • 红外光场相机整体结构如图5所示。其中微透镜阵列位于主透镜的像面上,中继透镜控制物距为焦距的2倍,将微透镜阵列的焦面1:1成像到探测器面;微场镜阵列位于微透镜阵列的焦面上,起到改善中继透镜渐晕的作用。

      Figure 5.  Structure of the system

      场景中物点与微透镜阵列面关于主透镜成共轭关系,主透镜的出瞳与微场镜阵列面关于微透镜阵列成共轭关系,微透镜阵列面与中继透镜的入瞳关于微场镜阵列成共轭关系,微场镜阵列面与探测器面关于中继透镜成共轭关系,实现整个系统的光瞳匹配。由于光场相机的特殊成像原理,无法同时对整个系统进行优化,因此分别对系统的各个子系统进行优化,根据设计确定各子系统的位置关系,从而组成整个系统。

    • 中继透镜起到二次成像的作用。在成像中,不应改变光场相机原本的成像特性。因此,对中继透镜的设计需要满足两点:一是中继透镜的放大倍率为1:1;二是中继透镜的光瞳与前面系统的光瞳相匹配。以中间像面为物,控制物距为2f,即可实现中继透镜的1:1成像。采用对称结构可以自动校正垂轴像差。双远心系统由于主光线平行于光轴,可以减小成像受到物距和像距误差的影响。综合以上要求,采用放大倍率为1:1的双远心结构作为光场相机的中继透镜。由于微透镜阵列的F数为2,中继透镜也应与之匹配,设计参数如表1所示。根据设计,控制放大倍率为1进行优化,优化后的中继系统在20 lp/mm时的平均MTF为0.53。

      Relay lensMagnificationNAField of view/mm
      Design parameters10.2536.2

      Table 1.  Designed relay lens parameters

    • 微场镜阵列起到改变微透镜阵列出射光线方向的作用。由于微透镜阵列的加工条件限制,设计微场镜为单片平凸透镜阵列,其设计参数如表2所示。

      Microlens arrayMicrolens aperture/μmFocal length/μmArray number
      Design parameters225450113×113

      Table 2.  Designed micro field lens array parameters

      首先对单个微场镜进行设计,要满足两组微透镜的一一对应关系,其口径应一致,另外考虑到系统的光瞳匹配关系,中继透镜为双远心系统,其入瞳位于无穷远处。因此,利用光路的可逆性,以无穷远作为微场镜的物距,以微透镜的焦距作为微场镜的像距,对微场镜的各项参数进行优化,优化后的微场镜在20 lp/mm时的平均MTF为0.55,接近衍射极限。前后翻转微场镜,即可实现微场镜位于微透镜的焦面上;微透镜的出瞳位于微场镜的焦面上。将单一的微场镜扩展成阵列,其阵列数目与微透镜一致。在装调中,应保证两组阵列的各微透镜的中心轴对准。

    • 光场相机其他参数如表3所示。按设计参数分别对主透镜和微透镜进行优化,优化后主透镜在20 lp/mm时的平均MTF为0.53;微透镜在20 lp/mm时的平均MTF为0.55,接近衍射极限。

      Main lensMicrolens arraySensor
      Aperture/mmFocal length/mmAperture/μmFocal length/μmArray numberPixel size/μmPixel numbers
      4080225450113×113251 024×1 024

      Table 3.  Designed light field camera parameters

    • 建立红外光场相机成像模型。通过倾斜刃边法[10]计算系统的调制传递函数曲线(MTF),以此评价光场相机的成像质量。首先在一定的物距设定一个倾斜刃边的靶标,经过光线追迹后在探测器面上获得光场信息,再经过重聚焦成像,获得靶标的光场图像,最后通过图像中的倾斜刃边计算出光场相机系统的MTF曲线。分别计算微透镜阵列与探测器直接耦合,通过中继透镜耦合,以及通过新型结构耦合这三种情况下,不同重聚焦比α的MTF曲线,如图6所示。图中横坐标表示成像的空间频率,纵坐标表示空间频率响应,half-sampling表示图像的奈奎斯特频率。

      Figure 6.  MTF curves for the three coupled structures. (a) α=1.058; (b) α= 1.014; (c) α= 1; (d) α= 0.989; (e) α= 0.973

      比较三种结构的MTF曲线,直接耦合结构的曲线最好,采用新型结构的曲线次之,采用中继透镜耦合结构的曲线最差。直接采用中继透镜结构,无法满足光场成像对像质的要求。与之相比,采用新型结构可明显提高光场相机的成像质量,接近于直接耦合结构的像质。比较分析各个奈奎斯特频率下的曲线值,如表4所示。

      Three kinds of structureα=1.058α=1.014α=1α=0.989α=0.973
      Direct coupling0.060.390.600.390.40
      With micro field lensCutoff0.380.590.340.35
      Without micro field lensCutoff0.320.560.10Cutoff

      Table 4.  Curve value at Nyquist frequency of three structures with different α

      比较各个奈奎斯特频率曲线值,当α等于1时,计算的重聚焦平面与微透镜阵列面重合,中继透镜产生的渐晕较小,其成像质量较高,新型结构相比于直接采用中继透镜的结构,对奈奎斯特频率下的MTF值提升较小,约为5%;当α与1之差较大时,计算的重聚焦平面离微透镜阵列面较远,中继透镜产生的渐晕较大,其成像质量较差,直接采用中继透镜结构在奈奎斯特频率下的MTF值较低,曲线较易截止,α的可变化范围较小。与之相比,新型结构在奈奎斯特频率下的MTF值较高,提升可达240%,甚至更高,α的可变化范围较大,接近于直接耦合。

      在成像系统中,一般以渐晕系数描述光束渐晕的程度。对无穷远物经过微透镜与中继透镜的组合结构进行光线追迹,得到直接采用中继透镜的结构的线渐晕系数可达0.4。对于传统成像而言,渐晕主要影响的是轴外点的通光量,甚至可有意识地减小离孔径光阑最远的透镜的直径,以此拦截某些危害像质的光线,但通常拦光不超过50%;对于光场成像则不同,存在渐晕的微透镜丢失某些角度的光线,会导致光场信息的缺失。当某一微透镜的线渐晕系数为0.4时,其损失的光场角度信息量在该方向上则达到60%,严重降低了重聚焦图像的像质。另外,在产生较大渐晕的情况下,较多光线为边缘附近光线,其像差较大,使得光场成像的像质更差。因此,引入微场镜阵列的新型结构相比于中继透镜耦合结构虽然多了一片微透镜阵列,系统总透过率略有下降,但可以大幅改善微透镜阵列与中继透镜耦合产生的渐晕,提高光场成像的像质。相比于直接耦合的光场结构,新型结构引入了一片微场镜阵列和多片透镜,系统总透过率有所下降,其产生的像差也会影响光场成像的像质,导致新型结构的MTF曲线值相比于直接耦合略有下降。综合来看,新型结构比起其他两种耦合结构更为适合于红外光场成像。

    • 文中研究了光场成像中微透镜阵列与探测器的耦合过程,提出了引入微场镜阵列的新型耦合结构,改进了中继透镜耦合方式,改善了耦合过程中产生的大量渐晕现象,从而提高了光场相机采用中继透镜耦合的像质。新型结构避免了改造红外探测器的风险,对建立红外光场相机起到重要作用。

Reference (10)

Catalog

    /

    DownLoad:  Full-Size Img  PowerPoint
    Return
    Return