-
基于结构光投影和反射的复合表面测量原理如图1所示,包括一个投影仪、两个LCD (Liquid Crystal Display) 显示屏LCD1、LCD2和彩色相机,它们均位于被测物体的同一侧。为了在同一坐标系统中建立投影条纹相位和镜面反射相位分别与深度间的关系,将通过一个复合平面板标定系统。该平面标定板一半为漫反射平面,另外一半为镜面,其上均匀分布着圆环标识,相邻圆环标识间的距离已知,如图2所示。复合标定板所在的初始位置定义为系统的参考位置,也即参考平面。
图 1 基于结构光投影和反射的复合表面测量原理图
Figure 1. Measurement schematic diagram of complex surface based on projection and reflection of structured light
为实现不同反射特性被测物的同时测量,投影仪和两个LCD显示屏同时投射和显示符合多频外差序列的绿色、红色和蓝色正弦条纹图。显示屏显示的条纹图通过复合参考平面的镜面部分反射成像,投影仪投射的条纹图通过复合参考平面的漫反射部分反射。彩色相机的三颜色通道同时采集不同颜色的变形条纹图,实现复合表面变形条纹的同时采集,提高了三维测量的速度。
如图1所示,参考平面与两个LCD显示屏平行,LCD1和LCD2显示屏之间的空间距离为Δd,LCD1与复合参考平面之间的空间距离为d。相机光轴与参考平面之间的角度为
$\theta $ 。显示屏上参考相位点${\varphi _{{\rm{r}} 1}}$ 和${\varphi _{{\rm{r}} 2}}$ 构成的入射光线${l_1}$ 与参考平面交于点K,并遵循光的反射定律反射出去,出射光线为${l_0}$ ,在成像靶面的m点成像。当被测物体相对于参考平面有一定高度和梯度时,图中M点相对于参考平面的高度和梯度为h和$\gamma $ 。如果出射光线不发生偏折,那么入射光线将变为由显示屏上测量相位点${\varphi _{{\rm{m}} 1}}$ 和${\varphi _{{\rm{m}} 2}}$ 构成的光线${l_2}$ ,${l_2}$ 相对于${l_1}$ 发生的偏折角度为$(\theta + 2\gamma )$ 。因此,可以建立以下关系式:$$({\varphi _{r2}} - {\varphi _{r1}}) \cdot q/2\pi = \Delta d \cdot \tan (\theta )$$ (1) $$({\varphi _{m2}} - {\varphi _{m1}}) \cdot q/2\pi = \Delta d \cdot \tan (\theta + 2\gamma )$$ (2) $$({\varphi _{m1}} - {\varphi _{r1}}) \cdot q/2\pi = \Delta l$$ (3) $$(d + h) \cdot \tan (\theta ) + \Delta l = (d - h) \cdot \tan (\theta + 2\gamma )$$ (4) 联立公式(1)~(4),被测镜面物体高度与相位之间的之间关系如公式(5)所示:
$$h = \frac{{d \cdot [({\varphi _{m2}} - {\varphi _{m1}}) - ({\varphi _{r2}} - {\varphi _{r1}})] - \Delta d \cdot ({\varphi _{m1}} - {\varphi _{r1}})}}{{({\varphi _{r2}} - {\varphi _{r1}}) + ({\varphi _{m2}} - {\varphi _{m1}})}}$$ (5) 被测漫反射表面相对于参考面之间的高度h与相位之间的关系,可以由以下多项式表示[10]:
$$h(u,v) = \sum\limits_{i = 0}^n {{a_i}(u,v)} {(\psi (u,v) - \varphi (u,v))^i}$$ (6) 式中:
$\left( {u,v} \right)$ 为成像靶面的像素坐标;$\varphi (u,v)$ 为参考相位;$\psi (u,v)$ 为被测表面的调制相位;${a_i}(u,v)\left( {i = 0,1,2,3 \ldots n} \right)$ 为系统参数,n为多项式的最高次数,每个像素位置的系统参数不同。 -
根据公式(5)和(6)可知,为获得复合表面的高度信息,需要预先标定系统参数Δd、d和
${a_i}(u,v)$ 。 -
由图1可知,LCD1与LCD2为前后位置关系。如果将两个LCD按照图1所示放置,那么LCD1将会遮挡LCD2上的信息,导致无法实现形貌测量。Liu[11]通过引入一块半透半反镜来实现LCD1和LCD2的等效结构,半透半反镜的引入虽然增强了系统的稳定性,但同时也导致系统测量范围减小和系统调节复杂。为不改变系统有效测量范围和简化系统结构,文中采用将一块LCD固定于水平移动台,通过水平移动台移动已知距离Δd来实现图1所示双屏结构。
为满足LCD在位置1和位置2显示的相位信息平行正对要求,LCD需垂直放置于水平移动台上(即LCD所在平面与导轨垂直),且水平移动台移动向量的水平分量为0。水平移动台固定于光学平台上,因此,以光学平台为基准,借助水平仪和角位移台粗略地调节显示屏与导轨的位置关系。由于LCD单位像素尺寸已知,因此,可以通过软件在显示屏上显示已知空间距离的圆环或棋盘格来获取LCD在位置1和位置2经平面镜所成像的相机外参,以精确地调节LCD与导轨垂直,当LCD显示的相同标识在位置1和位置2的距离与水平移动台移动实际距离大小相等时,说明垂直关系成立。
-
完成显示屏与导轨位置关系的调节后,需要调节固定于另一水平移动台上的复合标定板,使其在参考位置与LCD平行。由于LCD已固定,因此,需要获得真实LCD的外参作为基准来调节参考平面与LCD平行。如图3示,{C}表示相机坐标系,{L}表示LCD坐标系,{VL}表示LCD经参考平面镜所成的像坐标系。
$ [{{R_L}}\;\;{{T_L}}]$ 、$[{{R_{VL}}}\;\;{{T_{VL}}}]$ 分别为真实LCD和显示屏所成像LCD'的相机外参(R为旋转矩阵,T为移动向量),两者满足以下关系:$${R_L}{\rm{ = }}{({I_3} - 2{n_c}n_c^T)^{{\rm{ - 1}}}}{R_{VL}}({I_3} - 2{{\rm{e}}_3}e_3^T)$$ (7) $${T_L}{\rm{ = }}{T_{VL}} - 2n_c^T{T_{VL}}{n_c} - 2l{n_c}$$ (8) 式中:
${I_3}$ 为3×3的单位矩阵;${e_3}$ 为3×1的单位向量;l为相机光心到参考平面的距离;${n_c}$ 为参考平面的法向量,可以通过参考平面上的圆环标识求得。为保证$[{{R_L}}\;\;{{T_L}}]$ 精度,在调节时,多次旋转参考平面镜以提供多组$[{{R_{VL}}}\;\;{{T_{VL}}}]$ 和l,建立超定方程,求取${R_L}$ 的最优解。图 3 参考平面与LCD平行调节几何分析
Figure 3. Geometrical analysis of parallel adjustment between LCD and reference plane
完成平行调节后,由于参考平面、真实LCD及其经参考平面所成像相互平行,因此,LCD在位置1处与参考平面之间的距离d可用公式(9)求得。完成平行调节后,相机采集显示屏在位置1和位置2经参考面反射的镜面参考条纹图。
$$d = {R_R}^{ - 1}{({T_R} - {T_{VL}})^T}$$ (9) -
根据公式(6)可知,求解系统参数
${a_i}(u,v)$ $(i = 0,1,$ $2,3 \ldots n) $ 至少需要获得(n+1)组标定位置相对于参考平面位置的已知深度和相应深度的绝对相位信息。由于复合标定板由镜面反射面和漫反射面组成,当完成复合标定板在参考位置与LCD的平行调节后,标定板与LCD之间的位置关系已固定。因此,在标定参数
${a_i}(u,v)$ 时,通过水平移动台移动标定板来提供多个标定位置。标定流程如图4所示。首先,通过水平移动台移动标定板来提供至少(n+1)个标定位置。在每个位置(包括参考位置),投影仪投射符合多步相移和多频外差序列的蓝色竖直正弦条纹图至标定板。其次,彩色相机采集每个位置的条纹图和标定板的纹理图并保存至计算机。然后,利用多步相移法计算折叠相位,使用多频外差法计算绝对相位。借助标定板上的圆环信息计算每个标定位置的相机坐标,并拟合参考位置在相机坐标系下的平面方程,计算其他标定位置各点相对于参考位置的距离
$\Delta h$ 。最后,联立公式(10)解得每个像素点多项式系数。$$\begin{split} & \Delta {h_1}(u,v) = \sum\limits_{i = 0}^n {{a_i}(u,v)} {({\psi _1}(u,v) - \varphi (u,v))^i} \\ & \Delta {h_2}(u,v) = \sum\limits_{i = 0}^n {{a_i}(u,v)} {({\psi _2}(u,v) - \varphi (u,v))^i} \end{split} $$ $$\begin{split} &\quad\quad\quad\quad\quad\quad\quad \cdots \cdots \\ &\Delta {h_n}(u,v) = \sum\limits_{i = 0}^n {{a_i}(u,v)} {({\psi _n}(u,v) - \varphi (u,v))^i} \\ & \Delta {h_{ \geqslant n + 1}}(u,v) = \sum\limits_{i = 0}^n {{a_i}(u,v)} {({\psi _{ \geqslant n + 1}}(u,v) - \varphi (u,v))^i} \end{split} $$ (10) 在标定过程中,首先利用投影仪投射条纹于参考位置处的标定板,相机采集条纹图和标定板的纹理图。然后,利用水平精密移动台在参考面位置前后移动13个位置,在每个位置相机采集投影仪投射到标定板上的条纹图和纹理图。最后,采用共14个标定位置的相位和深度信息,完成测量系统在深度方向系统参数的标定。当n=5时,所有标定位置同一像素的深度和相位信息有很好的拟合效果。文中标定位置个数为14,大于要求的个数6。虽然标定位置增多,但能够得到更精确的系统参数。
-
基于结构光投影和反射的复合表面测量系统主要由投影仪、彩色相机、LCD显示屏、计算机和水平移动台组成,如图5所示。投影仪采用的是TI公司生产的DLP® LightCrafter™ 4 500,分辨率为1 140×912。相机型号为SVCam-ECO445彩色相机,分辨率为964×1 296,点距3.75 μm×3.75 μm。LCD为夏普生产的LQ101R1JX02,分辨率为1 600×2 560,单位像素尺寸为0.084 75 mm。水平移动台采用的是大恒光电的GCD203100M,精度为1 μm。复合标定板上的圆心距为15 mm。
首先利用张正友[12]的相机标定法标定相机内参,然后利用相机内参进行系统标定和对图像进行畸变等处理。在标定系统参数
${a_i}(u,v)$ 和测量被测物体时,为减小系统非线性对测量结果的影响,投影仪和显示屏分别投射和显示符合八步相移和最佳三条纹[13]选择法的序列条纹。由于对于复合反射物体的镜面表面,相机采集的是LCD显示条纹图经被测物体反射成的像,而对于漫反射表面,相机则直接采集被测物体漫反射表面的变形条纹。因此,显示屏显示的条纹序列为[36 35 30],投影仪投射的序列为[100 99 90]的序列条纹图。 -
文中通过在显示屏上显示圆环标识的方法来精确调节LCD与导轨垂直。固定有LCD的水平移动台实际移动20 mm,求得LCD在位置1和位置2的空间距离如图6所示,平均值为20.006 7 mm。水平移动台的移动向量为[−0.025 9 −0.050 2 20.007 1],证明LCD与水平移动台基本垂直。因此Δd=20 mm。然而,硬件调节的方法不能确保LCD显示屏的法向量与导轨的移动方向百分之百垂直,为提高测量标定精度,显示屏在两个位置的平行正对关系可以通过软件进行校正[14]。
根据2.2节所述方法调节标定板在参考根据2.2节所述方法调节标定板在参考位置与LCD平行。文中通过在显示屏上显示半径和圆心距已知的圆环标识来提供世界坐标。通过椭圆中心拟合提取圆心中心对应的像素坐标,然后利用张正友相机标定法计算LCD像的相机外参。同理,可以求得参考平面的相机外参,进而利用公式(7)求得真实LCD的外参。最终得到LCD、LCD'与参考平面镜的旋转矩阵和欧拉角如表1所示,三者之间的俯仰角之差最大为0.003 7°,旋转角之差最大为0.002°,偏航角之差最大为0.004 6°,满足测量要求。最终求得d=138.394 mm。
表 1 真实LCD、LCD'和参考平面的旋转向量及其相应的欧拉角
Table 1. Rotation matrix and corresponding Euler angle of real LCD, LCD' and reference plane
Projects LCD' Reference plane Real LCD Rotation martix [0.000 5 0.863 6 −0.504 1 1.000 0 −0.001 1 −0.000 8 −0.001 2
−0.504 1 −0.863 6][0.000 4 0.863 6 −0.504 1 1.000 0 −0.001 0 −0.000 8 −0.0012
−0.504 1 −0.863 6][0.000 5 0.863 6 −0.504 1 1.000 0 −0.001 1 −0.000 9 −0.001 3
−0.504 1 −0.863 6]Translation vector/mm [−31.270 2 31.069 4 405.790 2] [−15.084 2 −23.470 9 236.086 7] −−−− Pitching angle /(°) −0.070 6 −0.070 1 −0.073 8 Rotation angle /(°) 30.273 9 30.273 8 30.273 7 Yaw angle /(°) −89.970 7 −89.975 3 −89.972 6 为验证标定精度,将镜面、漫反射复合标定平板置于精度为1 μm的水平移动台,控制平板在标定场精确移动3 mm作为真实值。DLP投影仪和LCD显示屏同时投射和显示条纹序列分别为[100 99 90]和[36 35 30]的24幅条纹图,彩色CCD相机同时采集标定板反射和偏折的变形条纹图。计算变形条纹的绝对相位,代入公式(5)和(6)。由于平板上各点有相同的移动距离,因此,将计算得到的所有点的均值作为测量值,其结果为2.971 mm,绝对误差为0.029 mm。
-
利用所研制复合反射表面测量系统,对非连续表面的物体三维形貌进行了实际的测量实验。由于所用CCD彩色相机的红色和蓝色光谱响应范围重叠区域很小,因此,在测量被测物体时,投影仪和显示屏同时投射和显示蓝色和红色正弦条纹图以减小颜色通道间串扰对测量结果的影响。
图7为相机采集的镜面部分参考条纹及利用八步相移和最佳三条纹选择法解调得到的折叠相位图和绝对相位图。由于参考平面的镜面反射表面刻有黑色圆环图案,致使圆环位置及其周边像素位置的相位信息不准确。因此,得到参考条纹的绝对相位后,采用多项式拟合的方法对其进行预处理,处理后的相位图如图7(d)所示。
图 7 参考条纹及其相位图。(a)镜面参考条纹图;(b)折叠相位图;(c)绝对相位图;(d)处理后的绝对相位图
Figure 7. Reference fringe and phase map. (a) specular reference fringe map; (b) wrapped phase map; (c) absolute phase map; (d) processed absolute phase map
投影仪和显示屏投射和显示不同颜色的条纹图不仅能够在测量不同反射物体如漫反射、镜面反射及复合反射物体时明确地区分和判断被测物中的镜面反射与漫反射部分为后续不同反射性质表面的形貌恢复提供明确的绝对相位值,而且在表面反射特性未知的情况下也能清楚地分辨物体表面的反射性质以做不同的处理。图8为利用研制的实验系统测量特制的复合反射台阶。图9为利用研制的实验系统测量孤立的漫反射和镜面反射表面。
Shape measurement of specular/diffuse complex surface based on structured light
-
摘要:
光学三维测量技术以其非接触、无损及快速测量的优势被广泛应用于不同领域。已有的条纹投影和条纹反射测量术分别适用于漫反射表面和镜面表面。然而,航空航天和先进制造中存在许多漫反射和镜面反射表面同时存在的复合反射表面。提出一种基于结构光投影和反射的方法来实现复合表面形貌的快速测量。首先,投影仪投射蓝色正弦条纹图于被测物体表面,同时显示屏显示的红色条纹被镜面部分反射。其次,彩色相机采集经被测表面调制的变形条纹图。然后,从相机不同颜色通道中提取对应不同类型反射表面的变形条纹,并计算变形条纹图的绝对相位。最后,通过系统标定建立相位信息与深度之间的直接关系,得到被测复合表面的三维形貌。实验结果表明:该方法不仅能够有效地实现非连续复合表面物体的测量,还能够同时测量独立的漫反射和镜面反射表面的三维形貌。
Abstract:Optical three-dimensional (3D) measurement technology is widely used in different fields due to its advantages of non-contact, non-destructive and rapid measurement. The existing technologies of Fringe Projection Measurement and Fringe Reflection Measurement are designed for the measurement of diffusely reflective and specularly reflective surfaces respectively. However, there are many complex surfaces which have both diffused and specular reflective surfaces together in aerospace and advanced manufacturing. In this paper, a method based on structured light projection and reflection was proposed to realize rapid measurement of complex surfaces. First, a Digital Light Projector (DLP) projected blue sinusoidal fringe onto the tested surface, and red fringes displayed by a screen were reflected by its specular part simultaneously. Second, deformed fringe patterns modulated by the measured surface were captured by a color Charge Coupled Device (CCD) camera. Then, deformed fringes of different reflection surface were extracted from different color channels of the camera and then absolute phase information could be calculated. Finally, after system calibration to build up the relationship between phase and depth, 3D shape data of the measured complex object was obtained. Experimental results show that the proposed method can not only measure complex surfaces effectively, but obtain 3D shape of isolated diffused and specular surfaces simultaneously.
-
Key words:
- complex surface /
- structured light 3D imaging /
- system calibration /
- phase calculation
-
表 1 真实LCD、LCD'和参考平面的旋转向量及其相应的欧拉角
Table 1. Rotation matrix and corresponding Euler angle of real LCD, LCD' and reference plane
Projects LCD' Reference plane Real LCD Rotation martix [0.000 5 0.863 6 −0.504 1 1.000 0 −0.001 1 −0.000 8 −0.001 2
−0.504 1 −0.863 6][0.000 4 0.863 6 −0.504 1 1.000 0 −0.001 0 −0.000 8 −0.0012
−0.504 1 −0.863 6][0.000 5 0.863 6 −0.504 1 1.000 0 −0.001 1 −0.000 9 −0.001 3
−0.504 1 −0.863 6]Translation vector/mm [−31.270 2 31.069 4 405.790 2] [−15.084 2 −23.470 9 236.086 7] −−−− Pitching angle /(°) −0.070 6 −0.070 1 −0.073 8 Rotation angle /(°) 30.273 9 30.273 8 30.273 7 Yaw angle /(°) −89.970 7 −89.975 3 −89.972 6 -
[1] Sansoni G, Trebeschi M, Docchio F. The-art and applications of 3D imaging sensors in industry, cultural heritage, medicine, and criminal investigation [J]. Sensors, 2009, 9(1): 568−601. doi: 10.3390/s90100568 [2] Bai X F, Gao N, Zhang Z H, et. al. Person recognition using 3-D palmprint data based on full-field sinusoidal fringe projection [J]. IEEE Transactions on Instrumentation and Measurement, 2019, 68(9): 3287−3298. doi: 10.1109/TIM.2018.2877226 [3] Schnack A, Wright M J, Holdershaw J L. Immersive virtual reality technology in a three-dimensional virtual simulated store: Investigating telepresence and usability [J]. Food Research International, 2019, 117: 40−49. doi: 10.1016/j.foodres.2018.01.028 [4] Liu Dong, Yan Tianliang, Wang Daodang, et al. Review of fringe-projection profilometry and phase measuring deflectometry [J]. Infrared and Laser Engineering, 2017, 46(9): 0917001. (in Chinese) doi: 10.3788/IRLA201746.0917001 [5] Wang Yueming, Zhang Zonghua, Gao Nan. Review on three-dimensional surface measurement of specular objects based on full-field fringe reflection [J]. Optics and Precision Engineering, 2018, 26(5): 1014−1026. (in Chinese) doi: 10.3788/OPE.20182605.1014 [6] Huang L, Idir M, Zuo C, et al. Review of phase measuring deflectometry [J]. Optics and Lasers in Engineering, 2018, 107: 247−257. doi: 10.1016/j.optlaseng.2018.03.026 [7] Sandner M. Optical measurement of partially specular surfaces by combining pattern projection and deflectometry techniques[D]. Germany: FernUniversität in Hagen, 2015. [8] Huang L, Asundi A. Study on three-dimensional shape measurement of partially diffuse and specular reflective surfaces with fringe projection technique and fringe reflection technique[C]//Proceedings of SPIE, Dimensional Optical Metrology and Inspection for Practical Applications, 2011, 8133: 813304. [9] Yi Jingya. Study on mobile phone shell inside and outside surface quality inspection based on fringe projection and fringe reflection technologies[D]. Chengdu: University of Electronic Science and Technology, 2016. (in Chinese) [10] Zhang Z H, Zhang D, Peng X. Performance analysis of a 3D full-field sensor based on fringe projection [J]. Optics and Lasers in Engineering, 2004, 42(3): 341−353. doi: 10.1016/j.optlaseng.2003.11.004 [11] Liu Y, Huang S H, Zhang Z H, et al. Full-field 3D shape measurement of discontinuous specular objects by direct phase measuring deflectometry [J]. Scientific Reports, 2017, 7: 1−8. doi: 10.1038/s41598-017-11014-5 [12] Zhang Z Y. A flexible new technique for camera calibration [J]. IEEE Transactions on Pattern Analysis and Mchine Intelligence, 2000, 22(11): 1330−1334. doi: 10.1109/34.888718 [13] Towers C E, Towers D P, Jones J D C. Absolute fringe order calculation using optimised multi-frequency selection in full-field profilometry [J]. Optics and Lasers in Engineering, 2005, 43(7): 788−800. doi: 10.1016/j.optlaseng.2004.08.005 [14] Zhang Zonghua, Guo Jiao, Wang Yuemin, et al. Parallel-alignment and correction of two displays in three-dimensional measuring system of specular surfaces [J]. Optics and Precision Engineering, 2017, 25(2): 289−296. (in Chinese) doi: 10.3788/OPE.20172502.0289
计量
- 文章访问数: 1398
- HTML全文浏览量: 733
- 被引次数: 0