HTML
-
碳纤维复合材料因具有优越的力学性能和化学特性,广泛应用于航空航天、体育器械、纺织、化工机械和汽车工业等领域[1-3]。特别地,在航空航天领域,碳纤维复合材料的用量占比与日俱增,在波音787和空客A350XWB为代表的大型客机中复合材料的用量已经占到飞机结构重量的50%,整个机身、机翼结构几乎全部采用了碳纤维复合材料[4]。自动纤维铺放(Automated Fiber Placement,AFP)技术的发展为实现大型碳纤维复合材料结构件自动化和数字化制造提供了有效保障。铺放过程中受固结力、铺层速度、固化速度和融化速度等参数的影响,铺层表面会产生缺丝、间隙、气泡、扭转、外来物等缺陷,影响成型构件的力学性能,带来安全隐患[5]。
传统地,在铺好每一层预浸纱后,操作人员主要通过目视检查来保证铺层表面质量,但是预浸纱之间的低视觉对比度特性导致人工检查时耗费大量时间定位缺陷,并且辨别的种类可能存在误差,据统计铺放过程中进行铺层表面检查和机器维修的时间高达30%[6],研究高效率和高精度的预浸纱缺陷视觉检测方法是提高AFP系统自动化程度的关键技术之一。实现缺陷精准分类和定位不仅依靠无损检测技术,还需要可靠的图像处理算法。国内,南京航空航天大学文立伟等[7]研究基于机器视觉与UMAC的自动铺丝成型构件缺陷检测闭环控制系统,对采集到的预浸纱铺层表面图像进行降噪处理提高图像质量,然后使用边缘提取算法计算预浸纱间隙和重叠的尺寸大小,将数据传输给运动单元进行反馈控制,以保证铺丝精度。魏天舒[8]研究用于检测预浸带缺陷的图像处理算法。结合分数阶微分和高斯滤波器进行图像预处理,保留缺陷信息的同时去掉噪声干扰;改进Otsu算法分割图像并使用Canny算子提取缺陷边缘;利用灰度共生矩阵的纹理特征提取预浸带图像中的缺陷特征并进行缺陷分类。国外,Berend Denkena等[9]提出结合红外热像仪和图像处理算法监控AFP铺放过程。通过评估压辊后面的感兴趣区域并应用边缘检测算法,提取和监控丝束的几何形状及其位置。铺放层压板不均匀截面温度与其周围表面温度不同,这些热点或冷点表示异常如架桥或异物缺陷,通过动态阈值可以检测到热点和冷点。Carsten Schmidt等[10]根据铺放过程中产生的温度差,提出一种基于红外热成像的AFP缺陷监控系统,可以定位丝束位置,发现某些温度异常,结合路径规划中的加工工艺可以判断缺陷种类。实验结果表明,该系统能够独立于先前铺放的层和纤维铺放方向定位每一铺层的铺放缺陷。
传统目标识别方法是先采用SIFT或HOG算子提取缺陷特征,然后使用SVM进行目标分类[11]。这种方法对缺陷特征描述有限,且人工干预多,检测精度低。卷积神经网络的快速发展,为图像领域的分类、识别和分割等任务[12-14]提供了更加有效的自动分析方法。Carsten Schmidt等[15]提出基于深度学习的无损检测方法用于对不同的CFRP预浸料热图进行缺陷检测和分类。实验结果表明,ResNet-101比提出的CNN-2网络的缺陷检测精度略好,但ResNet-101网络架构复杂,参数数量较多,对目标进行分类也需要更长的时间。Christopher Sacco等[16]开发了基于机器视觉的AFP铺层表面缺陷检测系统ACSIS,可以实现缺陷的分类和定位并且可以得到尺寸信息。具体地,采用改进的ResNet网络模型对图像进行语义分割,产生一系列对应于不同种类的像素blobs,然后使用MSA算法在含有缺陷的像素点边界周围放置一个多边形,记录多边形的顶点位置求得质心,并记录缺陷类型。
不同于基于锚点的目标检测器,anchor-free网络模型预测目标框的角点或是中心点,不会产生大量的候选框,网络结构简单,保持高检测精度的同时处理速度更快。Hei Law等[17]提出的CornerNet将预测目标框的位置转化为预测目标框的左上角点和右下角点,模型不需要设计锚点并生成大量多尺度的候选框,极大地简化模型的同时保证较高的检测精度。Xingyi Zhou等[18]在CornerNet的基础上提出ExtremeNet模型,先预测目标框的四个角点和中心点,然后对角点和中心点进行分组,进而求得目标框的尺寸信息。2019年,Xingyi Zhou等[19]提出CenterNet网络模型,根据骨干网络生成的关键点热力图预测目标中心点,然后直接从中心点对应的特征图中回归出其他属性,例如目标尺寸、3D范围、方向和位姿等。
文中研究基于改进CenterNet的AFP铺层表面缺陷检测方法。首先,针对CenterNet骨干网络参数数量多、检测速度受计算机硬件配置限制的问题,提出结合轻量级MobileNetV3网络和ASFF自适应特征融合作为骨干网络,构建AFP-CenterNet检测模型。然后提出一种根据ground-truth bounding box长宽比自适应调整高斯核函数带宽参数的方法,有效减少负样本数量,降低训练时的损失误差。最后,搭建实验平台采集AFP铺层表面红外图像,将AFP-CenterNet和CenterNet、SSD、YOLOv3网络模型分别进行训练。实验结果表明,改进的AFP-CenterNet模型在保持较高缺陷检测精度的同时,极大地减少模型参数数量,降低计算机存储资源占用率。自动纤维铺放加工时,工控机硬件配置有限,AFP-CenterNet具有明显的检测优势。
-
训练时,AFP-CenterNet网络总共迭代140个epoch,模型损失和迭代次数之间的趋势变化图如图8所示。模型在迭代到第30个epoch时损失值的下降幅度迅速减小,损失值小于1.5,进入平缓区。迭代次数达到60次,损失值开始小于1,在迭代次数达到80时,损失值基本保持不变,并且训练损失和验证损失基本相等。以上结果表明,AFP-CenterNet模型的损失值能够在一定的迭代次数内收敛,网络能够达到预期的训练效果,具有稳定性。
分别以DLA-34,ResNet-18和ResNet-101作为CenterNet的骨干网络和文中提出的AFP-CenterNet网络模型进行训练,使用标准COCO数据集的评价指标,在AFP红外数据集上的检测结果对比情况如表1所示。
Network model AP AP50 AP75 Time/ms FPS Memory/MB CenterNet(DLA-34) 0.727 0.926 0.753 81 12.3 77.0 CenterNet(ResNet-101) 0.693 0.904 0.728 93 10.7 204.0 CenterNet(ResNet-18) 0.626 0.825 0.647 31 32.2 60.3 AFP-CenterNet(MobileNetV3+ASFF) 0.694 0.902 0.731 42 23.8 12.9 Table 1. Detection results of CenterNet and AFP-CenterNet on AFP infrared data sets
从表1数据可知,AFP-CenterNet网络模型的检测精度AP能够达到90.2%,略低于以DLA-34为骨干网络的CenterNet网络,但是和ResNet-101基本持平,并且和ResNet-18相比高出7.7%。虽然以DLA-34和ResNet-101为骨干网络时CenterNet网络的检测精度略高于AFP-CenterNet,但是检测速度比AFP-CenterNet将近慢了一倍。此外,AFP-CenterNet网络模型容量和以DLA-34、ResNet-101、ResNet-18为骨干网络的CenterNet网络模型相比分别降低了83.2%、93.6%和78.6%,极大地降低了计算机硬件和存储资源的占用情况。
为了验证anchor-free算法相比于基于锚点预测候选框的检测算法具有更好的性能,文中还分别使用了SSD和YOLOv3作为单端检测的典型算法和AFP-CenterNet进行比较,在AFP红外数据集上的检测结果如表2所示。
Network model AP50 Model memory/MB SSD 0.806 86.5 YOLOv3 0.819 235.0 AFP-CenterNet 0.902 12.9 Table 2. Detection results of different network models on AFP infrared data sets
分析表2中的数据可知,和SSD、YOLOv3相比,AFP-CenterNet检测精度分别高出9.6%和8.3%。基于中心点预测目标能够有效的避免基于锚点预测候选框时计算量过大、非极大值抑制操作需要设置阈值等影响网络处理速度和检测精度的操作。和SSD、YOLOv3相比,AFP-CenterNet网络模型的内存容量仅为12.9 MB,分别降低了85.1%和94.5%。
实际工业生产中,大多数工控机硬件配置有限,尤其是不具有GPU加速条件,这种情况下卷积神经网络模型的处理速度受到限制,需要在仅有CPU的硬件条件下完成AFP铺层表面缺陷检测任务。表3所示是仅使用CPU处理时,不同网络模型在AFP红外数据集上的检测结果。
Network model Time/ms FPS SSD 537 1.8 YOLOv3 451 2.2 CenterNet(ResNet-101) 425 2.3 AFP-CenterNet 235 4.2 Table 3. Detection speed of different network models only using CPU
分析表3中的数据可知,和SSD、YOLOv3、CenterNet(ResNet-101)相比,AFP-CenterNet在CPU环境下,单张检测速度分别高出302 ms、216 ms和190 ms。在仅有CPU计算环境下与SSD,YOLOv3和CenterNet (ResNet-101)相比,AFP-CenterNet具有明显的检测优势。
图9所示是AFP-CenterNet网络模型在AFP红外数据集上的单帧检测结果。图9(c)是六种表面缺陷对应的关键点热力图,从左至右,依次是间隙、缺丝、 扭转、气泡、褶皱和外来物,表示此红外图像中含有的六种缺陷数量分别为1、1、5、2、7和0。