留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

面向嵌入式平台的车道线检测方法

杜中强 唐林波 韩煜祺

杜中强, 唐林波, 韩煜祺. 面向嵌入式平台的车道线检测方法[J]. 红外与激光工程, 2022, 51(7): 20210753. doi: 10.3788/IRLA20210753
引用本文: 杜中强, 唐林波, 韩煜祺. 面向嵌入式平台的车道线检测方法[J]. 红外与激光工程, 2022, 51(7): 20210753. doi: 10.3788/IRLA20210753
Du Zhongqiang, Tang Linbo, Han Yuqi. Lane line detection method for embedded platform[J]. Infrared and Laser Engineering, 2022, 51(7): 20210753. doi: 10.3788/IRLA20210753
Citation: Du Zhongqiang, Tang Linbo, Han Yuqi. Lane line detection method for embedded platform[J]. Infrared and Laser Engineering, 2022, 51(7): 20210753. doi: 10.3788/IRLA20210753

面向嵌入式平台的车道线检测方法

doi: 10.3788/IRLA20210753
基金项目: 中国博士后科学基金(2021TQ0177)
详细信息
    作者简介:

    杜中强,男,硕士生,主要从事数字图像处理、目标检测与识别等计算机视觉方面的研究

    唐林波,男,讲师,硕士生导师,博士,主要从事嵌入式实时图像处理、智能目标识别与跟踪方面的研究

    通讯作者: 韩煜祺,男,博士后,博士生,主要从事遥感图像处理及计算机视觉等方面的研究。
  • 中图分类号: TP751

Lane line detection method for embedded platform

Funds: China Postdoctoral Science Foundation(2021TQ0177)
  • 摘要: 车道线检测在自动驾驶和高级辅助驾驶中起着举足轻重的作用,然而,传统的车道线检测技术鲁棒性较差,而大多数基于深度学习的方法复杂度又较高,难以在嵌入式平台实时应用。提出一种面向嵌入式平台的轻量级车道线检测网络,将车道线检测转化为语义分割问题,该网络借鉴U-Net与Segnet网络结构,使用了小尺度卷积等轻量化组件设计计算高效的语义分割网络。在检测车道线的基础上,计算车辆距离两侧车道线的距离,以及车道线的曲率,同时当车辆偏离车道线或检测出现异常时进行预警,最后将整个系统移植到海思平台。实验结果表明:该系统具有较高的检测精度以及检测速度,准确率达到97.5%,速度达到50 FPS,满足实时性要求,因此该系统能够用于面向嵌入式平台的实时车道线的检测、测距、曲率计算以及预警。
  • 图  1  系统框图

    Figure  1.  Block diagram of system

    图  2  车道线检测神经网络结构

    Figure  2.  Lane line detection neural network structure

    图  3  编码器和解码器网络

    Figure  3.  Encoder and decoder network

    图  4  车道线拟合

    Figure  4.  Lane line fitting

    图  5  海思Hi3559 CV100

    Figure  5.  Hisilicon Hi3559 CV100

    图  6  数据集

    Figure  6.  DataSets

    图  7  不同数据集的训练结果

    Figure  7.  Training results of different data sets

    图  8  车道线检测结果

    Figure  8.  Lane line detection result

    表  1  不同数据集的准确率

    Table  1.   Accuracy of different data sets

    Data setsTuSimpleCULaneMvirgoTuSimple + Mvirgo
    Accuracy97.593.2198.2397.8
    下载: 导出CSV

    表  2  不同车道线检测网络结构的对比

    Table  2.   Comparison of different lane line detection network structures

    MethodAccuracyTime/msData sets
    Segnet[9] 96.78 5.2 tuSimple
    Unet[9] 96.46 4.6 tuSimple
    SegNetConvLSTM[9] 98.52 25 tuSimple
    UNetCpnvLSTM[9] 98.46 20.3 tuSimple
    Ours 97.5 1.2 tuSimple
    Enet-SAD[11] 96.64% 13.4 tuSimple
    LaneNet[12] 96.38% 16.6 tuSimple
    ERFNet[10] 95.80% 14.1 tuSimple
    下载: 导出CSV
  • [1] Ronneberger O, Fischer P and Brox T. U-net: convolutional networks for biomedical image segmentation[C]// International Conference on Medical Image Computing and Computer-assisted Intervention, 2015: 234–241.
    [2] Badrinarayanan V, Kendall A, Cipolla R. SegNet: A deep convolutional encoder-decoder architecture for image segmentation [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2017, 39(12): 2481-2495. doi:  10.1109/TPAMI.2016.2644615
    [3] 何旭光, 江磊, 罗一平, 张伟伟. 基于Hough变换的车道线检测算法设计[J]. 农业装备与车辆工程, 2019, 57(11): 90-91+107. doi:  10.3969/j.issn.1673-3142.2019.11.022

    He Xuguang, Jiang Lei, Luo Yiping, et al. Lane line detection algorithm design based on Hough transform [J]. Agricultural Equipment and Vehicle Engineering, 2019, 57(11): 90-91, 107. (in Chinese) doi:  10.3969/j.issn.1673-3142.2019.11.022
    [4] 李后隆, 马骊溟, 钟林伟. 基于改进Hough变换的车道线检测[J]. 汽车实用技术, 2021, 46(07): 16-18.

    Li Houlong, Ma Liming, Zhong Linwei. Lane line detection based on improved hough transform [J]. Practical Automobile Technology, 2021, 46(7): 16-18. (in Chinese)
    [5] 胡晟圆, 游波, 崔立冬. 基于改进霍夫变换的车道检测及偏离预警仿真[J]. 新型工业化, 2021, 11(05): 122-125.

    Hu Shengyuan, You Bo, Cui Lidong. Lane detection and departure warning simulation based on improved Hough transform [J]. New Industrialization, 2021, 11(5): 122-125. (in Chinese)
    [6] 周宏宇, 宋旭, 刘国英. Haar特征耦合级联分类器的车道线检测算法[J]. 计算机工程与设计, 2020, 41(06) : 1719-1724.

    Zhou Hongyu, Song Xu, Liu Guoying. Lane detection algorithm based on Haar feature coupling cascade classifier [J]. Computer Engineering and Design, 2020, 41(6): 1719-1724. (in Chinese)
    [7] 邓天民, 王琳, 杨其芝, 周臻浩. 基于改进SegNet算法的车道线检测方法[J]. 科学技术与工程, 2020, 20(36) : 14988-14993. doi:  10.3969/j.issn.1671-1815.2020.36.031

    Deng Tianmin, Wang Lin, Yang Qizhi,et al. Lane line detection method based on improved SegNet algorithm [J]. Science Technology and Engineering, 2020, 20(36): 14988-14993. (in Chinese) doi:  10.3969/j.issn.1671-1815.2020.36.031
    [8] Haixia L,Xizhou L. Flexible lane detection using CNNs[C]//2021 International Conference on Computer Technology and Media Convergence Design (CTMCD), 2021: 235-238.
    [9] Zou Q, Jiang H, Dai Q, et al. Robust lane detection from continuous driving scenes using deep neural networks [J]. IEEE Transactions on Vehicular Technology, 2020, 69(1): 41-54. doi:  10.1109/TVT.2019.2949603
    [10] Gansbeke W V, Brabandere B D, Neven D M, et al. End-to-end lane detection through differentiable least-squares fitting[C]//2019 IEEE/CVF International Conference on Computer Vision Workshop (ICCVW), 2019: 905-913.
    [11] Adam Paszke, Abhishek Chaurasia, Sangpil Kim, et al. ENet: A deep neural network architecture for real-time semantic segmentation [J]. Computer Science, 2016, arXiv: 1606.02147.
    [12] Neven D, Brabandere D B, Georgoulis S, et al. Towards end-to-end lane detection: An instance segmentation approach[C]// 2018 IEEE Intelligent Vehicles Symposium (IV), 2018: 286-291.
  • [1] 周天彪, 黄思远, 文龙, 陈沁.  基于无透镜散斑图像编码的集成式光谱检测 . 红外与激光工程, 2024, 53(3): 20240010-1-20240010-9. doi: 10.3788/IRLA20240010
    [2] 林森, 赵振禹, 任晓奎, 陶志勇.  基于语义信息补偿全局特征的物体点云分类分割 . 红外与激光工程, 2022, 51(8): 20210702-1-20210702-12. doi: 10.3788/IRLA20210702
    [3] 钟友坤, 莫海宁.  基于深度自编码-高斯混合模型的视频异常检测方法 . 红外与激光工程, 2022, 51(6): 20210547-1-20210547-7. doi: 10.3788/IRLA20210547
    [4] 吴志洋, 王双, 刘铁根, 靳党鹏.  基于深度学习视觉和激光辅助的盾构管片自动拼装定位方法 . 红外与激光工程, 2022, 51(4): 20210183-1-20210183-9. doi: 10.3788/IRLA20210183
    [5] 孙旭旦, 吴清, 赵春艳, 张满囤.  语义增强引导特征重建的遮挡行人检测 . 红外与激光工程, 2022, 51(9): 20210924-1-20210924-10. doi: 10.3788/IRLA20210924
    [6] 朱祯悦, 吕淑静, 吕岳.  基于图匹配网络的小样本违禁物品分割算法 . 红外与激光工程, 2021, 50(11): 20210075-1-20210075-9. doi: 10.3788/IRLA20210075
    [7] 李芳丽.  监控视频中采用深度支持向量数据描述的异常检测 . 红外与激光工程, 2021, 50(9): 20210094-1-20210094-7. doi: 10.3788/IRLA20210094
    [8] 刘云朋, 霍晓丽, 刘智超.  基于深度学习的光纤网络异常数据检测算法 . 红外与激光工程, 2021, 50(6): 20210029-1-20210029-6. doi: 10.3788/IRLA20210029
    [9] 苏云征, 郝群, 曹杰, 闫雷, 武帅.  合并分割块的点云语义分割方法 . 红外与激光工程, 2021, 50(10): 20200482-1-20200482-10. doi: 10.3788/IRLA20200482
    [10] 杨程, 鄢秋荣, 祝志太, 王逸凡, 王明, 戴伟辉.  基于深度学习的压缩光子计数激光雷达 . 红外与激光工程, 2020, 49(S2): 20200380-20200380. doi: 10.3788/IRLA20200380
    [11] 钟锦鑫, 尹维, 冯世杰, 陈钱, 左超.  基于深度学习的散斑投影轮廓术 . 红外与激光工程, 2020, 49(6): 20200011-1-20200011-11. doi: 10.3788/IRLA20200011
    [12] 朱琳琳, 韩璐, 杜泓, 范慧杰.  基于U-Net网络的多主动轮廓细胞分割方法研究 . 红外与激光工程, 2020, 49(S1): 20200121-20200121. doi: 10.3788/IRLA20200121
    [13] 周宏强, 黄玲玲, 王涌天.  深度学习算法及其在光学的应用 . 红外与激光工程, 2019, 48(12): 1226004-1226004(20). doi: 10.3788/IRLA201948.1226004
    [14] 唐聪, 凌永顺, 杨华, 杨星, 路远.  基于深度学习的红外与可见光决策级融合检测 . 红外与激光工程, 2019, 48(6): 626001-0626001(15). doi: 10.3788/IRLA201948.0626001
    [15] 张秀玲, 侯代标, 张逞逞, 周凯旋, 魏其珺.  深度学习的MPCANet火灾图像识别模型设计 . 红外与激光工程, 2018, 47(2): 203006-0203006(6). doi: 10.3788/IRLA201847.0203006
    [16] 唐聪, 凌永顺, 杨华, 杨星, 郑超.  基于深度学习物体检测的视觉跟踪方法 . 红外与激光工程, 2018, 47(5): 526001-0526001(11). doi: 10.3788/IRLA201847.0526001
    [17] 唐聪, 凌永顺, 郑科栋, 杨星, 郑超, 杨华, 金伟.  基于深度学习的多视窗SSD目标检测方法 . 红外与激光工程, 2018, 47(1): 126003-0126003(9). doi: 10.3788/IRLA201847.0126003
    [18] 杜恩宇, 张宁, 李艳荻.  基于Gabor滤波器的车道线快速检测方法 . 红外与激光工程, 2018, 47(8): 817008-0817008(8). doi: 10.3788/IRLA201847.0817008
    [19] 耿磊, 梁晓昱, 肖志涛, 李月龙.  基于多形态红外特征与深度学习的实时驾驶员疲劳检测 . 红外与激光工程, 2018, 47(2): 203009-0203009(9). doi: 10.3788/IRLA201847.0203009
    [20] 罗海波, 何淼, 惠斌, 常铮.  基于双模全卷积网络的行人检测算法(特邀) . 红外与激光工程, 2018, 47(2): 203001-0203001(8). doi: 10.3788/IRLA201847.0203001
  • 加载中
图(10) / 表(2)
计量
  • 文章访问数:  257
  • HTML全文浏览量:  70
  • PDF下载量:  32
  • 被引次数: 0
出版历程
  • 收稿日期:  2022-01-20
  • 修回日期:  2022-02-15
  • 网络出版日期:  2022-08-13
  • 刊出日期:  2022-08-05

面向嵌入式平台的车道线检测方法

doi: 10.3788/IRLA20210753
    作者简介:

    杜中强,男,硕士生,主要从事数字图像处理、目标检测与识别等计算机视觉方面的研究

    唐林波,男,讲师,硕士生导师,博士,主要从事嵌入式实时图像处理、智能目标识别与跟踪方面的研究

    通讯作者: 韩煜祺,男,博士后,博士生,主要从事遥感图像处理及计算机视觉等方面的研究。
基金项目:  中国博士后科学基金(2021TQ0177)
  • 中图分类号: TP751

摘要: 车道线检测在自动驾驶和高级辅助驾驶中起着举足轻重的作用,然而,传统的车道线检测技术鲁棒性较差,而大多数基于深度学习的方法复杂度又较高,难以在嵌入式平台实时应用。提出一种面向嵌入式平台的轻量级车道线检测网络,将车道线检测转化为语义分割问题,该网络借鉴U-Net与Segnet网络结构,使用了小尺度卷积等轻量化组件设计计算高效的语义分割网络。在检测车道线的基础上,计算车辆距离两侧车道线的距离,以及车道线的曲率,同时当车辆偏离车道线或检测出现异常时进行预警,最后将整个系统移植到海思平台。实验结果表明:该系统具有较高的检测精度以及检测速度,准确率达到97.5%,速度达到50 FPS,满足实时性要求,因此该系统能够用于面向嵌入式平台的实时车道线的检测、测距、曲率计算以及预警。

English Abstract

    • 随着人工智能的快速发展,无人驾驶成为了国内外交通行业发展的新趋势。伴随着计算机软硬件的不断更新迭代,深度学习在诸多方面取得了成功应用,特别是在U-net[1]、Segnet[2]等语义分割模型中的应用,使得利用深度学习方法进行车道线检测也得以实现。目前关于车道线检测检测方法较多,对于传统的车道线检测方法,何旭光等[3]提出利用Hough变换的方法来检测车道线,该方法考虑了道路的特点即车道线边界平行的性质;李后隆等[4]提出用改进的 Hough 变换方法进行车道线检测,该方法利用极角约束Hough变换检测车道线的初始位置;胡晟圆等[5]提出了结合Hough 变换与运动估计的车道线提取方法,该方法巧妙地将分块Hough变换和图像块的运动估计相结合,极大地降低了算法的复杂度;周宏宇等[6]提出基于Haar特征耦合级联分类器的车道线检测方法,通过提取感兴趣的区域(ROI),借助LSD线段检测器,结合生长策略拟合车道线。然而,这些传统的车道线检测方法都是利用手工设计的特征,鲁棒性较差,难以适用于复杂多变的真实场景。对于基于深度学习的车道线检测方法,邓天民等[7]等提出基于改进Segnet的车道线检测方法;L. Haixia等[8]提出了一种使用级联卷积神经网络结构进行端到端车道检测的方法,首先对车道边界进行实例分割,然后通过线性分类器对车道分类进行分类;Q. Zou等[9]结合卷积神经网络 (CNN) 和循环神经网络 (RNN) 提出了一种混合深度架构;W. Van Gansbeke等[10]提出了一种以端到端的方式训练车道检测器的方法,直接回归车道参数。虽然这些基于深度学习的车道线检测方法检测准确率较高,但也较为复杂,难以移植到嵌入式平台做到实时检测。如何准确、快速地检测车道线已成为无人驾驶汽车领域需要解决的重要问题 。

      针对车道线检测准确率和鲁棒性的要求,文中将车道线检测转化为语义分割问题,提出一种面向嵌入式平台的车道线检测网络。首先,该网络借鉴U-Net与Segnet的编码-解码结构,使用了小尺度卷积等轻量化组件设计计算高效的语义分割网络。其次,在准确检测车道线的基础上,使用滑动窗口曲线拟合策略拟合车道线的曲线方程,计算车辆中央距两侧车道线的距离,以及车道线的曲率,同时当车辆偏离车道线或检测出现异常时进行预警。最后,将上述完整车道线检测系统移植到海思平台。

    • 该系统通过安装在车辆前端的摄像头实时检测车道线,并计算车辆与两侧车道线的距离,以及车道线的曲率。同时当车辆偏离车道线或检测出现异常时则进行报警。系统的框图如图1所示。

      图  1  系统框图

      Figure 1.  Block diagram of system

      由此可以看出,该系统由图中几个模块组成,其中图像采集部分是采用ADAS系统对视频进行采集,采集的帧频为25 HZ,图像大小为1280×720 pixel或1920×1080 pixel;图像预处理部分对图像进行图像增强等处理,使图像特征更加明显,易于后面的处理,并且改变图像的大小,以满足车道线检测部分神经网络的输入图片大小的要求;测距部分是在神经网络检测出车道线之后,通过检测出的车道线可以计算出车辆的中间位置到两侧车道线的距离;曲率计算部分是在神经网络检测出车道线之后,通过检测出的车道线可以计算出车道线的曲率;预警部分是根据设定的阈值,当车辆偏离车道线或检测出现异常时进行提醒;图像处理显示部分是把检测出的车道线、测量的车道线的距离以及计算出的车道线的曲率显示在原始的图像上面;由于车道线检测以及测距系统最终要移植到海思平台,因此需要满足实时检测的要求。

    • 在图像预处理中,分别对输入图像的3个通道,使用3 × 3的滑动窗口进行中值滤波,去除干扰噪声,然后对滤波后的图像进行尺度变换,以满足神经网络对输入图片大小的要求,在进行尺度变换时,采用双线性插值的方法。

    • 针对利用深度学习进行车道线检测方法采用的骨干网络计算复杂度高,难以在资源受限的嵌入式平台实时应用,以及检测效果有限的问题。在考虑了U-net和Segnet网络结构的优点后,通过分析认为,可以借鉴U-net与Segnet来设计一种新的网络来满足在嵌入式平台实现实时车道线检测,并保证检测的准确性。借鉴U-net和Segnet网络设计车道线检测网络时,分别考虑了编解器-解码器的层数、最基本的卷积单元、卷积核大小,上采样方式及初始化方式等。

      改进后的车道线检测神经网络结构如图2所示,将车道检测建模为语义分割任务,能够实现目标的像素级语义分割,具有参数量少、运算速度快的特点,满足车道线检测的实时性和准确性要求。

      图  2  车道线检测神经网络结构

      Figure 2.  Lane line detection neural network structure

    • 分析Segnet和U-net网络,再根据它们的结构优点,所设计的编码器网络结构如图3(a)所示,为进一步提高计算速度,减少了网络层数,把下采样次数缩减为3次,只使用3个最大池化实现下采样,使网络可在相对较小的训练集中进行训练。同时为了防止过拟合,以及考虑到嵌入式平台移植实时性的问题,使用了Dropout层来代替batch normalized层,采用的卷积核仍为3 × 3,池化层窗口的大小仍为2 × 2。

      图  3  编码器和解码器网络

      Figure 3.  Encoder and decoder network

    • 解码器网络如图3(b)所示,使用3 × 3卷积核的转置卷积和Relu激活函数,同时使用2 × 2卷积核的转置卷积实现上采样,在上采样时使用双线性插值的初始化方法,以提高神经网络的训练效果以及训练速度,最后一层通过使用3 × 3的转置卷积层和一个Relu层,得到像素级的分类结果。

    • 曲率计算与测距模块系统框图如图4(a)所示,在检测出车道线后,就可以测量车辆距离两侧车道线的距离。首先对车道线检测神经网络输出的灰度图像做中值滤波,滤除干扰噪声,然后通过设置合适的阈值,生成二值图像,如图4(b)所示。

      图  4  车道线拟合

      Figure 4.  Lane line fitting

      在检测出车道线后,需确定车道线在图像中的位置,首先要确定车道线在图像水平方向的位置,由于车道线所在的像素都集中在一定范围内,如图4(c)所示,从水平方向上将图像以中心为轴一分为二,左右两部分图像在水平方向上的像素分布峰值就是车道线集中的位置,然后,对两部分图像在水平方向做直方图统计,从峰值的位置开始通过滑动窗口搜寻整个车道线,如图4(d)所示。

      在拟合车道线时,采用滑动窗口的方法,首先,设置滑动窗口的高和宽,其次,从直方图峰值的位置开始,以当前位置为中心,做一个网格化搜寻,其中初始位置为x,宽度可以人为设定,高度根据图片大小除以搜寻窗口数目计算得到,这里假设窗口数目为4。然后,对每个搜寻窗口分别做水平和垂直方向的直方图统计,统计出每一个搜索框区域内非零像素的个数,通过设置阈值T,过滤掉非零像素数目小于T的框。最后,通过计算每一个搜索框中非零像素坐标的均值,把均值作为当前搜索框的中心,考虑到计算复杂度,以及大多数路况以直道和弯道为主,因此采用二阶多项式拟合这些搜索框的中心点,就可以得到当前车道线的二阶多项式曲线参数,在利用二阶多项式逼近后,会得到一个曲线方程:$y=a x^{2}+b x+c$

      在检测出左右两条车道线后,需进行测距和曲率计算,由于ADAS采集系统安装在汽车的正中央,因此把图像的正中央作为车的中央即$x_{0}$,通过选取y值,就可以得到车道线水平位置,$x_{1}, x_{2}$,从而计算出车道线的距离,$d_{1}=\left|x_{1}-x_{0}\right|, \quad d_{2}=\left|x_{2}-x_{0}\right|$。同时可以利用公式(2),计算出右侧车道线的曲率。

      假设车道线的二次拟合曲线为:

      $$ y=a x^{2}+b x+c $$ (1)

      则在x m远处的车道线的曲率半径为:

      $$ R=\frac{\left(1+(2 a x+b)^{2}\right)^{1.5}}{2 a}$$ (2)

      由于计算时是以像素为单位,而计算出的距离应当是实际距离,因此需找出实际距离与像素之间的关系。通过测量分析,分别计算出水平方向和垂直方向对应的比例关系分别为:水平方向:m/pixel = 30/720;垂直方向:m/pixel = 3.7/700。

      考虑到车道线被遮挡、人行横道、十字路口等特殊情况对车道线检测结果的影响,从而影响测距和曲率计算,结合我国道路建设规划中规定道路宽度为3.75 m,基于该数据对测量距离进行判断,如果测量出的距离不合理,则舍弃,保留合理数据。

    • 考虑到驾驶场景的复杂性,以及确保驾驶的安全可靠,需对测量结果进行判断,并预警。车辆位于车道中央行驶时,根据测距部分测量出距离d1d2,若d1<d2,则判断为左偏;若d1>d2,则判断为右偏; 其他情况为正常驾驶,同时应设置阈值T,当 d<T时,进行预警,表示车辆即将偏离车道线。同时为避免测量结果出现异常,设置阈值T2,当d>T2时,表示测量结果受到十字路口、人行横道、前方车辆等因素干扰,此时测量结果不可信,应及时剔除,以达到准确预警的效果。

    • 海思芯片中有针对神经网络进行加速处理的硬件单元NNIE (Neural Network Inference Engine),由于目前NNIE 配套软件及工具链仅支持Caffe框架,使用其他框架的网络模型需要转化到Caffe 框架下。因此笔者的神经网络采用Caffe框架进行设计,将训练好的模型通过RuyiStudio进行测试、仿真,且生成WK文件,最终移植到海思平台Hi3559 CV100,见图5

      图  5  海思Hi3559 CV100

      Figure 5.  Hisilicon Hi3559 CV100

    • 目前关于车道线检测的数据集较多,包括CULane、Caltech Lanes、Mvirgo、TuSimple数据集等。

      Mvirgo数据集是由Michael Virgo进行拍摄并标注,是专门为车道线检测算法的研发测试建立的数据集,总共包含12764张图片,数据集内包括直道、弯道、晴天、雨天、多云等多种场景的车道线数据,各种场景的数据分布如图6(a)所示,原始的图片和标签分别如图6(b)~(c)所示,对数据集进行处理后的图片和标签分别如图6(d)~(e)所示。

      图  6  数据集

      Figure 6.  DataSets

    • 在确定了神经网络结构后,对TuSimple数据集,CULane数据集和Mvirgo数据集进行训练,并测试,测试结果如表1图7所示,可以看到Mvirgo准确率最高,效果也最好。

      表 1  不同数据集的准确率

      Table 1.  Accuracy of different data sets

      Data setsTuSimpleCULaneMvirgoTuSimple + Mvirgo
      Accuracy97.593.2198.2397.8

      由于3个数据各有特点,因此测试的准确率也各不相同,其中CULane数据集是由行车记录仪拍摄的照片,包含部分车身,车道线存在遮挡,因此测试效果最差,准确率也最低。TuSimple数据集训练效果也不好,主要原因是Tusimple数据集拍摄的图片较暗,车道线不明显,对神经网络的训练会产生一定的影响,导致检测准确率较低,对虚线的测量效果较差,虚警率高,测试结果如图7(b)所示。而Mvirgo数据集检测效果较好,主要原因是该数据集包含较多的场景,图片质量较高,缺点是该数据集数据量较少,并且只标注了当前道路的两条车道,对于一些特殊情况,无法处理,测试结果如图7(c)所示。另外,结合Tusimple数据集和Mvirgo数据集进行了训练,训练结果与只用Mvirgo数据集训练结果相似,测试结果如图7(d)所示,但对虚线的检测结果较差,因此选择了Mvirgo数据集。

      图  7  不同数据集的训练结果

      Figure 7.  Training results of different data sets

    • 笔者对比了现有的车道线检测网络,其中时间可能由于设备差异,存在区别,结果如表2所示,其中SegNetConvLSTM准确率最高,但是运行速度较慢,无法移植到海思平台做到实时检测,笔者提出的网络准确率与SegNetConvLSTM相当,但是速度方面具有明显的优势,可以移植到海思平台做到实时检测,在海思平台上的检测速度达到50 FPS,满足系统的要求。

      表 2  不同车道线检测网络结构的对比

      Table 2.  Comparison of different lane line detection network structures

      MethodAccuracyTime/msData sets
      Segnet[9] 96.78 5.2 tuSimple
      Unet[9] 96.46 4.6 tuSimple
      SegNetConvLSTM[9] 98.52 25 tuSimple
      UNetCpnvLSTM[9] 98.46 20.3 tuSimple
      Ours 97.5 1.2 tuSimple
      Enet-SAD[11] 96.64% 13.4 tuSimple
      LaneNet[12] 96.38% 16.6 tuSimple
      ERFNet[10] 95.80% 14.1 tuSimple
    • 考虑到驾驶场景的复杂性和多样性,选择多种场景的数据进行验证,测试结果如图8所示,结果表明该车道线检测方法在大多数场景中检测效果较好,但在人行横道、十字路口、车道线被完全遮挡的情况下表现不佳,针对这种情况,通过测距和设置阈值的方法,可以准确判断,依然能达到准确预警的效果。

      图  8  车道线检测结果

      Figure 8.  Lane line detection result

    • 文中借鉴Unet和Segnet网络结构,提出了一种轻量级的车道线检测网络,该网络具有较强的鲁棒性,并且能够移植到海思平台,实现实时检测,准确率达到97.5%,速度达到50 FPS,满足实时性要求。在车道线检测的基础上实现了测量车辆到两侧车道线的距离,以及车道线的曲率,同时当车辆偏离车道线或者检测出现异常时进行预警。

      与其他网络相比,文中所提出的车道线检测网络具有较高的准确率与速度,此外,在具有挑战性的驾驶场景的数据集上对该网络进行测试,以检查其鲁棒性。结果表明,该网络能够在大多数场景中稳定准确检测车道线,并能很好地避免虚警。

      针对人行横道、十字路口、车道线被全遮挡情况下表现不佳的问题,后续将通过结合车辆行人检测和交通标志检测,优化车道线检测方法,进一步提升检测性能。

参考文献 (12)

目录

    /

    返回文章
    返回