基于YOLOv5s剪枝模型的输电线路全景监测研究_闫彦辉.pdf

书书书测控技术2023 年第 42 卷第 1 期模式识别与人工智能收稿日期:2021 12 02基金项目:国网新疆电力有限公司科技项目(5230BD2000Z)引用格式:闫彦辉，张楠，武建超，等 基于 YOLOv5s 剪枝模型的输电线路全景监测研究 J 测控技术，2023，42(1):10 15YAN Y H，ZHANG N，WU J C，et al Panoramic Monitoring of Transmission Line Based on YOLOv5s Pruning Model J Meas-urement Control Technology，2023，42(1):10 15基于 YOLOv5s 剪枝模型的输电线路全景监测研究闫彦辉1，张楠1，武建超1，张国庆1，唐锐1，倪威2*(1 国网新疆电力有限公司巴州供电公司，新疆 库尔勒841000;2 华北电力大学 电气与电子工程学院，北京102206)摘要:随着人工智能技术的快速发展，基于深度学习的目标检测算法在诸多行业得到了应用。针对当前输电线路影像中典型障碍物目标识别对人工要求较高的问题，提出了基于 YOLOv5 模型剪枝的算法来对输电线路附近典型目标进行检测。首先，算法进行基础训练后得到一个检测精度和推理速度两种性能比较均衡的网络模型，再进行稀疏训练以获得参数较为稀疏的神经网络模型，最后，采取不同剪枝策略对网络进行修剪，达到压缩模型大小提高推理速度的目的。在自制数据集上使用多种算法进行对比试验，实验结果表明:相较于 YOLOv4、CenterNet 和 SSD 算法，所提算法在保持相对较高检测精度条件下提高了检测速度，能够满足实际需要。关键词:YOLOv5;目标检测;稀疏训练;模型剪枝中图分类号:TP391文献标志码:A文章编号:1000 8829(2023)01 0010 06doi:10 19708/j ckjs 2023 01 002Panoramic Monitoring of Transmission Line Based on YOLOv5s Pruning ModelYAN Yan-hui1，ZHANG Nan1，WU Jian-chao1，ZHANG Guo-qing1，TANG ui1，NI Wei2(1 Bazhou Power Supply Company，State Grid Xinjiang Electric Power Co，Ltd，Korla 841000，China;2 School of Electrical and Electronic Engineering，North China Electric Power University，Beijing 102206，China)Abstract:With the rapid development of artificial intelligence technology，target detection algorithm based ondeep learning has been applied in many industries Aiming at the high manual requirement of typical obstacletargets recognition in current transmission line images，a pruning algorithm based on the YOLOv5 model is pro-posed to detect typical targets near the transmission line Firstly，a network model with balanced performance ofdetection accuracy and inference speed is obtained after basic training Then，sparse training is carried out toobtain a neural network model with relatively sparse parameters Finally，different pruning strategies are adopt-ed to prune the network to achieve the purpose of reducing model size and improving inference speed The ex-perimental results show that compared with YOLOv4，CenterNet and SSD algorithm on self-made datasets，theproposed algorithm can improve the detection speed while maintaining relatively high detection accuracy，andthe actual needs can be metKey words:YOLOv5;object detection;sparse training;model pruning目标检测是计算机视觉领域颇具挑战性的任务之一，现如今相关目标检测算法已经走进人们的日常生活，例如汽车无人驾驶、无人机图像识别、安全监控、交通监控等。在实际应用中，目标检测算法通常部署在云端服务器和边缘计算设备上，不论是部署在云端服务器还是边缘计算设备上，都对设备的内存和算力提出了较高的要求。在电力行业中，电网的安全可靠运行一直都是重中之重，尤其是输电线路的安全。由于01输电线路覆盖区域广，涉及地形较为复杂，所以对于输电线路周边环境进行监测是很有必要的。传统的输电线路监控只能提供视频监控和录像功能，无法对输电线路周围的目标进行主动识别，需要工作人员对图像进行人工分析，增加了工作人员的工作量;而将输电线路影像数据送到云端服务器进行分析则需要考虑到时延问题，不符合实时监测的要求。综上，有必要采取更加轻量级的目标检测算法在边缘计算设备上就地对输电线路周围典型目标进行识别判断。近年来深度学习理论1 不断发展，基于深度学习的目标检测算法在检测精度和速度上明显提升，当前基于深度学习的目标检测算法主要分为单阶段(One-Stage)算法和两阶段(Two-Stage)算法。两阶段目标检测算法会在图像上不同区域生成多个大小不一的候选框，然后利用神经网络对在这些候选框区域内提取到的特征进行分类和边框回归并得到检测结果，代表算法有-CNN2、Fast-CNN3、Faster-CNN4 等，但是生成候选框数量巨大，会占用大量的计算资源，虽然检测精度高但是推理速度慢，不太适用于实时性需求高的应用场景。单阶段目标检测算法不用生成候选框，省去了庞大的计算量，这类算法直接把目标边界框定转换为回归问题，借此得到目标的类别信息和位置信息，典型的单阶段算法有 SSD5(Single Shot multiboxDetection)和 YOLO6 8(You Only Look Once)系列算法。孙翠 英 等9 利 用 SSD 结 合 轻 量 级 网 络 Mo-bileNet10 的方法来检测输电线典型故障，在检测精度和模型推理速度上都取得了较好的效果。郑伟等11 利用 MobileNet 结合跨阶段层次结构 CSPNet12(CrossStage Partial Network)构建了轻量级的骨干特征提取网络，利用空洞卷积代替下采样中的深度可分离卷积来减少下采样后信息丢失，实现了多尺度和小目标的精确检测。陈嘉琛等13 在 YOLOv3-SPP(YOLOv3-Spatial Pyramid Pooling)网络基础上对网络进行剪枝处理，在牺牲较少检测精度的情况下加快了网络推理速度，降低了算法对硬件设备的算力要求。本文以YOLOv5s 算法为基础对输电线路附近典型目标进行检测，首先，对图像数据进行归一化处理，在 YOLOv5s网络上进行基础训练后再进行稀疏训练;然后，在稀疏训练的基础上对网络模型进行剪枝，实验结果表明剪枝后的模型在检测精度和推理速度之间达到较好的平衡。1YOLOv5 网络介绍YOLO 系列目标检测算法是单阶段目标检测算法中性能比较出色的算法，YOLOv5 是由 Ultralytics 公司于 2020 年 5 月 提 出 的，至 今 一 直 在 保 持 更 新。YOLOv5 一共有4 种版本，分别是 YOLOV5s、YOLOv5m、YOLOv5l 和 YOLOv5x，4 种版本模型大小和精度依次递增，其中 YOLOv5s 网络模型相比较于其他 3 个版本更加小巧、推理速度更快、检测速度可达140 f/s，其网络结构如图1 所示。由图1 可知，YOLOv5s 网络结构整体由3 部分构成，分别是 Backbone、Neck 和 Prediction。1 1Backbone 部分在 Backbone 部分，网络组成包括 Focus 结构、Bot-tleneckCSP 结构和普通卷积结构。Focus 结构是在YOLOv5 提出的，核心思想是对图像进行切片操作，并在通道维度进行拼接。当输入为 4*4*3 的图像，将图像按通道切片为 2*2 大小的特征图，然后再按通道拼接为 2*2*12 的特征图，如图 2 所示。Focus 结构有效减少了卷积，通过对张量进行维度变换的方式巧妙地实现了下采样，增加了通道维度并减少了计算量，提升了计算速度。在 YOLOv4 中，只有主干网络采用了 CSPNet 结构，在 YOLOv5 中不仅在 Backbone 中有 CSP 结构，在neck 部分也有 CSP 结构，但是两者结构不一样，主要体现在有无残差边，具体差异如图 1 所示。图 1 中C1-n 模块中 bottleneck 是有一处残差边，而 C2-n 模块是没有残差边的。在 Backbone 末端还有一个 SPP14 模块，通过并行的 3 个多尺度最大池化来增大感受野范围，避免了直接对特征图进行缩放导致的信息丢失，提高了模型精度。1 2Neck 部分Neck 部分由特征金字塔(Feature Pyramid Net-work，FPN)结构和路径聚合网络(Path Aggregation Net-work，PANet)结构15 组成，如图 3 所示。FPN 具有自上而下和横向连接结构，并以此来融合高分辨率的浅层特征图和包含丰富语义信息的深层特征图，实现了从单张图片到多个尺度都具有强语义信息的金字塔，顶层特征做上采样和低层特征融合。而 PANet 则是在 FPN 自上而下的路径之后又添加了一个自下而上的路径，将低层的语义信息向高层传递，强化特征提取能力。1 3Prediction 部分Prediction 部分包含边框损失和非极大值抑制(Non-Maximum Suppression，NMS)，YOLOv5 使用泛化交并比(Generalized Intersection over Union，GIoU)作为边框损失函数，GIoU 对尺度大小敏感度低，当预测框与真实框不重合时仍然可以进行优化。在对预测结果进行处理时，对众多预测框进行筛选，利用 NMS 操作来获得效果最好的预测框。2网络剪枝从设备性价比的角度考虑，在算力有限的边缘端11基于 YOLOv5s 剪枝模型的输电线路全景监测研究图 1YOLOv5s 网络结构图 2Focus 结构中切片操作图 3FPN 及 PANet 结构设备上部署大型目标检测网络模型是比较困难的，为了追求检测速度和精度之间的平衡，通常会采用模型压缩方法来对目标检测网络模型进行“瘦身”。本文采取的是对模型进行剪枝的方法来实现模型压缩，神经网络剪枝方法大致上可以划分为结构化剪枝和非结构化剪枝，非结构化剪枝主要是对权重直接进行修剪，其得到的权重矩阵是稀疏的，如果没有专门的硬件设