基于残差网络的配电柜设备元件状态识别_张洋.pdf

文章编号：1000-5641(2023)02-0132-11基于残差网络的配电柜设备元件状态识别张洋,赖叶静,黄定江（华东师范大学 数据科学与工程学院,上海200062）摘要:随着工业智能巡检的不断发展,基于数字图像处理方法的设备元件状态识别系统被广泛应用.为提升配电室中配电柜设备元件状态识别的准确率,提出了一种基于残差网络(residual networks,ResNet)的设备元件状态识别方法.首先搭建数据采集系统,构建数据集;然后对配电柜图像,裁剪预设的设备元件目标区域,生成设备元件图像;对于设备元件图像,构建基于 ResNet 的元件状态识别模型并训练;使用训练完毕的模型识别元件的状态.以变电站配电室中配电柜设备元件数据集作为研究对象,对于特征复杂的元件采用单预测头的网络,对于特征简单的元件采用多预测头的网络;然后使用紧凑和剪枝的模型压缩方法在精度损失较小的情况下减少参数量和计算量;最后介绍巡检系统的架构设计,将 JetSon Nano 边缘终端作为算法模块的运行硬件,以减少通信成本.关键词:智能巡检;残差网络;图像识别;模型压缩中图分类号:TP391文献标志码:ADOI:10.3969/j.issn.1000-5641.2023.02.014Device component state recognition method of power distribution cabinetbased on a residual networksZHANG Yang,LAI Yejing,HUANG Dingjiang（School of Data Science and Engineering,East China Normal University,Shanghai200062,China）Abstract:With the continuous development of industrial intelligent inspection technology,the equipmentelement state recognition system based on digital image processing is widely used.In order to improve theaccuracy of power distribution cabinet(PDC)equipment element state recognition in a distribution room,aResNet(residual networks)-based equipment element state recognition method is proposed.Firstly,the dataacquisition system is set up and the data set is constructed.Then,for the PDC image,the preset devicecomponent target area is cropped to generate the device component image.For device component images,aResNet-based component state recognition model was constructed and trained,and the trained model wasused to identify component states.Taking the data set for power distribution cabinet equipment element insubstation distribution rooms as the research object,a network of single prediction heads is adopted as thecomponent with complex features,and the network of multiple prediction heads is adopted as thecomponent with simple features.Then,the compact and pruning model compression method is used toreduce the number of parameters and the calculation amount under the condition of less accuracy loss.Finally,the architecture design of the inspection system is introduced.A JetSon Nano edge terminal is usedas the running hardware of the algorithm module to reduce the communication cost.收稿日期:2021-08-24基金项目:国家自然科学基金(11501204,U1711262)通信作者:黄定江,男,教授,博士生导师,研究方向为在线学习、深度学习与计算机视觉.E-mail: 第 2 期华东师范大学学报(自然科学版)No.22023 年 3 月Journal of East China Normal University(Natural Science)Mar.2023Keywords:intelligent patrol inspection;residual networks (ResNet);image recognition;modelcompression 0 引言在配电室巡检中,传统配电柜设备元件状态信息的采集大都多采用人工记录.人工记录工作烦琐,效率较低.智能巡检系统的出现则顺应了时代的需要,例如智能巡检机器人1-3.近年来,许多数字图像处理方法应用于元件状态识别.一类是根据人工设计的特征进行识别的方法,如文献 4 使用 CCD(charge-coupled device)图 像 传 感 器 采 集 通 信 设 备 图 像,通 过 统 计 R(red)、G(green)、B(blue)三色直方图分布等像素信息,进行指示灯识别;文献 5 使用相机采集变电站开关柜图像,通过阴影去除、颜色模型二值化,进行开关定位、状态识别.另一类是基于深度学习自动提取特征的识别方法,如文献 6 提出的使用卷积神经网络对变电站的监控图像进行分析和识别.基于人工设计的特征进行图像识别存在识别准确率低、特征复杂多样等缺点,而基于深度学习的图像识别能够自动提取特征,将特征学习和分类器紧密联系,有效提升了识别精度.因此,基于深度学习的图像识别得到了广泛应用.由于残差网络(residual networks,ResNet)7图像识别速度快、准确率较高,故为提升配电柜设备元件状态识别的准确率,本文提出了一种基于 ResNet 的设备元件状态识别方法:首先,裁剪预设的设备元件目标区域,生成设备元件图像;然后,构建基于 ResNet 的元件状态识别模型进行元件状态识别,对于特征复杂的元件采用单预测头的网络,对于特征简单的元件采用多预测头的网络,并且使用紧凑和剪枝这两种模型压缩算法来减少模型的参数量和计算量.实验结果表明,本文方法对变电站配电室配电柜设备元件状态的识别准确率可达 99%以上.1 深度卷积网络概述深度卷积网络是指包含多个隐含层的卷积神经网络.1998 年,LeCun 等8提出了第一个卷积网络LeNet-5,此卷积网络包含池化层、卷积层、全连接层,每一层含非线性激活函数,其经改进应用于手写字符识别.19982012 年,卷积网络由于梯度小时问题、训练样本数限制、计算能力限制等因素未能成为主流方法.2012 年,Krizhevsky 等9使用 AlexNet 深度卷积网络参加 ILSVRC(ImageNetLarge-Scale Visual Recognition Challenge)比赛并获得冠军,深度卷积网络才得以被广泛应用.该网络相比之前的卷积网络的层数加深,用多层小卷积叠加来替换单个大的卷积,参数规模变大,并利用GPU(graphics processing unit)并行化来降低计算量,为之后深度卷积网络的发展奠定了基础.2013 年,Zeiler 等10提出了 ZF-Net,对 AlexNet 的结构进行了调整,并提出了一种卷积网络的可视化实现方法,此方法能够充分理解网络中间特征层的功能和分类器的运算,且特征图之间具有层次性,如果网络的层数越深,那么特征不变性和类别判别能力就越强.2014 年,Simonyan 等11提出了 VGG(visual geometry group)-Net,应用 3 3 的卷积核和 2 2 的最大池化层来设计网络结构,对不同网络 深 度 进 行 了 实 验,最 终 确 定 了 VGG19 和 VGG16 这 两 种 网 络 结 构.Szegedy 等12提 出 的GoogLeNet 将层数加深,增加了多种卷积核,使网络的宽度增加,最终确定了一个 22 层的网络结构.2015 年,He 等7提出了深度残差网络(deep ResNet),通过捷径连接将不同层数的输出融合,实现了高达 152 层的网络结构,不仅具有较低的复杂度,还解决了网络退化问题.2016 年,ImageNet 数据集比赛的图像识别正确率已达到约 97.1%,已经超过人类的识别正确率 94.9%,事实证明深度卷积网络在图像识别领域占据了重要的地位.第 2 期张 洋,等:基于残差网络的配电柜设备元件状态识别133 2 构建 ResNet 模型本章主要介绍识别网络的推理流程、训练流程、组成结构.2.1网络推理过程基于 ResNet 的识别方法,将特征提取和图像分类统一于一个网络中;然后将测试图像输入完成训练的网络便可得到该图像所属的类别及其相应的置信度.ResNet 识别的基本过程如图 1 所示,具体流程如下.预处理初始化图a b nResNet类别概率(p1,p2,p)预测类别类别 C原始图像图 1 网络推理过程Fig.1 Network inference process a bn(1)分辨率初始化:将原始图像分辨率初始化为 ,图像的通道数为 .MpiC(2)卷积网络提取特征:将初始化图像数据输入 ResNet,输出 个类别概率 ,选择概率最大的输出作为预测类别 .预测类别公式为C=argmax(pi).(1)2.2网络训练过程ResNet 训练过程可分为以下 4 个步骤.步骤一:生成或者收集图像样本,构建图像数据集,划分训练集和验证集.步骤二:确定网络结构,构建网络模型.步骤三:训练网络模型,具体流程如下.(1)根据 2.1 节中对输入模型的训练集图像,输出类别概率.(2)根据平均交叉熵损失函数计算误差.ResNet 的损失函数为L=1NNi=1Li=1NNi=1Mc=1yiclog2pic.(2)LNLiiyicipicic式(2)中:表示损失值;表示训练样本的个数;表示第 个样本的损失值;表示指示变量(0 或 1),如果该类别和样本 的类别相同就是 1,否则是 0;表示训练样本 属于类别 的预测概率.(3)根据误差计算卷积核中每个权重的梯度.(4)应用基于梯度的优化算法更新权重.步骤四:对模型进行精度、参数量、计算量的评估.2.3网络组成结构网络组成结构:卷积层、最大池化层、残差单元、全连接层.2.3.1 卷积层b b卷积层一般包括卷积运算13、批标准化运算14和激活函数:卷积运算使用权重组成大小为 的卷积核|w11w12w1bw21w22w2b.wb1wb2wbb|在数字图像上滑动,将图像点上的像素灰度值与对应的卷积核上的数值相乘,然后将相乘后的值相加1