基于改进半监督阶梯网络的有载分接开关故障诊断方法_郑尚直.pdf

：年 月 第 卷 第 期基于改进半监督阶梯网络的有载分接开关故障诊断方法郑尚直，仲林林，王同磊，高丙团（东南大学电气工程学院，江苏 南京；国网江苏省电力有限公司电力科学研究院，江苏 南京）摘 要：有载分接开关（，）是变压器实现有载调压的关键部件，具有复杂的机电结构。基于振动信号的 机械故障诊断目前存在样本标记难度高而难以有效训练的难题。文中提出一种基于贝叶斯优化和卷积算子改进的阶梯网络（，），可在少标签情况下提高 机械故障诊断的精度。首先，引入阶梯网络对振动信号进行半监督学习，充分利用大量无标签样本的潜在信息对特征提取过程进行指导，提升少标签情况下阶梯网络的诊断性能。然后，用卷积算子替代阶梯网络中的全连接形式的线性变换，增强阶梯网络对非平稳振动信号的特征提取能力。在此基础上，借助贝叶斯优化对阶梯网络高维超参数进行寻优，在有限时间成本下显著提升了模型的诊断精度。实验结果显示，在仅有 个标签的情况下，对传动卡涩、芯子润滑不足、顶盖松动 类故障的诊断精度达，证明了 在故障诊断中的有效性。关键词：有载分接开关（）；故障诊断；振动信号；阶梯网络；半监督学习；贝叶斯优化中图分类号：文献标志码：文章编号：（）收稿日期：；修回日期：基金项目：国家自然科学基金资助项目（）引言有载分接开关（，）是变压器中唯一可以动作的部件，具有复杂的机械结构和电气特性。据统计，因 故障引起的变压器事故占变压器总事故的，其中紧固件松脱、异常机械磨损、异常转矩与传动卡涩等机械故障占比，异常过电压、绝缘油劣化等电气故障占比 ，且许多电气故障也都由机械故障发展而来。因此，对其机械性能进行有效评估对提高 乃至变压器的运行可靠性具有重要意义。振动信号是 状态估计的主要监测量。振动信号可通过在线监测、离线检测和故障模拟实验获取，在线监测获取的样本数量多，但很难进行有效标注；离线检测和故障模拟实验能有效标注样本，但可获取的样本数量少，因此 故障诊断往往面临样本标签数量少的问题。而传统机器学习方法在标签数量较少的情况下也具有良好的分类性能，常被应用于 的故障诊断。由于 振动信号是具有强非线性的非平稳信号，常规的时域或频域分析方法难以有效提取混叠的信息。文献利用希尔伯特黄变换（，）或经验模态分解（，）对 振动信号进行处理，提取了包络谱熵、低频包络、功率矩阵相似度等特征，实现了对弹簧松动、触头磨损、绝缘板松动等故障的诊断。文献基于相空间重构法，提取了相空间轨迹矩阵奇异值和相点空间分布系数 类特征，实现了对储能弹簧力下降、软连接松动等故障的诊断。基于传统机器学习的 故障诊断方法虽然在一定程度上缓解了对标签数量的需求，但仍要基于专家经验对每类故障的特征进行人工设计，且特征优劣将直接决定诊断效果。深度学习方法具有强大的非线性映射能力，能根据样本数据的内在规律，自动提取与分类任务最相关的特征。文献提取振动信号的增强递归图作为卷积神经网络（，）的输入，实现了对 种典型故障的诊断。文献将振动信号转换为时间加速度图像，通过 提取图像特征，再将所提特征与人工特征融合，用于故障诊断。上述文献初步探索了采用深度神经网络自动提取 振动信号特征，但由于标签数量较少，通过监督学习方法训练深度神经网络的诊断精度受到了限制。为有效利用大量无标签样本的潜在信息，提升基于深度学习的 故障诊断模型的诊断精度，文中提出了一种基于贝叶斯优化和卷积算子改进的阶梯网络（，）模型。引入阶梯网络对 振动信号进行半监督学习，充分利用大量无标签样本的潜在信息对特征提取过程进行指导，可提升少标签情况下阶梯网络的诊断性能；对阶梯网络进行卷积化改造，可增强阶梯网络对强非线性、非平稳振动信号的特征提取能力；借助贝叶斯优化对阶梯网络高维超参数进行寻优，在有限时间成本下显著提升了模型的诊断精度。卷积半监督阶梯网络 半监督学习原理半监督学习是一类结合监督学习和无监督学习的机器学习范式，能同时利用有标签和无标签样本进行训练。半监督学习的原理可用如图 所示的二分类问题进行阐述，其中黄色和绿色小球代表类别不同的有标签样本，灰色小球代表无标签样本。监督学习方法只能利用 个有标签样本训练二分类器，大量无标签样本的潜在信息未被有效利用，此时训练得到的二分类器分类边界如虚线所示，分类器的预测精度非常低。因此在监督学习的基础上，半监督学习引入无监督学习来挖掘 类样本的分布情况，进一步优化二分类器的分类边界，如实线所示，大大提高了分类器的预测精度。图 半监督学习原理 半监督阶梯网络结构阶梯网络是一种用于半监督学习的深度学习架构。层阶梯网络的结构如图 所示，包含 个编码器和 个解码器，其中一个编码器与解码器之间存在横向连接，整个网络结构形似“梯子”。其中，为 振动信号；、分别为第 层的无噪编码器输出、含噪编码器输出和解码器输出；、分别为、经过仿射变换和非线性激活后的结果；，为第 层的均方误差（，）；、分别为含噪编码器和无噪编码器的输出。阶梯网络的监督学习过程由图 左侧的含噪编码器实现，每层含噪编码器包含线性变换、批归一图 层阶梯网络的结构 化、注入噪声、仿射变换、非线性激活 种操作。设有标签样本为，其中 为有标签样本数量；为样本数据；为对应的标签。在 中注入高斯噪声，并将其作为含噪编码器的输入。线性变换操作将下层编码器的输出 通过权重矩阵 线性映射到本层编码器激活前的输出。批归一化和仿射变换操作使得 的均值为，标准差为，从而避免神经网络“梯度消失”的问题。注入噪声操作在 中注入高斯噪声得到含噪特征，注入噪声的目的是借助噪声对训练过程进行正则化。非线性激活操作通常采用 激活函数，但对于编码器的最高层则采用 激活函数，激活后得到本层编码器的输出。将最高层编码器的输出 用于预测样本的标签，监督学习过程的损失函数 即为预测标签 和真实标签之间的交叉熵：（）（）式中：（）为概率函数。阶梯网络的无监督学习过程由图 中间的解码器和右侧的无噪编码器实现。无噪编码器与含噪编码器结构类似，两者共享一个权重矩阵，唯一不同的是无噪编码器没有注入噪声操作。每层解码器包含线性变换、归一化、去噪 种操作。设全体样本为，其中 为全体样本数量。对于无噪编码器，直接将 作为其输入；对于解码器，将 进行归一化和去噪后作为其输入。线性变换和归一化操作将上层解码器的输出 通过权重矩阵 线性映射到。去噪操作通过横向连接，并结合 和 的信息构造出本层解码器的输出，试图通过 来估计无噪编码器的输出。无监督学习过程的损失函数 为解码器输出 与无噪编码器输出 之间的：，（）（）（）式中：为神经网络的层数；为第 层神经网络在无监督损失中的权重；为第 层神经网络的神经元个数；（）、（）分别为、的第 个分量；为神经元总数。则半监督阶梯网络的损失函数 为：（）半监督阶梯网络的卷积化改造阶梯网络中线性变换采用全连接形式，权重矩阵 和 的参数数量取决于相邻 层神经网络的神经元个数。设编码器第 层、层的神经元个数分别为、，则编码器第 层权重矩阵 的参数数量为，且 为样本的数据长度。由此可见，阶梯网络权重矩阵的参数数量正比于样本数据长度的平方。文中将 切换开关动作时所对应的振动信号作为阶梯网络的输入，振动信号 的采样时长为 ，采样率为 ，数据长度为。由此估计，全连接阶梯网络的参数数量十分庞大，将大大增加训练模型所需的计算开销和阶梯网络的过拟合风险。同时，全连接阶梯网络中大量参数都被用于提取振动信号的全局特征，但 振动信号具有非平稳、非周期的特点，振动信号的幅值频率随时间快速变化，不同时间段内振动信号的关联性较弱，因此全连接阶梯网络对 振动信号的特征提取效率很低。为减少阶梯网络在样本数据长度较长时的参数数量，提升阶梯网络对非平稳、非周期振动信号的特征提取效率，文中借鉴卷积神经网络中参数共享的思想，用卷积算子替代阶梯网络中的全连接形式的线性变换。对于编码器，线性变换过程被替换为如式（）、式（）所示的形式。（）（）（）（）式中：（）为第 层的卷积运算。对于解码器，线性变换过程被替换为如式（）所示的形式。（）（）（）式中：（）为归一化操作。阶梯网络超参数的贝叶斯优化方法 贝叶斯优化理论贝叶斯优化是一种基于高斯过程的序贯优化方法，可在有限的评估开销下得到目标函数的近似最优解。贝叶斯优化问题可描述为在参数空间中寻找一组参数 使得目标函数（）尽可能大。贝叶斯优化通过高斯过程建立（）的概率代理模型，并根据采集函数确定新的评估点，计算 对应的目标函数值，再将评估后得到的（，）用来更新概率代理模型，如此循环。对于由参数 和对应目标函数 组成的样本（，）训练得到的高斯过程，可以用贝叶斯公式推导评估点（，）的后验分布：，（，）（）式中：、分别为 所服从的高斯过程的均值和方差。在贝叶斯优化中，下一个评估点由采集函数确定。期望提升（，）是贝叶斯优化中最常用的采集函数之一。设前 次评估中目标函数的最大值为，下一次评估得到的目标函数值为，那么下一次评估对目标函数带来的提升为（，）。采集函数（）可表示为：（）（，）（）式中：（）为期望函数。选择采集函数最大值所对应的参数作为下一次评估的参数，记为。（）（）阶梯网络超参数的贝叶斯优化流程相较于常见的神经网络结构，阶梯网络除了包含神经网络的层数、每层神经网络的神经元个数、等基本的超参数外，还包含编码器中注入高斯噪声的幅值、每层解码器重构损失的权重、这 类特殊超参数。而这 类超参数对阶梯网络的性能影响较大，因此有必要对其单独优化。随着网络层数 的增加，郑尚直 等：基于改进半监督阶梯网络的有载分接开关故障诊断方法的维数和目标函数（）（）为超参数为 的阶梯网络在验证集上的测试精度）的评估时间也会增加，这对优化算法提出了很高的要求。在超参数向量维度不超过 的情况下，贝叶斯优化算法能在较少的评估次数下获得相对较好的优化效果。文中采用贝叶斯优化算法对 进行优化的流程如图 所示，其中（）为高斯过程；（）为高斯过程的期望；（，）为高斯过程的协方差。首先，基于高斯过程建立目标函数的概率代理模型，并在优化空间中采样 个初始评估点进行评估，为使初始样本更均匀地分布在超参数空间中，文中采用 序列采样初始评估点。其次，根据评估结果 更新概率代理模型的后验分布，并基于采集函数确定下一个评估点。然后，将最新的评估结果（，（）加入到 中，并跳转到更新后验分布步骤进行循环。最后，输出使目标函数最大的评估点作为优化结果。图 阶梯网络超参数的贝叶斯优化流程 实验与分析为与当前先进的半监督学习方法进行对比，文中首先在智能维护系统（，）数据集上进行相关实验研究，然后为测试 在 故障诊断上的性能，对国内某换流站采集的 数据进行实验。数据集 数据集是工业设备故障诊断领域中应用最广泛的数据集，文中使用 数据集测试阶梯网络和贝叶斯优化方法在振动信号故障诊断中的效果。采集 数据集的实验平台如图 所示，在该实验平台的电机转轴上安装 个双列轴承，并向每个轴承施加 的径向载荷。实验共进行 次，每次实验电机转动超过 圈。初始阶段轴承状态良好，随着转动圈数超过设计极限，部分轴承逐渐发生故障，此时电机还会继续转动，直至达到实验设定的转动圈数。实验中通过加速度传感器采集轴承径向的振动信号，采样频率为 ，并将每 采集到的振动信号保存到一个文件中。图 数据集实验平台 文中选取每类故障发生时对应的 个文件进行实验。正常样本选自第 次实验中轴承 的第 号文件；内圈故障样本选自第 次实验中轴承 的第 号文件；外圈故障样本选自第 次实验中轴承 的第 号文件；滚珠故障样本选自第 次实验中轴承 的第 号文件。将每个文件中的振动信号均等切分为 个振动信号片段，类振动信号可切分出 个样本，每个样本包含 个采样点。其中 个样本用于训练，个样本用于测试。文中对 数据集共进行 组实验，每组实验中抽取部分（分别为 个、个、个、个、个、个、个、个、个）训练样本进行标记，用于监督学习；所有的有标签和无标签样本都会用于无监督学习。由于 数据集中每个样本仅包含 个采样点，且振动信号比较平稳，文中采用未经卷积算子改进的贝叶斯优化阶 梯 网 络（，）和阶梯网络进行实验。每组实验均对和阶梯网络进行 轮训练和测试