基于矩阵乘积态的机械故障诊断方法研究_黄文静.pdf

基于矩阵乘积态的机械故障诊断方法研究黄文静，李志农*（无损检测技术教育部重点实验室（南昌航空大学），南昌330063）摘要 在机械故障诊断中，针对传统神经网络处理高阶数据难度大、网络参数多、耗费大量计算资源的不足，提出了一种基于矩阵乘积态的张量网络故障诊断方法。通过输入高阶张量故障数据到矩阵乘积态故障诊断模型中，将高阶张量表示为多个低阶张量，从而简化数据结构和参数量。为了验证该方法的有效性，将其应用在齿轮的故障诊断中，并与传统的卷积神经网络故障诊断模型进行对比。同时，验证了键维度对模型准确率的影响。结果表明：所提模型的键维度会影响模型准确率，键维度为 16 的模型准确率高于键维度为 8 的模型准确率；该模型在减小数据复杂度的同时，还可以识别不同故障类型，准确率达到 90%，比传统的卷积神经网络故障诊断模型性能更好。关键词 高阶张量；张量网络；矩阵乘积态；故障诊断 中图分类号 TP181;TH17 文献标志码 Adoi：10.3969/j.issn.1673-6214.2023.03.002 文章编号 1673-6214(2023)03-0149-06Research on Mechanical Fault Diagnosis Method Based onMatrix Product StateHUANGWen-jing，LIZhi-nong*(KeyLaboratoryofNondestructiveTesting(MinistryofEducation),NanchangHangkongUniversity,Nanchang330063,China)Abstract:Inmechanicalfaultdiagnosis,itisdifficultfortraditionalneuralnetworkstoprocesshigh-leveldata,andmanynetworkparametersconsumealotofcomputingresources.Therefore,thispaperproposesatensornetworkfaultdiagnosismethodbasedonmatrixproductstate.Byinputtinghigh-ordertensorfaultdataintothematrixproductstatefaultdiagnosismodel,thehigh-ordertensorisrepresentedasmultiplelow-ordertensors,thussimplifyingthedatastructureandreducingtheparameternumber.Inordertoverifytheeffectivenessofthemethod,itisappliedtothefaultdiagnosisofgearsandcomparedwiththetraditionalconvolutionalneuralnetworkfaultdiagnosismodel.Moreover,theeffectofbonddimensionontheaccuracyofthemodelwasassessed.Theexperimentalresultsshowthatthebonddimensionoftheproposedmodelaffectsthemodelaccuracy,demonstratingahigheraccuracywhenthebonddimensionis16incomparisontothatofthemodelwithabonddimensionof8.Whilereducingthedatacomplexity,themodelcanalsoidentifydifferentfaulttypeswithanaccuracyofabout90%,whichoutperformsthetraditionalconvolutionalneuralnetworkfaultdiagnosismodel.Key words:high-ordertensor;tensornetwork;matrixproductstate;faultdiagnosis0引言深度学习作为机器学习的新领域，其概念于2006 年提出1。从开始的解决机器学习问题，到目前解决人工智能问题，深度学习都拥有强大的功能。而神经网络作为深度学习的主要模型，它通过训练海量数据发现数据中的联系，保留数据中的有效信息，实现分类识别。深度神经网络是经过不断迭代运算而精确拟合任何所需的函数，凭经验来取得最优参数。同时，神经网络需要的参数较多，需占用大量存储空间，使得训练速度减慢2。随着数据维度的增加，神经网络的计算难度也会随之增加。而张量可以很好地表示高阶数据信息，且通过低秩张量结构表示高阶张量，可以使模型参数量变少3。因此，在有限的计算资源下，收稿日期 2023年2月10日修订日期 2023年4月20日基金项目 国家自然科学基金（52075236）；江西省自然科学基金重点项目（20212ACB202005）通讯作者 李志农（1966 年），男，博士，教授，主要从事机械故障诊断等方面的研究。2023 年 6 月第 18 卷第 3 期失效分析与预防June，2023Vol.18，No.3针对神经网络的不足，学者们开始逐渐重视张量网络。张量网络最简单的表示结构是矩阵乘积态（MatrixProductState，MPS）。MPS 是从 White 提出的密度矩阵重整化群演化而来的4-7。其不仅具有简单的结构形式和很强的学习能力，并且有自适应模型参数。由于在实际的数据集中，不同位置所需要的键的维度是不均匀的，因此，需要MPS 动态调节键的实际维度，使训练时的计算资源分配得更合理。MPS 功能强大，不仅适用于一维系统，也适用于高维系统中。Stoudenmire 等8提出利用 MPS 模型处理 MNIST（MixedNationalInstituteofStandardsandTechnology）数据的分类问题，这是第一个利用 MPS 张量网络处理监督判别型学习的研究，并且得到了较高准确度。Han等9是第一个代表性的运用 MPS 张量网络对MNIST 数据集进行无监督学习。Selvan 等10提出了局部无序张量网络模型，并通过 2 个公开可用的医学成像数据集评估模型，与相关基线方法对比，提出的模型减少了超参数和计算资源。Zauner-Stauber 等11将密度矩阵重整化群与矩阵乘积状态切线空间概念相结合，构建了一种均匀矩阵乘积状态的变分优化算法。孟烨铭12提出了一种残差矩阵乘积态，它可以看作是 MPS 的改良版本。MPS 在某些方面发展出传统机器学习生成型模型不具备的优势，但在机械故障中，还没有涉及到直接运用 MPS 张量网络模型进行故障诊断的方法。基于此，本研究提出一种基于矩阵乘积态的故障诊断研究方法，将采集到的振动信号经过维度变换为高阶张量，然后将这些张量作为 MPS 的输入，在 MPS 中进行特征映射与提取，通过训练与测试验证模型可行性。1模型基本原理1.1矩阵乘积态原理矩阵乘积态是张量网络中最简单的表达形式，它也被称为张量火车（TensorTrain）。可以将N 阶张量表示为 N 个较小的张量，从而使总参数量变为 N 的线性级，而不是指数级，降低高阶张量的复杂度。MPS 是由一个高阶张量通过奇异值分解成N 个低阶张量，然后 N 个低阶张量经过收缩近似成一个 N 阶张量。如图 1 所示，高阶张量由两边的 2 个二阶张量和中间多个三阶张量构成。图1低阶张量表示高阶张量Fig.1Low-ordertensorrepresentsahigh-ordertensor在多分类问题中，为了满足给定的输入训练数据得到对的输出数据，需要找到一个很好的近似函数。因此，应该从适合所有输入数据的函数中寻找最优函数，以便泛化到未观察的数据。式（1）为本模型的决策函数10,13：fl(x)=Wl(x)(1)其中：设输入的数据为 x，输入数据的标签个数为l，由标签 l 为张量索引构成函数 fl(x)，它是将输入x 映射到标签空间的函数；表示相同的特征映射，并将 应用到所有输入数据中；Wl是由标签l 决定的权重向量，或者看作是以 l 为索引的 N+1阶张量。在模型预测中，分类 x 的标签等于|fl(x)|的最大值。一个特定输入(x)的 fl(x)的张量图如图 2 所示。lWlf l(x)l=(x)图2Wl与特定输入(x)的缩并定义决策函数 fl(x)Fig.2ContractionofWlandaspecificinput(x)definesthedecisionfunctionfl(x)作为一个特征映射函数，通常是非线性的，将输入 x 映射到特征向量中，其表达式为：s1s2sN(x)=s1(x1)s2(x2)sN(xN)(2)sj(xj)将相同的局部特征映射运用到每个输入 xj中，所有局部特征映射的张量乘积构成特征映射函数，其中，指数 sj为 1d，d 为局部维度。因此，每个输入分量 xj都映射到一个 d 维向量中。特征映射 可以看作是 N 阶张量到 rank-1 张量的映射，其索引都是维度 d。Wl是由 NLdN个分量构成的权重张量，其中，N 表示张量阶数，NL则表示标签数量，d 表示局部维度，dN表示空间维度。如果用 Wl表示一个高阶张量进行计算是根本不可能的，所以需要考虑利用张量网络来表示高阶张量，以此来优化它。MPS 是一种最简单的张量网络，权重张量 Wl被一个 MPS 来近似表示，此方式操作简易、高效。权150失效分析与预防第18卷重张量 Wl的 MPS 分解形式为：Wls1s2sN=A1s1A12s2Al;jj+1sjAN1sN(3)式中，j是一个 m 维度的“虚拟”指标，MPS 的表达能力是由此维度决定的，称为键维度。键维度是连接 MPS 相邻因子张量的内部收缩指数j的维度，若 m 足够大，则 MPS 的张量网络态可以表示任何张量。MPS 通过增加键维度能够自适应地增长学习能力，通过自适应地调整键维度，其表达能力可以随着训练数据的增加而增长。通过矩阵乘积序列从左到右对j指数求和，并将权重张量 Wls1s2sN有效地表达出来，即 MPS，如图 3所示。ll图3矩阵乘积态近似权重张量 Wl图Fig.3MatrixproductstateapproximateweighttensorWldiagram图 3 中的标签索引 l 可以放在 MPS 的任一张量上，也可以移动到其他位置上，不改变总体权重张量 Wl。但要实现这个目标，需要将第 j 个张量与其相邻的张量缩并，如图 4 所示。然后通过奇异值分解（SingularValueDecomposition，SVD）分解缩并后的张量，恢复 MPS 的形式，l 也随之转移到第 j+1 处的张量，如图 5 所示。llj j+1=图4MPS 张量缩并图Fig.4MPStensorshrinkingdiagramljj+1UsjV lsj+1AsjAlsj+1Sll=图5MPS 恢复图Fig.5MPSrecoverydiagram在 MPS 中，需要找到一个可以最小化模型输出和预期输出之间的成本函数。本模型采用的是二次成本函数，它是反复最小化定义分类任务的成本函数，其形式为：C=12NTn=1l(fl(xn)lLn)2(4)其中：n 为输入的训练个数，1NT；Ln表示第 n 个训练数据的已知正确标签；lLn表示输入 xn和函数 fl的理想输出，如果 l=Ln，则lLn等于1，否则为0。Bj1lj+1sjsj+1?n为了降低成本函数 C，通过一次只近似地改变张量网络的 12 个局部张量，其他张量不改变。首先，将 2 个张量收缩为一个“键张量”，然后将决策函数表达为这个键张量与不包含这个键张量的张量网络，即：fl(xn)=j1j+1sjsj+1Bj1lj+1sjsJ+1(