基于Mogrifier LSTM-SVR的超级电容寿命预测.pdf

2023.7Vol.47No.7研 究 与 设 计收稿日期：2023-01-17基金项目：国家自然科学基金项目(U1804143)；河南省科技攻关项目(212102210146)作者简介：王福忠(1961)，男，河南省人，博士，教授，博士生导师，主要研究方向为人工智能控制、智能信息处理与故障诊断、电气系统运行与控制。通信作者：任淯琳基于Mogrifier LSTM-SVR的超级电容寿命预测王福忠，任淯琳，张丽(河南理工大学 电气工程与自动化学院，河南 焦作 454000)摘要：超级电容是储能系统中常用的储能元件，为了解决在对其使用寿命预测时，影响因子考虑不全面，预测精度不高的问题，提出基于支持向量机回归算法与改进的长短期记忆网络算法(Mogrifier LSTM-SVR)相结合的超级电容的使用寿命预测模型。通过引入温度、电压和电流三种超级电容寿命影响因子，建立更贴近实际的超级电容寿命模型，选取剩余容量作为特征参数。构建Mogrifier LSTM网络，在传统的LSTM中增加Mogrifier门机制，并利用支持向量机回归(SVR)对 Mogrifier LSTM 网络预测误差回归预测，修正误差。通过仿真实验和模型的预测结果对比分析表明，Mogrifier LSTM-SVR对超级电容寿命预测的准确性更高，误差波动量级更小。关键词：超级电容；寿命预测；长短期记忆网络；支持向量机回归；剩余容量中图分类号：TM 53文献标识码：A文章编号：1002-087 X(2023)07-0935-05DOI:10.3969/j.issn.1002-087X.2023.07.025Supercapacitor life Prediction based on Mogrifier LSTM-SVRWANG Fuzhong,REN Yulin,ZHANG Li(School of Electrical Engineering and Automation,Henan Polytechnic University,Jiaozuo Henan 454000,China)Abstract:Ultracapacitors are commonly used energy storage components in energy storage systems.In order to solvethe problems of incomplete consideration of influence factors and low prediction accuracy in the service life predictionof ultracapacitors,a life prediction model of ultracapacitors based on support vector machine regression algorithmand improved Mogrifier LSTM-SVR was proposed.By introducing temperature,voltage and current,a more realisticsupercapacitor life model was established,and the remaining capacity was selected as the characteristic parameter.The Mogrifier LSTM network was constructed,the Mogrifier door mechanism was added to the traditional LSTM,and support vector machine regression(SVR)was used to predict the error of the Mogrifier LSTM network andcorrect the error.Simulation experiments were carried out,and the comparison and analysis of the prediction resultsof the model show that Mogrifier LSTM-SVR haS higher accuracy in the prediction of ultracapacitor life,and theerror fluctuation is smaller.Key words:supercapacitor;life expectancy;long short-term memory network;support vector machine regression;surplus capacity超级电容作为储能设备常用的元件，相较于传统的电解电容器，具备密度高，充放电速度快，循环使用次数多等优点1。在超级电容寿命的估计当中，分为日历寿命检测和循环寿命检测2。对从初始状态到 EOL 状态，持续工作的日历寿命参数，检测时间成本较高，而循环寿命的检测对工作环境变量的要求较低，减少了测量和建模的复杂性。对超级电容的寿命预测，可以判断超级电容的性能状况，可以有效避免因超级电容失效造成储能设备的故障，为储能系统等提供数据参考。目前对超级电容寿命预测研究主要在构建超级电容寿命模型和数据驱动预测上3-5。许雪成等6基于阿仑尼乌斯方程建立了温度与循环使用寿命关系的预测模型，将温度作为影响超级电容老化的因素，对超级电容的循环使用次数进行研究。张莉等7建立超级电容解析寿命模型，是基于有限的老化实验数据，利用支持向量机的方法对老化趋势进行预测。M Ceraolo等8基于等效模型的参数、充放电电流和电压，使用龙伯格观测器对超级电容SOC进行观测。与构建寿命模型的方法相比，基于数据的方法对模型的精度要求不高，主要依赖于大量的数据，Soualhi等9基于模糊逻辑和神经网络，对加速老化测试提供的数据进行实时处理和时间序列预测，利用新模糊神经网络的方法监测超级电容器的健康状态。以上寿命模型建立和数据驱动预测方法，考虑影响超级电容寿命的因素不全面，而实际工作中导致超级电容的老化因素有很多且相互耦合。针对上述预测研究方法，本文引入温度、电压和电流更加综合的寿命影响因素，构建混合变量超级电容器劣化模型代替传统的等效 RC 模型，提出基于 Mogrifier LSTM-SVR的超级电容使用寿命预测方法。长短期记忆循环神经网络9352023.7Vol.47No.7研 究 与 设 计(long short-term memory networks,LSTM)，可以实现长时间记忆优势，具有很强的时序性，适应超级电容使用寿命预测，在训练之前，增加 Mogrifier门机制，可以在样本数量不变的情况下，获得更好的预测效果。支持向量回归(support vectorregression，SVR)，具 有 非 线 性 映 射 学 习 的 优 势，基 于Mogrifier LSTM的超级电容寿命预测的预测值与实际值存在误差，将对应的误差序列作为 SVR的输入，输出的误差序列预测值补偿到Mogrifier LSTM 的预测结果中，预测方法更加精确和适用。1 超级电容循环寿命分析与特征参数选取1.1 影响超级电容寿命的因素超级电容的寿命主要受到：内部结构、环境温度、充放电循环次数、电压以及电流等多因素的影响。总体影响的因素划分为三类：温度、电压和电流。超级电容器在温度升高时，容值下降，等效串联电阻的上升，反过来又促使其自身温度上升得更快，使其使用寿命次数大幅下降；充放电电压升高，会导致容值下降，在一组串联的超级电容模块工作时，容值小的超级电容，承压越高，寿命衰减越快；超级电容充放电电流的变化，也会影响超级电容寿命，恒压模式下，充放电电流变化越大，超级电容使用循环次数越小，对应容值下降越剧烈，超级电容性能越差。在实际工作中，影响超级电容使用寿命的因素往往不唯一，以上各因素是导致超级电容循环次数减少的重要原因。1.2 超级电容使用寿命模型及特征参数选取1.2.1 寿命模型构建单一的RC模型无法表示多种因素对超级电容寿命的影响，且单一等效 RC电路模型只能表示在几秒钟的时间范围内超级电容器动态，考虑不同因素下对超级电容的使用寿命预测，引入如图1所示线性混合变量超级电容器寿命模型。图中，Cs为标称容值和 Rs串联阻抗，R1和 C1为温度对超级电容影响的电阻和电容；R2和C2为充放电电压对超级电容影响的电阻和电容；R3和 C3为充放电电流相关电阻和电容。ui为影响超级电容寿命各因素相关电阻和电容上的电压。模型电路的状态方程为：usu1u2u3u4=000000-1R1C100000-1R2C200000-1R3C30usu1u2u3+1Cs1C11C21C3I(1)Cs受超级电容内部结构的影响，存在一个修正系数，修正后得到Cs的实际初始值C：C=Cs(2)C1C3随相应影响因素而变化，其参数识别函数可表示为：Ci=fi,i=1,2,3,4(3)在理想状态时，R1R3为 0，C1C3无穷大；在工作状态中，由于各项因素的影响，上述电阻和电容参数发生改变，且各因素之间是非关联的，对超级电容的容量影响是叠加的，模型能够逼近实际的混合型超级电容器容量。实际容量衰减的数学模型为：C=Cs(1+fiCs)+fi,i=1,2,3,4(4)由于不同的超级电容，由于内部结构参数不同，其使用寿命也不同。表 1为厂家提供的某公司生产的 CXHP2R7126R型的同批超级电容器单体的寿命测试结果。温度对超级电容循环寿命的影响可用阿伦尼乌斯公式表示：N=Aexp(-E/RTr)(5)式中：N为超级电容失效前循环次数；A为常数；E为活化能；R为玻尔兹曼常数，8.314 JmolK；Tr为热力学温度。根据厂家提供的日历寿命测试结果和阿伦尼乌斯公式可推导出超级电容的寿命与电压和温度的关系：L(V,T)=L0exp(-V/V0-T/T0)(6)超级电容的容量衰减由式(4)转换为：C(V,T)=C01+cT(T-Ts)/T cV(V-Vs)/V(7)式中：L和L0为实际寿命和参考寿命；V和V0为超级电容的实际电压和标称电压；T和 T0为超级电容的实际温度和参考温度；C和C0为超级电容实际容值和标称容值；cT和cV为温度和电压的衰减因子；Ts和Vs为初始温度和电压。在以往的研究基础上，引入电流对超级电容寿命的影响，流过超级电容有效值Ip的表达式为：Ip=1/(tn-ts)tstnic2(t)dt(8)式中：tn为循环测试的终止时间；ts为起始时间；ic为一个充放电循环周期内超级电容电流。因此本文引入一种新的超级电容寿命估算模型，根据温度、电压和电流三种因素的综合影响，确定衰减因子 c，将式(6)和(7)变形为：L(V,T,Ip)=L0tstnexp(-V/V0-T/T0-Ip/Ip0)dt /(tn-ts)(9)C(V,T,Ip)=C0(1+ct tstnexp(-VV0-TT0-IpIp0)dttn-ts)(10)图1混合变量超级电容器寿命模型 表 1 超级电容单体的寿命测试结果 h V/V t/25 35 45 55 65 2.3 25 000 12 500 10 000 36 000 12 000 2.5 20 000 12 000 50 000 18 000 6 000 2.7 10 000 60 000 25 000 9 000 3 000 2.9 50 000 30 000 12 500 4 500 1 500 3.0 25 000 15 000 6 250 2 250 750 3.2 10 000 7 200 3 100 1 000 320 9362023.7Vol.47No.7研 究 与 设 计1.2.2 特征参数选取由于超级电容在退化过程中本身的容量减小，因此可以选用超级电容的容量作为表征超级电容是否失效的特征参数。当超级电容的相对剩余容量低于初始容量的80%时，判定超级电容失效，寿命终结。2 超级电容寿命预测网络模型的构建2.1 预测模型的基本框架构建的超级电容寿命预测网络模型，其工作过程为：(1)搭建Mogrifier LSTM，确定最优输入和隐藏状态的交互次数，对 超 级 电 容 寿 命 样 本 训 练 集 进 行 训 练，保 存 训 练 好 的Mogrifier LSTM 网络参数；(2)将每一时刻 Mogrifier LSTM 的网络输出的训练结果与实际样本产生的偏差，与对应时刻的输入特征参数组成的时间序列，作为支持向量机回归(SVR)算法的输入样本，进行回归预测训练，保存训练好的 SVR参数；(3)组合两种已经训练好的模型，将测试集样本送入超级寿命预测模型中，验证模型预测的准确性。2.2 输入层及输入数据预处理网络的输入特征变量为温度、电压、充电电流和充放电循环次数，超级电容器的容量为深度神经网络预测的输出值。实测数据的取值范围分别为：温度取值范围为2565，电压的取值范围为2.73.2 V，电流为15 A，循环次数取值范围 0500 000次，由于数据的量纲不同，数量级差别较大，若不进行归一化操作，则在长短期记忆网络的训练时部分数据所占权重过大，影响预测结果。为了规范数据，更好地对超级电容进行使用寿命预测，构造数据集之前要进行归一化处理。归一化公式为：x=(xt-xmin)/(xmax-xmin)(11)式中：xt为超级电容寿命预测的原始数据集t时刻数据；xmax为超级电容寿命预测数据集各类数据最大值；xmin为超级电容寿命预测数据集各类数据中最小值。最后将归一化后的超级电容寿命预测的原始数据时间特征序列 F=f1，f2fn，划分为训练数据集 Ftrain=f1，f2fm和预测数据集Ftest=fm+1，fm+2fn，mn且m，nN。2.3 网络训练层2.3.1 Mogrifier LSTM如图2所示，LSTM网络主要由记忆单元 Ct、输入门 it、遗忘门 ft和输出门 Ot组成，可以长期记录信息，过滤无效信息，避免梯度消失。Mogrifier10不改变 LSTM 原有的结构，仅在训练前增加交互计算。在进入传统 LSTM 单元之前以交替方式进行 r 轮交互，如图 2，r=0 时，无 Mogrifier 门机制，xt与 ht-1彼此独立；当 r 为奇数时，更新 xt，执行式(12)；当 r 为偶数时,更新 ht-1，执行式(13)。在经过Sigmoid函数转换后，其控制状态中各元素值会介于0,1之间，因此引入 E，F矩阵进行恒等变换，避免梯度消失。xit=2 (Eihi-1t-1)xi-2t,for odd i 1,r(12)hit-1=2 (Fixi-1)hi-2t-1,for even i 1,r(13)进行充分交互计算后，再通过LSTM的遗忘门 ft、输入门it，输出门 Ot，进行网络训练，对当前时刻相对容量预测值控制输出，并转换得到预测值Yt。2.3.2 支持向量回归SVR由于 Mogrifier LSTM 网络每一时刻输入对应超级电容寿命训练误差，构成的误差样本序列是非线性的，支持向量回归(SVR)可以将非线性数据映射到高维数据空间中，自变量和因变量具备很好的线性回归特征，预测效果取决于核函数及核函数参数的选取，本文采用 RBF 函数为核函数 K(xi，xj)：K(xi,xj)=exp(-|xi-xj|2 22)(14)式中：为高斯核的带宽。SVR回归预测函数为：f(x)=i=1m(i-i)K(x,xi)+b(15)2.4 Mogrifier LSTM-SVR网络Mogrifier LSTM-SVR 模型对超级电容的寿命预测基本逻辑流程如图3所示。Step1：数据预处理，对数据集进行划分；Step2：初 始 化 Mogrifier LSTM 和 SVR 的 参 数，设 置Mogrifier LSTM 交互次数、迭代次数、惩罚系数 C和核参数等；Step3：对 Mogrifier LSTM 进行训练，保存训练好的模型参数，输出结果与实际值做差，产生误差序列；图2Mogrifier LSTM网络结构图3超级电容的寿命预测基本逻辑流程9372023.7Vol.47No.7研 究 与 设 计表 2 超级电容寿命预测分组 编号 V/V I/A t/放电深度/%1 2.7 1 25 50 2 2.7 3 25 50 3 2.7 5 25 50 4 2.9 3 25 50 5 2.9 3 50 50 6 2.9 3 65 50 7 2.7 3 65 50 8 3.2 3 65 50 Step4：Step3 中的误差序列与对应时刻网络的输入特征值，作为SVR的输入样本序列，完成SVR训练，保存参数；Step5：组合训练好的 Mogrifier LSTM 和 SVR，将超级电容寿命预测的测试样本集送入组合后的网络，输出结果，验证其对超级电容寿命预测的精度。3 实验分析3.1 样本数据集构造实验选用8个CXHP2R7126R型的同批超级电容器，其工作电压为 2.7 V，标称电容值为 12 F，工作温度范围为-2570。实验方案如表2所示。将8个被测超级电容器按照温度变量、电压变量和充电电流变量进行分组，其中13号样本将充电电流作为对比条件，46号样本将温度作为对比条件，68号样本将电压作为对比条件，探讨充电电流、工作温度和工作电压对超级电容器的寿命影响。根据超级电容寿命经典失效判据，超级电容器的使用寿命实验是在具备恒温控制条件的老化实验平台上进行，当超级电容的相对剩余容量低于原始容量的 80%时，认定超级电容不能达到原本的要求。Mogrifier LSTM网络结构参数：r=5，Dropout为 0.3，迭代次数为100次，优化器选取Adam，选用均方误差计算损失值。SVR的最优惩罚系数C为500，核参数为0.01。3.2 预测结果分析根据表 2 中 18 号超级电容的预测条件，对超级电容的使用循环寿命进行预测，仿真实验平台为MATLAB2018a，搭建超级电容寿命预测模型的深度学习框架。2、3、7、8号超级电容寿命预测仿真结果如图4所示。由图4可知，Mogrifier LSTM-SVR预测模型的拟合曲线几乎与实际数据重叠，证明了 Mogrifier LSTM对时间序列数据的挖掘能力和 SVR 对 Mogrifier LSTM 产生的非线性误差序列的预测能力，同时预测结果中 3号相较于 2号超级电容的充电电流增加，循环寿命减小；7号相较于2号超级电容的工作温度增加，循环寿命减小；8号相较于2号超级电容的电压增加，循环寿命减小，与实际超级容的寿命衰减趋势吻合，证明了预测模型的适用性。由表 3可得，在 8组样本的寿命预测中，Mogrifier LSTM-SVR 的 R2比传统的 LSTM 和 LSTM-SVR 组合模型更加趋近于 1，验证了增加 Mogrifier 门机制后的 LSTM 具有更深的数据挖掘能力。对超级电容寿命误差 MSE 的波动值降低至10-5量级，预测误差小，更加适用于对超级电容进行寿命预测。4 结论本文在对超级电容的使用寿命预测中，引入了电流、电压和温度三种影响超级电容寿命的因子，提出一种新的容量估算模型，更加逼近实际的混合型超级电容器的容量。提出了基于Mogrifier LSTM-SVR的超级电容器RUL预测方法，改进传统的LSTM，增加Mogrifier门机制，在样本数量一定的情况下，充分挖掘时间序列原始数据中的微弱特征，结合了SVR 机器算法，对 Mogrifier LSTM 网络测试产生的误差序列，进行回归预测，补偿到原Mogrifier LSTM 网络中去，提高了对超级电容使用寿命预测的精度。根据仿真实验分析，本文提出的算法误差更小，数据拟合度更好。图4超级电容容量预测9382023.7Vol.47No.7研 究 与 设 计参考文献：1ZHOU Y T,WANG Y A,WANG K,et al.Hybrid genetic algorithmmethod for efficient and robust evaluation of remaining useful lifeof supercapacitorsJ.Applied Energy,2020,260(4):114169.2MISHRA R K,CHOI G J,SOHN Y K,et al.Reduced grapheneoxide based supercapacitors:Study of self-discharge mechanisms,leakage current and stability via voltage holding testsJ.MaterialsLetters,2019,253:250-254.3CHEN Z,SUN H,DONG G,et al.Particle filter based state ofcharge estimation and remaining dischargeable-time predictionmethod for lithium-ion batteriesJ.Journal of Power Sources,2019,414(28):158-166.4MA Z Y,YANG R X,WANG Z P.A novel data-model fusion stateof health estimation approach for lithiumion batteriesJ.AppliedEnergy,2019,237:836-847.5CADINI F,SBARUFATTI C,CANCELLIERE F,et al.State-of-life prognosis and diagnosis of lithium-ion batteries by data-drivenparticle filtersJ.Applied Energy,2019,235:661-672.6许雪成,刘恒洲,卢向军,等.超级电容器容量寿命预测模型研究J.电源技术,2019,43(2):100-102,112.7张莉,时红雷.超级电容器的老化趋势分析J.电子测量与仪器学报,2018,15(7):187-191.8CERAOLO M,LUTZEMBERGER G,POLI D.State-of-chargeevaluation of supercapacitorsJ.Journal of Energy Storage,2017,11(12):211-218.9SOUALHI A,MAKDESSI M,GERMAN R,et al.Heath monitoring of capacitors and supercapacitors using the neo-fuzzy neuralapproachJ.IEEE Transactions on Industrial Informatics,2018,14(1):24-34.10 MELIS G,KOCISKY T,BLUNSOM P.Mogrifier LSTMC/Proceedings of International Conference on Learning Representations.Addis Ababa,Ethiopia:International Conference on Learning Representations,2020.表 3 算法精度比较 预测 模型 RMSE MSE R2 1 LSTM 0.085 6 0.007 3 0.765 2 LSTM-SVR 0.102 7 0.010 5 0.866 2 Mogrifier LSTM-SVR 0.004 1 1.6810-5 0.999 7 2 LSTM 0.086 9 0.007 6 0.758 2 LSTM-SVR 0.039 7 0.001 6 0.960 1 Mogrifier LSTM-SVR 0.007 2 5.1810-5 0.999 6 3 LSTM 0.108 8 0.011 8 0.845 1 LSTM-SVR 0.001 7 0.028 9 0.957 1 Mogrifier LSTM-SVR 0.009 2 8.4610-5 0.999 0 4 LSTM 0.084 6 0.007 2 0.865 7 LSTM-SVR 0.038 9 0.001 5 0.945 7 Mogrifier LSTM-SVR 0.003 2 1.0210-5 0.999 7 5 LSTM 0.097 1 0.009 4 0.851 9 LSTM-SVR 0.041 3 0.001 7 0.957 7 Mogrifier LSTM-SVR 0.008 2 6.7210-5 0.999 3 6 LSTM 0.282 6 0.079 8 0.844 7 LSTM-SVR 0.128 7 0.016 6 0.901 5 Mogrifier LSTM-SVR 0.007 8 6.0810-5 0.999 6 7 LSTM 0.047 4 0.022 4 0.879 7 LSTM-SVR 0.024 2 0.005 8 0.952 0 Mogrifier LSTM-SVR 0.007 7 5.9310-5 0.999 4 8 LSTM 0.059 8 0.003 6 0.899 7 LSTM-SVR 0.030 2 0.000 9 0.955 2 Mogrifier LSTM-SVR 0.006 8 4.6210-5 0.999 5 939