基于Elman神经网络修正的ARIMA预测模型.pdf

第44卷第2 期2023年6 月D0I:10.13340/j.jsmu.2023.02.010上海海事大学学报Journal of Shanghai Maritime UniversityVol.44No.2Jun.2023文章编号：16 7 2-9 49 8(2 0 2 3)0 2-0 0 57-0 5基于 Elman 神经网络修正的 ARIMA预测模型汪旭明，张均东，刘一帆，张刚lc（1大连海事大学a.船舶电气工程学院；b.轮机工程学院；c航海学院，辽宁大连116 0 2 6；2日本船级社（中国）有限公司，上海2 0 0 336)摘要：为实现船舶设备的预测性维护，提高轮机人员工作效率，提出一种由Elman神经网络修正的自回归综合移动平均（autoregressive integrated moving average，A R IM A）模型用于设备运行数据预测。对输入数据进行平稳化处理，建立相应的ARIMA模型；引入Elman神经网络对ARIMA模型的预测残差进行分析并建立Elman残差预测模型；将ARIMA模型的预测值与Elman残差预测模型的预测值相加，得到最终预测值。采用“育鲲”号船某航次中冷器的海水出口温度数据进行模型的训练和验证,将Elman-ARIMA组合模型与单一模型预测结果的平均绝对百分比误差进行对比分析，结果表明,Elman-ARIMA组合模型具有较好的预测性能。关键词：时间序列；Elman-ARIMA组合模型；数据预测；残差修正中图分类号：U672.7+1Modified ARIMA prediction model based on Elman neural network文献标志码：AWANG Xuming,ZHANG Jundong,LIU Yifan,ZHANG Gang1c(1.a.Marine Electrical Engineering Cllege;b.Marine Engineering College;c.Navigation College,Dalian Maritime University,Dalian 116026,Liaoning,China;2.Nippon Kaiji Kyokai(China)Co.,Ltd.,Shanghai 200336,China)Abstract:In order to realize the predictive maintenance of ship equipments and improve the efficiency ofmarine engineers,an autoregressive integrated moving average(ARIMA)model modified by the Elmanneural network is proposed for the equipment operation data prediction.The input data are smoothed,andthe ARIMA model is established;the Elman neural network is introduced to analyze the predictionresiduals of the ARIMA model,and establish the Elman residual prediction model;the predicted value ofthe ARIMA model is added to the predicted value of the Elman residual prediction model to obtain thefinal predicted value.The seawater outlet temperature data of the ship“Yukun intercooler are collectedfor model training and validation,the mean absolute percentage errors of prediction results of the Elman-ARIMA combination model and the single model are compared,and the results show that the Elman-收稿日期：2 0 2 2-0 1-2 0 修回日期：2 0 2 2-0 3-2 3基金项目：国家自然科学基金（U1905212，6 2 12 7 8 0 6）；大型船舶机舱李生数学建模关键技术研究（2 0 2 0-HYLH-37）作者简介：汪旭明（198 9一），男，湖北鄂州人，讲师，博士研究生，研究方向为船舶机舱自动化控制和轮机监控与仿真，(E-mail)wxuming_dmu ;张均东（196 7 一），男，浙江绍兴人，教授，博士，研究方向为控制与仿真、轮机自动化与智能化、轮机模拟器，(E-mail)zhjundong http:/hyxb 58ARIMA combination model is of better prediction performance.Key words:time series;Elman-ARIMA combination model;data prediction;error correction0引言近年来，智能船舶不断发展，机舱设备日趋精密化和智能化。为促进船舶系统和设备由事后维修和定期维修向视情维修转变，减轻轮机人员工作负荷，促进智能机舱发展,有必要对船舶系统和设备中一些典型参数进行预测和分析。若能稳定、准确地预测出设备参数,则轮机人员可提前采取相应的设备维护策略2 。目前新建船舶的海水冷却系统多采用开式冷却的中央冷却系统，系统设备直接与航外海水连通,工作条件苟刻,易发生故障,影响船舶安全稳定运行。因此，预测船舶海水冷却系统典型参数，对保障全船冷却系统稳定运行、促进航行安全具有重要意义3。目前应用较多的数据预测模型有时间序列4、神经网络5、回归预测6 以及多种方法组合7 的预测模型。郑卓等8 提出利用马尔科夫链修正的自回归综合移动平均（autoregressive integrated movingaverage，A RI M A）模型残差，建立加权马尔科夫模型预测船舶海水出口温度，但是没有采取措施改善该模型在拟合非线性数据中的局限性。孙晓磊等9采用反向传播（back propagation,BP）神经网络与自回归移动平均（autoregressive moving average，ARMA)混合模型预测船舶海水冷却系统的状态参数，该模型不仅具有神经网络在预测非线性数据方面的优势，而且具有ARMA较高的短期预测精度，但是不具有适应时变的能力。BAPTISTA等10 1建立ARMA与支持向量回归组合模型对飞机设备进行预测性维护,其中支持向量回归模型用于提取ARMA模型预测结果和原始数据的特征信息，在一定程度上弥补了ARMA模型在预测非线性数据方面的不足。由于ARIMA模型在预测非线性数据方面存在不足，且其差分过程会导致部分信息损失1，而Elman神经网络具有出色的非线性拟合能力,且有一定的局部记忆功能，本文提出用Elman神经网络修正ARIMA模型预测残差的组合模型。首先建立ARIMA模型对原始序列进行预测，然后将ARIMA模型的预测值与Elman残差预测模型的预测值求和，得到Elman神经网络修正的ARIMA（Elm a nARIMA)模型。本文采集“育鲲”号船某航次中冷器的海水出http:/hyxb 上海海事大学学报口温度数据建立Elman-ARIMA模型，将该组合模型与ARIMA模型12 、Elman模型13 进行比较,证明所提出模型的预测精度更高。1子预测模型1.1ARIMA模型先采用ARIMA模型对中冷器的海水出口温度数据进行建模预测。参考ARIMA(p,d,q)模型的结构表达式14,建立中冷器的海水出口温度预测模型如下：X=P1Xh-1+P2Xk-2+.+P,xk-p+8-018k-1-028k-2-.-0,8k-(1)式中:p为模型的自回归项数;q为模型的移动平均项数;（i=1,2,p）为自回归系数;0,(j=1,2,q)为滑动平均系数；i8lk=1,2,T为白噪声序列,其均值为0,方差为；11为按照时间顺序排列的温度数据序列。1.2Elman神经网络模型Elman神经网络具有一定的动态信息处理能力,其结构中“承接层”的存在，使其具有局部的记忆功能15。Elman 神经网络结构表达式为=g(w3x)x=x(-1)式中:y(为t时刻m维输出节点向量;x)为t时刻n维隐藏层节点单元向量;u(-1)为t时刻r维输人向量,xc为t时刻n维反馈状态向量,若rn,则采用神经网络节点补全策略（空位补0）;Wi为输入层到隐藏层的连接权值；W2为承接层到隐藏层的连接权值;W3为隐藏层到输出层的连接权值;g（)和f()分别为输出层和隐藏层的传递函数。Elman 神经网络模型结构见图1。X()W承接层图1Elman神经网络结构第44卷(2)输出层W3隐藏层W1O输入层 u(t-1)第2 期Elman神经网络的权值通过梯度下降法确定，训练目标函数采用误差平方和函数：E(w)=Z(y(w)-yl(w)2式中：y（w）为t时刻第i个输出神经元的实际值；j（w)为t时刻第i个输出神经元的预测值。经过迭代计算得出最小的误差平方和，取得优化后的权值。1.3Elman-ARIMA模型预测流程Elman-ARIMA模型预测流程见图2。首先获取状态参数时间序列，对非平稳时间序列进行差分运算,检验平稳性和纯随机性；然后根据处理后的数据特征建立相应的ARIMA模型,再根据残差数据训练Elman神经网络；最后求解ARIMA模型预测值与Elman模型预测的残差之和,完成对原始状态参数时间序列的预测。开始立获取状态参数序列具有平稻性和纯N随机性IY模型参数估计立模型拟合N模型有效YY模型预测图2 Elman-ARIMA模型预测流程2算例及结果分析2.1数据来源采用“育鲲”号船某航次的历史数据，包括主海水泵进出口压力值、中冷器海水进出口温度和低温淡水出口温度,采样时间间隔2 h,原始数据共7 2 期（T=7 2）。船舶的海水冷却系统的典型故障有主海水泵前管路脏堵、海水泵故障、中冷器海水侧结垢等。这些典型故障发生时都会引起中冷器换热问题，即中冷器内用来冷却淡水的海水量不足,无法进行有效换热，从而会使中冷器海水出口温度逐渐升高。因此,在对海水冷却系统进行典型参数预测时，中冷器海水出口温度是需要预测的一个重要参数。本文以中冷器海水出口温度为例，进行组合预测模汪旭明，等：基于Elman神经网络修正的ARIMA预测模型2.2ARIMA预测模型(1)序列平稳性和纯随机性检验。由中冷器海水出口温度前6 0 期数据（图3)可知，原始序列曲线有一定上升趋势。利用ADF单位根检验法计算得出t统计量为-1.52 12 16,对应的概率P=0.51710.05，大于1%、5%和10%检验水平的临界值，说明该序列不平稳，应对原始数据进行平稳化处理。由图4可知，经一阶差分平稳化处理后的原始数据接近平稳。再次利用ADF单位根检验法计算得出t统计量为-10.7 0 8 0 2,对应的概率P=0.00010.05，小于1%、5%和10%检验水平的临界值，说明序列平稳。图5是原始数据一阶差分后的自相关图。延迟1阶的自相关系数大于2 倍标准差，由此可判断序列具有短期相关性,不是白噪声序列。39r38d次差分后平稳037获取残差序列36立35残差数据预处理34立01020304005060训练预测模型数据期数T立确定模型参数立进行残差预测立将预测值与残差值相加立结束59型的建模与验证。将中冷器海水出口温度前6 0 期数据作为模型训练集，后12 期数据作为模型测试集，预测建模通过MATLAB完成。(3)2-2102030405060数据期数T图3中冷器海水出口温度前6 0 期数据(2)模型识别。图6 是原始数据一阶差分后的偏自相关图。由图5和图6 中呈现的拖尾态势可以确定,该模型为ARIMA（p,1,q）模型,只有滞后1阶的自相关系数大于2 倍的标准差，q可以取1。同理,滞后1阶和2 阶的偏自相关系数在2 倍标准差之外,说明p可以取2。为检验所选模型是否合适，计算赤池信息准则（Akaike information criterion，AIC）和施瓦兹准则（Schwarz criterion，SC）值并进行相应模型的误差分析，得到相对最优模型ARIMA(2,1,1),见表1。0.5-0.55048121620滞后阶数图5原始数据一阶差分后的自相关图(3)模型预测。将模型的自回归系数和滑动平http:/图4原原始数据一阶差分平稳化处理后的数据0.51！-0.55048121620滞后阶数图6原始数据一阶差分后的偏自相关图hyxb TI!60均系数用最小二乘法进行拟合后,再将模型用于预测12 期测试集数据。测试集数据预测结果既用于求出残差序列,又作为单一的ARIMA模型预测结果与不同的模型进行预测性能对比。2.3Elman残差预测模型首先根据ARIMA模型预测的测试集结果和拟合的训练集结果求出残差序列：Z=Y-y()式中：为所求的残差序列;；Y为原始数据序列;为模型预测或拟合后的序列。计算后的残差序列共69 期。对残差序列进行归一化16 处理：z-min-1y=2-Zmax-Zmin式中：y表示原始数据序列中的元素归一化后的值;z表示残差序列中元素的值；Zmax和Zmin分别为残差序列中元素的最大值和最小值。取前6 期参数预测下一期参数,Elman神经网络输入与输出数据的关系为yn=f(yn-1,Jn-2,yn-6)(6)最终形成以下训练矩阵：(1：(y7.yi+6)此时，长度为6 9 的残差序列转换成7 6 3的训练矩阵,每列是一组样本向量,最后一行是每组向量的期望输出。因预测12 期参数,故选择后12 组作为测试数据，前51组作为训练数据。为提高Elman神经网络预测的准确率，用单步预测代替多步预测对残差进行预测。隐藏层的节点数通过枚举法17 确定，根据经验公式确定枚举范围为6，9 ,得到在隐藏层节点数不同的情况下Elman神经网络预测模型的均方误差（me a n s q u a r e e r r o r，M SE）。取10 次试验的平均值，得到在隐藏层节点数分别为6、7、8、9的情况下Elman神经网络预测模型的MSE分别为1.7 7 34、1.2469、1.6 58 1、2.2 7 43。在隐藏层节点数为7 时Elman神经网络预测模型的MSE最小,说明这种情况下Elman神经网络分类性能达到最优。由此确定http:/hyxb 上海海事大学学报表1模模型检验误差(p,d,q)AIC值(1,1,1)2.569 99(1,1,2)2.589 35(2,1,1)2.559 81(2,1,2)2.609 26(3,1,1)2.610 13(3,1,2)2.635 84第44卷Elman神经网络结构为：输人层节点数为6（即前连SC值续6 期参数），隐藏层节点数为7，承接层节点数为2.730 207,输出层节点数为1（即下一期预测参数）。2.735 88用MATLAB进行仿真，得到的残差预测结果见2.675 63图7。由图7 可知,Elman残差预测模型的预测值逼2.785 32近温度残差值,Elman残差预测模型性能较好。2.786 19一温度残差值2.847 113-Elman残差预测模型预测值2值-1-2-3-4010203040506070残差期数T图7 Elman模型温度残差预测结果(4)2.4 Elman 模型为使对比结果更客观,利用Elman神经网络建立对原始数据的预测模型。数据处理方式与第2.3节的相同,建立相应的训练矩阵,此时长度为7 2 的(5)原始序列转化为7 6 6 的训练矩阵，形式如式（7）。同理，仍然选用后12 组作为测试数据，前54组作为训练数据，对温度进行单步预测。隐藏层节点数经多次试验比较后取8，输入层节点数为6，承接层节点数为8，输出层节点数为1。2.5Elman-ARIMA模型建立3个模型比较说明Elman神经网络修正的ARIMA模型对预测精度提升的效果。3个模型分(7)别为第2.2 节ARIMA模型预测值与第2.3节Elman残差预测模型的预测值求和得到的Elman-ARIMA模型、第2.2 节建立的单一ARIMA模型、第2.4节利用Elman神经网络建立的Elman模型。选用原始温度数据的后12 组作为测试数据，前54组作为训练数据，对温度进行单步预测。3种模型的预测结果及其平均绝对百分比误差（mean absolutepercentage error，M A PE)对比分别见图8 和表2。一真实值41-ARIMA模型预测值-Elman-ARIMA模型预测值40FElman模型预测值390./T3837363534图8 3种模型的温度预测结果24681012预测期数T第2 期表2 3种模型预测的MAPE对比期数ARIMA模型12.89222.74632.75142.10751.74561.97672.16082.67292.463102.384112.309122.441根据表2 可知：相较于ARIMA模型和Elman模型,Elman-ARIMA模型的MAPE明显较小，预测性能更好；随着预测期数的增加,Elman-ARIMA模型的性能提高越来越不明显，说明该模型更适用于短期预测。为验证Elman-ARIMA模型的可靠性,采用同样的建模过程分别预测中冷器低温淡水出口温度和主海水泵出口压力。分别计算3种模型预测的中冷器参考文献：1 CAO H,LIU Y F,WANG Y R,et al.Intelligent state evaluation method of marine engine room system C/Proceedings of 5th InternationalConference on Automation,Control and Robotics Engineering.IEEE,2020:498-503.DOI:10.26914/kihy.2020.032776.【2 蒋佳炜，胡以怀，方云虎，等船舶动力装置智能故障诊断技术的应用与展望J中国舰船研究，2 0 2 0，15（1）：56-6 7.D0I：10.19693/j.issn.1673-3185.01679.【3石昌峰基于径向基神经网络的船舶冷却水系统故障诊断D，大连：大连海事大学，2 0 12.【4王培良，张婷，肖英杰.基于改进PSO-ARIMA模型的船舶纵摇角度预测J.上海海事大学学报，2 0 2 1，42（1）：39-43.DOI:10.13340/j.jsmu.2021.01.007.5秦可，卜仁祥，李铁山，等.基于PCA和SAPSO的船舶风压差神经网络预测模型J.上海海事大学学报，2 0 2 0，41（2）：6-10.DOI：10.13340/j.jsmu.2020.02.002.6 】张矢宇，杨宇昊，陈尘，等.基于回归-卡尔曼滤波组合模型的航道整治区域船舶交通流时空预测J大连海事大学学报，2 0 2 1，47(1):37-44.D0I:10.16411/ki.issn1006-7736.2021.01.005.【7】徐梦茹，王学明.马尔科夫与ARIMA组合模型对地区降雨量的预测研究J.计算机应用与软件，2 0 19，36(3）：34-37.D0I:10.3969/j.issn.1000-386x.2019.03.007.【8】郑卓，曹辉，高鹤元，等基于加权马尔科夫链修正的ARIMA预测模型的研究J计算机应用与软件，2 0 2 0，37（12）：6 3-6 7.DOI：10.3969/j.issn.1000-386x.2020.12.010.9】孙晓磊，邹永久，张鹏，等。基于混合预测模型的船舶海水冷却系统状态参数预测J：舰船科学技术，2 0 18，40（8)：10 4-10 9.D0I：10.3404/j.issn,1672-7649.2018.08.020.1O BAPTISTA M,SANKARARAMAN S,DE MEDEIROS I P,et al.Forecasting fault events for predictive maintenance using data-driven techniquesand ARMA modelingJ.Computers&Industrial Engineering,2018,115:41-53.D01:10.1016/j.cie.2017.10.033.11】刘双印，黄建德，徐龙琴，等.基于PCA-SVR-ARMA的狮头鹅养殖禽舍气温组合预测模型J农业工程学报，2 0 2 0，36（11）：2 2 5-233.D0I:10.11975/j.issn.1002-6819.2020.11.026.12】孙晓磊，丁亚委，郭克余，等.基于ARMA模型的船舶海水冷却系统参数预测J.计算机测量与控制，2 0 17，2 5（7）：2 8 5-2 8 9.D0I：10.16526/ki.11-4762/tp.2017.07.071.(下转第7 6 页)http:/hyxb 汪旭明，等：基于Elman神经网络修正的ARIMA预测模型Elman 模型Elman-ARIMA模型5.7860.4772.9170.6572.4480.4762.1161.3441.7721.1252.1831.3242.6341.4742.6041.7312.5721.5452.4351.4892.8272.0413.2482.04061海水出口温度、中冷器低温淡水出口温度和主海水泵出口压力的MAPE,见表3。由表3可以看出，在对系统其他运行参数值的预测方面，本文所提出的Elman-ARIMA模型均具有良好的预测性能。表33种模型对3个参数预测的MAPE对比ARIMA参数模型模型中冷器海水出口温度2.387中冷器低温淡水出口温度5.103主海水泵出口压力3.4383 结 论建立Elman神经网络修正的ARIMA（Elm a n-ARIMA)模型,并对“育鲲”号船中冷器的海水出口温度进行预测。将Elman-ARIMA模型与Elman模型和ARIMA模型的预测性能进行对比，发现Elman-ARIMA模型能更有效地反映出中冷器海水出口温度的变化趋势。Elman-ARIMA模型对船舶冷却系统典型参数预测准确度的提高，有利于轮机人员提前采取相应的系统维护策略，保障海水冷却系统稳定运行，提升船舶的安全性。ElmanElman-ARIMA模型2.7951.3105.7794.1874.0963.2477617 ZHANG H,CUI Y,DENG H P,et al.An improved genetic algorithm for the optimal distribution of fresh products under uncertain demandJ.Mathematics,2021,9:2233.D0I:10.3390/math9182233.18 CHEN J,GUI P F,DING T,et al.Optimization of transportation routing problem for fresh food by improved ant colony algorithm based on tabusearchJ.Sustainability,2019,11:6584.D0I:10.3390/sul1236584.19 LIU L,WANG H,XING S H.Optimization of distribution planning for agricultural products in logistics based on degree of maturity J.Computers and Electronics in Agriculture,2019,160:1-7.D01:10.1016/pag.2019.02.030.20】李善俊，陈准莉基于NSGAI的带时间窗生鲜品配送路径优化J上海海事大学学报，2 0 2 0，41(2）：58-6 4.DOI：10.13340/j.j s mu.2020.02.011.21 LIANG Y J,LIU F,LIM A,et al.An integrated route,temperature and humidity planning problem for the distribution of perishable productsJ.Computers&Industrial Engineering,2020,147:0360-8352.D01:10.1016/j.cie.2020.106623.22沈丽，李成玉，甘彦，等，考虑货损和碳排放的生鲜产品配送路径J上海海事大学学报，2 0 2 1，42（1)：44-49.D0I：10.13340/j.jsmu.2021.01.008.23 ZHU S J,FU H M,LI Y H.Optimization research on vehicle routing for fresh agricultural products based on the investment of freshness-keepingcost in the distribution processJ.Sustainability,2021,13:8110.D01:10.3390/su1314811.24】李政道，周泓。基于限时送达服务的订单分派与生产运送调度的集成优化J.计算机集成制造系统，2 0 14，2 0（7）：16 43-16 53.D0I：10.13196/j.cims.2014.07.lizhengdao.1643.11.20140714.25 TORABI S A,HASSINI E,JEIHOONIAN M.Fulfllment source allocation inventory transshipment and customer order transfer in e-tailingJ.Transportation Research Part E,2015,79:128-144.D01:10.1016/j.tre.2015.04.004.26 HADIAN H,COLMOHAMMADI A M,HEMMATI A,et al.A multi-depot location routing problem to reduce the differences between thevehicles traveled distances:a comparative study of heuristicsJ.Uncertain Supply Chain Management,2019,7:17-32.DOI:10.5267/j.uscm.2018.6.001.27 SANTUCCI E.Quantum minimum distance classifierJ.Entropy,2017,19:659.D0I:10.3390/e19120659.28 NECRI R G,FRERY A C,SILVA W B,et al.Region-based classification of PolSAR data using radial basis kernel functions with stochasticdistancesJ.International Journal of Digital Earth,2019,12:699-719.D0I:10.1080/17538947.2018.1474958.29 WANG Y,LEI L F,ZHANG D X,et al.Towards delivery-as-a-service:effective neighborhood search strategies for integrated deliveryoptimization of e-commerce and static 020 parcelsJ.Transportation Research Part B,2020,139:38-63.D01:10.1016/j.trb.2020.06.003.30 PONNAMBALAM S G,ARAVINDAN P,RAJESH S V.A tabu search algorithm for job shop scheduling J.International Journal of AdvancedManufacturing Technology,2000,16(3):765-771.D0I:10.1007/s001700070030.31 NAKANDALA D,LAU H,ZHANG J J.Cost-optimization modelling for fresh food quality and transportationJJ.Industrial Management&DataSystems,2016,116:564-583.D0I:10.1108/IMDS-04-2015-0151.32 HSIAO YH,CHEN M C,LU KY,et al.Last-mile distribution planning for fruit-and-vegetable cold chainsJ.The International Journal ofLogistics Management,2018,29(3):862-886.D0I:10.1108/IJLM-01-2017-0002.33李国明，李军华。基于混合禁忌搜索算法的随机车辆路径问题J控制与决策，2 0 2 1，36(9)：2 16 1-2 16 9.(上接第6 1 页)13】郑娟毅，卓，苏海龙，等基于改进GA-Elman的无线智能传播损耗预测方法J计算机工程，2 0 2 1，47（7）：155-16 0.14】严彦文基于ARIMA模型的山东省GDP的分析与预测J数学的实践与认识，2 0 18，48（4)：2 8 5-2 92.15孟宪泽，付云朋，袁俊生，等利用Elman神经网络预测三元水盐体系相平衡溶解度J中国海洋大学学报（自然科学版），2 0 2 0，50(8):102-108.D0I:10.16441/ki.hdxb.hdxb.20190352.16 ZHANG L H,CHAO B,ZHANG X.Modeling and optimization of microbial lipid fermentation from cellulosic ethanol wastewater by Rhodotorulaglutinis based on the support vector machineJ.Bioresource Technology,2020,301:122781.D01:10.1016/j.biortech.2020.122781.17李晓理，梅建想，王康，等基于Elman神经网络的PM2.5质量浓度区间预测J北京工业大学学报，2 0 2 0，46（4）：37 7-38 4.DOI：10.11936/bjutxb2019010014.上海海事大学学报第44卷(编辑赵勉)(编辑贾裙平）http:/hyxb