自适应反归一化改进多层神经...轴流转桨水轮机协联功率预测_陆文玲.pdf

第 卷 第期 年 月广西大学学报（自然科学版）（）收稿日期：；修订日期：基金资助：国家自然科学基金项目（）；广西自然科学基金项目（）通讯作者：孔繁镍（），男，广西贵港人，广西大学教授，博士；：。引文格式：陆文玲，夏家辉，孔繁镍自适应反归一化改进多层神经网络轴流转桨水轮机协联功率预测广西大学学报（自然科学版），（）：自适应反归一化改进多层神经网络轴流转桨水轮机协联功率预测陆文玲，夏家辉，孔繁镍（南宁职业技术学院 智能制造学院，广西 南宁 ；广西大学 电气工程学院，广西 南宁 ）摘要：轴流转桨水轮机现场协联试验受经济和时间成本限制，获取的数据量有限，难以全面指导机组协联运行参数设置。为提高协联试验效率，实现水轮机协联工况下的功率追踪，同时避免水轮机物理模型高度非线性化难以模拟实际现场问题，提出一种基于改进多层神经网络数学预测模型，采用 函数、正则化、优化器并用 算法优化其梯度参数。针对神经网络实际预测缺乏真实值的问题，提出自适应反归一化区间端值判断策略提高实际预测准确度。通过协联与非协联仿真分析，结果表明所提出预测模型和区间策略能够在小样本情况下对轴流转桨水轮机协联工况实现有效的实际预测，具有较高精度。关键词：轴流转桨水轮机；协联试验；多层神经网络预测模型；自适应反归一化中国分类号：文献标识码：文章编号：（），（，）：，第期陆文玲，等：自适应反归一化改进多层神经网络轴流转桨水轮机协联功率预测 ，：；引言为了保证水电机组运行效率，机组运行部门一般要对新安装或长时间运行的轴流转桨水轮机进行协联、非协联试验，获取机组最优运行调控规律及效率等数据，为制定水电机组持续高效运行操作规范提供依据，但协联、非协联试验需要大量的经济和时间成本，通常只能获取有限的数据量。通过搭建预测模型可以有效弥补试验数据不足，指导现场测试，提高测试效率。轴流转桨水轮机系统天然具有复杂的水机电耦合特性，因而其物理预测模型呈现高度非线性化。考虑到实际协联试验现场存在诸如蜗壳、管壁压力、摩擦系数等随时波动问题，无法保证物理模型的准确性和普适性。数学模型通过数据学习抽象各输入输出特征关系，使其具备相对广泛的适用性，本文通过搭建神经网络数学模型进行水轮机协联数据预测。神经网络是具有强大的非线性数据拟合能力，诸多学者开展相关的应用基础研究。文献 结合（）神经网络建立水轮机组非线性模型，实现流量和力矩的仿真。神经网络可实现复杂非线性映射，但存在收敛速度慢，梯度下降法容易陷入局部最优等问题。针对收敛问题，文献 提出了一种多层人工神经网络过电压预测模型，通过增加隐藏层数目提高模型收敛速度。当激活函数为 进行权阈值修正时，需要从输入层至输出层逐层链式求导，当层数过深时，多层导数连续相乘会产生梯度消失，参数无法更新。考虑到梯度下降算法存在局限性，文献 采用 优化器进行改进，但只介绍 算法流程，未详细推导其与神经网络参数更新结合过程，而且其优化器的学习率等重要参数设置为定值，其收敛速率和迭代精度无法达到最优。数据处理方面，文献 将历史数据分为训练集和测试集，对其归一化处理，实现对历史数据预测，但都未体现反归一化过程对于实际预测的作用，仅将归一化公式按原格式逆运算，没有具体详细说明对应参数的物理意义。针对上述不足，本文提出一种改进多层神经网络（，）预测模型，基于 网络框架基础上，为提高网络收敛速度和避免梯度消失问题，将隐藏层数目扩展为有限数目，从数学角度分析利用激活函数 加快网络计算速度和收敛的原理。由于梯度下降法存在局部最优、收敛缓慢等问题，因此采用粒子群算法优化 优化器参数设置。采用 正则化防止过拟合现象。本文对 模型自身运作原理及优化方面进行详细的数学推导，并针对神经网络实践预测应用提出自适应反归一化区间策略，结合水轮机协联与非协联试验证明该数学模型和自适应策略的有效性。改进多层神经网络设计 神经网络 神经网络 结构如图所示。神经网络主要包含个运算过程：前向传播和反向学习。数据样本由输入层进入网络，经权值和阈值计算后抵达隐藏层，在隐藏层经激活函数作用后，通过新一轮的权、阈值计算到达输出层，输出层输出预测值。反向学习是依据损失函数对网络中的权值和阈值进行修正，使网络误差在精度范围内。神经网络主要涉及到输出层输出计算、权值 计算及更新。图中为输入层第个神经元接受样本，分别为隐藏层第个神经元阈值，为层间权值。广西大学学报（自然科学版）第 卷图 神经网络结构 网络框架为提高网络收敛速度，同时防止层数过深导致的梯度消失问题，改进多层神经网络在 结构基础上将隐藏层数目扩展为。其结构如图所示：图 结构 选 函数为激活函数：（）（，）。（）如图所示 的前向计算过程的矩阵表达式为，（），（），（），（）式中：、为权值矩阵；，（，）为阈值向量；，为隐藏层最后层与输出层间的权值向量；为输出值向量。推导得到 函数梯度更新公式：，。（）样本权阈值的梯度为 ，。（）第期陆文玲，等：自适应反归一化改进多层神经网络轴流转桨水轮机协联功率预测 过拟合正则化与梯度优化器过拟合现象是模型对当前数据拟合过深，对未学习的新数据难以做出正确的判断，模型缺乏泛化力。采用 正则，防止数值模型过拟合，在损失函数中加入正则项来表征模型的复杂度，（）。（）总样本的损失函数定义为 （）（）。（）式（）（）中：为正则项系数；，为总权值矩阵。梯度公式（）进一步更新为 ，。（）梯度算法采用 算法优化器，并 简记为，优化器计算过程为 ，（），（），（）（），（）?，（）?，（）?，（）式（）（）中：、为样本的一阶动量和二阶动量；、为各动量系数；?、?为一阶动量和二阶动量的扰动。取样本的一阶、二阶动量系数一致，得 梯度优化算法更新为 。（）同理可以推导得到、的更新公式，（）。（）优化梯度参数为了提高 优化器参数收敛速度和准确度，本文利用粒子群优化算法 对网络参数进行优化。粒子群的适应值函数 选取为 迭代后的总损失函数，个待优化粒子为 改进梯度法学习率，一阶、二阶动量系数、。参数优化流程如图所示。广西大学学报（自然科学版）第 卷图粒子群算法优化 参数流程图 自适应反归一化区间策略为了统一各特征的量纲，通常需要对样本数据，采用归一化处理，采用归一化公式 为 ，（）式中：；、分为为输入特征向量中的最大值和最小值。为了更好地进行数据学习及数据验证，需要将数据按一定比例划分为学习样本和预测样本，依据式（），对于预测样本的归一化输入数据，成型的 计算过程如式：，（），（），（），（）式中为网络输出归一化值。对应学习样本和预测样本，其反归一化公式为（）（，），（）（）（，），（）式（）中：，；，。对于实际预测场景，式（）中值，和，一般是未确定，故需要合理分析、逼近，最终找到一组合适的数据替代，和，的值，从而实现式（）反归一化运算。为了找到一组数 和 实现，。和 的数值替代效果越逼近，式（）计算的模型预测输出越接近真实情况。为判断 和 取值，本文构建设计了如下方案：方案：直接选取 和 为学习样本期望值的最大值最小值，即 ，。第期陆文玲，等：自适应反归一化改进多层神经网络轴流转桨水轮机协联功率预测方案：考虑到预测本质属性及轴流转桨水电机组输出功率范围，设计了一种自适应反归一化区间策略。将水电机组输出功率表达式令为（，）。以第个预测样本为例（，），其策略步骤如图所示。图自适应区间策略方案流程图 经过自适应反归一化区间策略处理后，预测样本（，）与学习样本（，）存在种关系，图中 、的计算公式分别为，、计算公式如下：（，），（，）。（），、计算公式如下：（，）（，），（，）（，）。（），、计算公式如下：（，），（，）。（）方案：假定获得了现场试验的真实值，即真实值向量已知，故能获取，和，的值，则 ，。算例分析 梯度优化在保持 网络 参数 一致 条 件 下，将 梯 度 优化 算 法 优 化 结果 与 、广西大学学报（自然科学版）第 卷 梯度算法和 网络比较。损失函数在迭代 次后的收敛曲线如图所示。由图可以看出，算法的损失函数收敛速度最快，误差精度最小。保持学习率相同前提下，梯度算法误差在 迭代到 次时与 算法相近，但总体收敛精度大于 结果，收敛速度明显比 梯度算法慢。各梯度算法学习率见表。表各梯度算法参数 梯度算法学习率动量系数 ，为验证粒子群算法优化 梯度参数效果，设粒子数目为，迭代 次，仿真结果如图所示。由图可看出，梯度优化算法的收敛速度及收敛精度都显著提高，优化后 参数设置见表。图 不同梯度算法收敛速度 图 优化 参数效果对比 表 优化参数数据 算法参数 仿真预测仿真分析一：取广西某水电站某台轴流转浆水轮机非协联试验获得的 组数据进行仿真，其中水轮机整定水头 。将 组历史数据分为学习集和预测集，学习集为总样本集的，其包含输入桨角、导叶开度和换算水轮机功率输出，预测集为总样本集的，待预测输入为、。数据集见表。第期陆文玲，等：自适应反归一化改进多层神经网络轴流转桨水轮机协联功率预测应用 模型对训练集训练，其效果如图所示，训练值与真实值曲线的高度重合说明 模型训练效果良好并具备预测能力。学习集样本训练完成后向模型输入预测集，不同反归一化策略方案预测效果如图所示。为了进一步验证本文所提出的自适应反归一化区间策略方案，绘制了如图所示的反归一化策略方案仿真预测效果图，各方案预测数据如表所示。其中方案所获得的预测值可视为最理想的情况，即对已知真实值的复现预测值。表非协联试验学习集与预测集数据 样本序号学习集样本序号预测集 图非协联试验 训练效果 图非协联试验 预测效果 表非协联试验预测值与试验真实值数据 样本序号方案预测值方案预测值方案预测值试验真实值 广西大学学报（自然科学版）第 卷方案预测值逼近试验真实值线，这是反归一化策略方案的必然结果。以相对误差，均方根误差（，），平均绝对误差（，）等指标评测预测值与试验真实值的距离。如表所示的仿真结果表明本文所提出的自适应反归一化区间策略具有对真实值的逼近能力。表非协联试验预测值评测指标 反归一化策略评测指标相对误差 方案预测值 方案预测值 方案预测值 仿真分析二：以广西某水电站水轮机协联试验获取的 组协联样本数据为仿真数据，其中整定水头 。协联试验时按照轴流转浆水轮机运行规范协联改变桨叶角度、导叶开度，在 组协联样本数据中取样本数据集的 为学习集，预测集取样本数据集的，学习集和预测集数据见表。图非协联试验预测复现图 图 协联试验 预测效果图 表协联试验学习集与预测集数据 样本序号学习集样本序号预测集 应用协联数据样本集，经过 训练并进行预测，预测效果结果如图 和表所示。自适应反归一化预测值（方案）比方案预测值效果略差，本质是由于方案反归一化区间均为真实值，因此其仿真得到的预测值等于真值，方案预测结果已经最大限度接近真实值，因此自适应反归一化区间策略第期陆文玲，等：自适应反归一化改进多层神经网络轴流转桨水轮机协联功率预测方案具有可行性。协联预测值评测指标见表。在小样本学习数据情况下，由表协联预测评测指标结果表明，自适应反归一化预测值仍能逼近试验真实值，具有良好的实际预测效果，进一步证明了所提 模型以及自适应反归一化策略的有效性。表协联试验预测值与试验真实值数据 样本序号方案预测值方案预测值方案预测值试验真实值 表协联预测值评测指标 反归一化策略评测指标相对误差 方案预测值 方案预测值 方案预测值 结论为了解决水轮机协联试验中数据不足导致的机组运行参数设置问题，本文针对 神经网络预测模型的梯度下降法收敛速度慢、激活函数在多层网络结构中易造成梯度消失、数据过拟合等问题，提出并推导了改进多层神经网络 的优化过程，根据神经网络实际应用时难以获取预测真实值的区间边界值问题，提出了自适应反归一化区间策略。基于水轮机协联与非协联工况案例分析验证了所搭建的轴流转浆水轮机功率预测模型的准确性和反归一化策略的有效性，模型预测结果可以为科学设置轴流转浆水轮机运行参数提供技术指导。参考文献：杨新华，吴利国，刘秀量双调水轮机最优协联测试系统的研究与设计水力发电，（）：詹巧月 水轮机活动导叶与转轮协联工况数值预测 广州：华南理工大学，谢进，陈启卷，李