基于多任务学习的非侵入式负荷分解_刘辉.pdf

第 卷第期湖北工业大学学报 年 月 收稿日期 基金项目国家自然科学基金项目（）第一作者刘辉（），男，湖北武汉人，湖北工业大学教授，研究方向为电网控制与智能制造 通信作者江煦成（），男，湖北黄冈人，湖北工业大学硕士研究生，研究方向为非侵入式负荷分解 文章编号 （）基于多任务学习的非侵入式负荷分解刘辉，江煦成（湖北工业大学太阳能高效利用湖北省协同创新中心，湖北 武汉 ）摘要为解决目前非侵入式负荷分解研究中存在的模型数量多及训练时间长等问题，将多任务学习引入到非侵入式负荷分解研究中，提出一种基于多门多专家模型的非侵入式负荷分解方法，首先通过 模型将用电设备的功率分解转换为总功率序列与用电设备在序列中点时刻功率值的映射关系，其次利用 模型的门控函数及共用的 网络组兼顾不同用电设备功率分解任务的独特性和关联性，最终通过单个 模型同时完成多个用电设备的功率分解。在公开数据集上进行验证，测试算例验证了方法的有效性。关键词非侵入式负荷分解；多任务学习；中图分类号 文献标识码目前主流的非侵入式负荷分解（，）研究中，通过低频采样的功率、电流、电压等数据，使用不同算法得到总负荷数据序列与不同用电设备的负荷数据序列之间的映射关系，实现对不同用电设备运行情况的识别，在深度学习首次引入 研究取得很好效果之后，越来越多的学者开始使用深度学习模型构建 模型，通过深度模型使用回归或者分类的方法实现对不同电器功率的识别，例如时序卷积网络，卷积注意力块模型，以及 模型。以上研究，都是通过单任务学习模型，不同用电设备使用不同结构的模型进行负荷分解。虽然能做到较高的准确率，但不同用电设备负荷分解任务需要重新构造模型，操作较为繁琐，也存在训练单个模型时间较长的问题。解决上述问题，可以将用电设备的负荷分解作为不同的子任务导入至多任务学习模型，通过训练单个多任务学习同时对多个用电设备进行负荷分解。但是一般多任务学习模型训练中，不同任务之间的相关性对单个任务的最终结果有很大的影响，在任务之间相关性较弱时，多任务学习模型的表现并不比单任务模型更好，主要原因在于基于深度神经网络的多任务学习模型对数据分布差别与任务之间的关系较为敏感，且真实数据模型比较复杂，很难明确各个任务之间的区别，即使不需要明确任务差别的模型，为适应不同的任务，其模型参数也较多，计算成本较高。综上所述，本文提出一种基于 模型的非侵入式负荷监测方法，通过建模来描述不同用电设备分解任务之间的相关性，利用共享表示学习各分解任务特定的函数，同时自动分配模型参数去捕捉任务共享或者任务独有的信息，避免参数增多的同时，也能提高不同用电设备识别任务的准确度。最后在公开数据集上验证本文所提方法的有效性。非侵入式负荷分解模型模型流程图本文的非侵入式负荷分解模型如图所示。图 模型流程本文所需的数据为低频采样的有功功率数据，首先通过滑动窗口顺序读取总功率数据，同时对应读取滑动窗口中点时刻不同用电设备的功率值，之后拼接多个总功率序列得到总功率矩阵，以及不同用电设备功率序列，将多个电器的负荷分解作为多个任务，将总功率矩阵及不同用电设备功率序列输入到多任务学习模型中进行训练，最后输入待识别的总功率矩阵至训练好的多任务学习模型，输出得到各用电设备功率序列。模型本文采用 模型来实现负荷分解，具体原理如下式：（：）（）式中：，是一段总功率序列，其中总功率为不同用电器功率总和，为滑动窗口长度，为时刻对应的总功率值，为窗口中心时刻不同用电设备的有功功率值，其中，表示与：的映射关系。本文通过训练多任务模型，找出如式（）的映射关系，通过输入总功率序列数据至网络，输出得到对应序列中点时刻不同用电设备的功率值。模型本文使用的多任务学习模型为 。为了更好说明 的改进原理，先介绍传统的共享底层网络模型（，），如图所示图共享底层模型图表明当有两个任务的时候，传统的多任务学习模型结构，模型的输入层之后接一个共享底层网络，之后与两个塔层网络相连，塔层网络对共享底层输出的数据处理之后，得到不同任务的结果。当有个任务时，共享底层网络与个塔层网络连接，假设输入网络的数据为，则第个任务的输出（）（）式中：为第个塔层网络的函数表示，为共享底层的函数表示。基于共享底层的网络结构可以减少模型过拟合的风险，但是由于所有的任务共同使用共享底层的参数集，所以任务之间的差异容易导致模型优化冲突，虽然已有学者通过加设约束条件等做法来改善这种情况，但是随着任务数目增多，模型中的参数也大大增加，进一步带来了需要加大数据集等问题，且实验证明，在任务之间相关性不高时，传统的共享底层网络表现不佳。为解决上述问题，有学者提出将混合专家网络（，）层替换传统网络中的共享底层，同时对每一个任务都对应配对一个门控网络，得到 网络，其具体结构如图所示，网络将传统网络中，共享底层网络被替换为一组专家网络，与输入层以及塔层网络连接，每个专家网络为前向网络。当有个任务时，输入层也同时与个门控网络进行连接，输入数据至 模型，得到第个任务的输出可以表示为：（）（）（）（）（）式（）中：为第个专家网络的函数表示，表示第个门控网络在第个专家网络上的概率分布，且满足式（），为第个塔层网络的函数表示，门控网络为一层 变换器，对输入数据进行线性变换：（）（）（）式中：为待训练矩阵，为专家网络数量，为特征维度。图 模型通过替换 层与对应增加门控网络之后，结构可以根据不同任务的实际数据情况，根据式（）调整各自门控网络矩阵参数，得到不同的概率分布并对应转换为加权数，最后每个任务的输出为不同专家网络的加权和表示，这种做法能够充分考虑单独任务的特殊性。同时由于多个任务共用一组专家网络，在一定程度上也能兼顾任务之间的相关性。故 网络相比于传统的多任务学习模型鲁棒性更好，对于关联性较差的任务的训练效果也更好。非侵入式负荷分解由于实际生活中，不同用电设备的运行并没有湖北工业大学学报 年第期很大的关联性，故使用 模型可以很好的解决 问题。数据读取假设通过对总功率序列使用滑动窗进行数据读取，将每次读取的短序列总功率数据以及用电设备在滑动窗中点时刻对应的功率数据进行存储，最终得到总功率数据矩阵及用电设备的功率序列：（）（）式（）中：为时刻总功率值，为滑动窗口长度，为样本数量。式（）中：为用电设备编号，为个总功率短序列样本对应滑动窗中点时刻用电设备的功率值。之后将与数据标准化，导入到 模型中进行训练及测试。基于 的非侵入式负荷分解为解决不同用电设备如式（）的非侵入式负荷分解任务，将标准化后的总功率数据矩阵以及不同用电器的功率序列输入到 模型进行训练及测试，其具体流程见图。图 模型训练流程首先设定好 模型的相关参数和训练迭代数之后，将总功率数据矩阵以及多个用电设备的功率序列 至网络。网络通过遍历每个分解任务的训练集样本数据，更新各分解任务中式（）所示的门控网络数据矩阵 以及专家网络参数，计算各用电设备分解任务的输出结果、各任务的损失函数值及整体损失函数值。迭代次数到达最大迭代数之后，导出训练好的网络，输入待识别的总功率数据矩阵，网络输出识别的各用电设备的功率序列，完成负荷分解。本文能够设置的网络参数为专家网络的数量以及单元数以及训练迭代次数。通过多次实验，本文设置专家网络数量为 ，每个专家网络中含有的神经单元数为 ，迭代数为 ，优化器选用 ，学习率设为。算例分析本文选用 数据集来验证本文所提模型的有效性，数据集包含了个家庭的家用电器功率能耗数据，功率采样频率为。本文选用数据集中冰箱、洗碗机、浴室电器以及微波炉的有功功率数据。数据预处理选取的用电设备其运行情况各有特点，冰箱属于长时间运行变状态设备，洗碗机运行具有多状态及变状态组合的特点，浴室电器和微波炉皆为启停状态设备，但是浴室电器的高峰大小并不一致，启动运行功率不稳定，微波炉则相对稳定。为最大限度利用数据，本文取用各电器 个采样点数据进行重采样处理，每个采样点功率数据计算平均值，得到的平均功率作为新的采样点数据，将 每 个 设 备 的 原 始 功 率 序 列 转 换 为 长 度 为 的功率序列，并将几个用电器的功率序列求和，得到长度为 的总和功率序列。本文通过多次实验，设置滑动窗口长度为，同时在总功率序列首端和末端补零，通过滑动窗取值，得到一共 条总功率短序列，通过拼接短序列，得到大小为（，）输入数据矩阵，同时得到个用电设备长度为 的功率序列。将数据集的 作为训练集，作为验证集，作为测试集。各设备功率数据信息如表所示。表用电设备功率信息最小功率最大功率平均值标准差总功率 冰箱 洗碗机 浴室用电 微波炉 负荷分解评价指标本文选用平均绝对误差 ，归一化信号误差 以及标准化分解误差 来评价实验结果，如下：第 卷第期刘辉，等基于多任务学习的非侵入式负荷分解（?）（）（?）（）?（）式中：表示用电设备在时刻的真实功率值，?表示用电设备在时刻的预测功率值。实验结果对比本 文 选 用 （）模型、传统多任务学习模型（）来做多任务学习模型的实验结果对比，常规 预测模型，预测模型做单任务学习模型的实验结果进行对比。得到的 结果见表。表各模型 结果对比冰箱洗碗机浴室用电微波炉 由表可知，模型大部分电器识别结果的 值都较低，说明了 模型识别结果拟合较好，准确度更高。相对于其他模型，模型的 结果与 较为接近，即 识别的准确性较高，模型识别的拟合程度较好，故本文重点比较两个模型的功率分解结果，洗碗机功率分解结果对比图，其余电器对比结果见图图。（）分解结果（）分解结果图洗碗机分解结果对比（）分解结果（）分解结果图冰箱分解效果对比（）分解结果（）分解结果图微波炉分解效果对比（）分解结果湖北工业大学学报 年第期（）分解结果图浴室用电分解效果对比由图图知，模型相比于 模型能更准确识别电器的状态变化，如图中洗碗机的运行状态识别，模型能够更加准确判断电器的运行情况，同时分解功率值更接近于电器真实运行时的功率值。模型与各模型功率分解结果的 及 指标数据见表及表。表 实验结果对比冰箱洗碗机浴室用电微波炉 由表可知，模型功率分解结果的 指标相对于其他模型均较低，即 功率分解曲线的离散程度较小，更符合实际的功率运行情况。表 实验结果对比冰箱洗碗机浴室用电微波炉 由表的 指标结果可知，模型对浴室用电的分解结果精度较 模型分解结果有所下降，但是其他电器的分解结果精度则相较 分解结果较好且整体也均优于单任务学习模型，即 模型的分解精度结果更好。综上，在曲线拟合程度上更好，分解精度也较高，负荷分解的效果更好。由于深度学习存在模型训练时间长短的差别，本文将 模型训练时间与对照模型的训练时间进行对比见表。表模型训练时间对比 训练时间 训练时间选择的对照模型为单任务学习模型，不同用电设备的分解选用参数不同的模型进行训练，训练时间为训练不同参数模型所用时间的总和。由表可知，相对于单任务学习模型，模型可以同时分解多个用电设备的功率且用时最短，效率更高。且由表、表及表的实验结果，模型的功率分解结果拟合效果更好，离散度更小，精度更高，模型更具优越性。泛化性验证为验证本文模型的泛化性，通过提取其他房间相同电器的功率数据及对应的总功率数据，进行相同的数据处理操作，一共得到 条功率数据，以及大小为（，）的总功率数据矩阵，输入之前实验训练完成的 模型，得到 模型对其他房间用电设备识别结果，并计算相关指标，且由不同实 验 指 标 结 果 中，模 型 的 实 验 结 果 与 实验结果较为接近，故本文重点对两模型的泛化性实验结果进行对比，具体结果见图。（）分解结果图泛化性实验结果对比由图所示，虽然相对于原房间的测试结果各指标都有所下降，但是也仍然维持在较高水平，且也基本优于 模型，证明本文所提的模型具有良好的泛化性。结论本文提出一种基于 模型的非侵入式负荷分解方法，首先将低频采样的功率数据进行预处理，通过滑动窗读取用电设备及总功率数据之后，将不同用电设备的分解作为不同的任务，通过训练 模型，输入总功率数据矩阵，同时得到多个用电 设 备 的 功 率 序 列，实 现 负 荷 分 解。通 过 在 上进行实验，可以得到本文所提模型相对于第 卷第期刘辉，等基于多任务学习的非侵入式负