本发明涉及智能电网,尤其涉及一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法。
背景技术:
1、智能电网已经成为能源发展的必然趋势,其关键技术是了解电能详细用量,然后进行优化用电和配电,以实现能源的合理利用。这个过程被称为负荷监测。目前,由于经济成本低、安装简便的原因,非侵入式负荷监测已成为主流的监测方式。
2、非侵入式负荷监测通过在住宅总电表处安装监测仪器,收集该房屋内的电压、电流、有功/无功功率等信息。这些数据经过特征提取后,与预先建立的电器负荷特征库进行对比,以识别房屋内各电器的用电情况,实现负荷分解。这种方法有助于减少信息的重复获取,提高了监测的效率。
3、目前,非侵入式负荷分解的实现方法主要基于深度学习,利用各种网络层如卷积神经网络、循环神经网络等来进行特征提取。然而,尽管这些网络模型在特定数据集上表现出了不错的分解精度,但是卷积神经网络无法有效提取时间序列信息,而循环神经网络的通道信息提取能力较弱。此外,这些模型的泛化能力较差,对于新的数据集,需要重新进行训练。
技术实现思路
1、为了至少能够部分地解决现有的基于深度学习的负荷分解方法存在的特征提取能力有限以及模型泛化能力差的问题,本发明提出了一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法。
2、本发明提供的一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法,包括:
3、步骤1:构建非侵入式负荷分解网络,包括依次连接的特征提取模块、第一特征增强模块、三个第二特征增强模块和输出模块;其中,在第一特征增强模块和第一个第二特征增强模块之后均进行池化操作;在最后两个第二特征增强模块之间进行上采样操作;对应地,所述非侵入式负荷分解网络的负荷分解过程包括:
4、将负荷数据输入至特征提取模块进行特征提取以生成特征序列,将特征序列输入至所述第一特征增强模块以进行旋转位置编码并学习特征序列中的全局特征,将全局特征进行池化操作后依次输入至前两个所述第二特征增强模块以逐层学习特征序列中的局部特征,将局部特征进行上采样操作后和全局特征进行融合,将融合后的特征输入至最后一个所述第二特征增强模块以得到最终的融合特征;所述输出模块根据最终的融合特征进行负荷分解;
5、步骤2:采用目标类型电器的负荷数据对所述非侵入式负荷分解网络进行训练,得到非侵入式负荷分解模型;
6、步骤3:将目标房间内的负荷数据输入至所述非侵入式负荷分解模型,得到负荷分解结果。
7、进一步地,所述特征提取模块包括依次连接的卷积层和池化层;所述卷积层的卷积核大小为5,步长为1;所述池化层的卷积核大小为2,步长为2。
8、进一步地,所述第二增强模块采用gl-transformer网络,所述gl-transformer网络为在transformer网络中增加局部窗口层后所形成的网络;
9、对应地,所述gl-transformer网络对输入的特征序列的处理过程包括:将原始的特征序列输入至transformer网络中的多头自注意力层计算得到全局注意力特征;将原始的特征序列输入至局部窗口层得到新的特征序列,将所述新的特征序列输入至transformer网络中的多头自注意力层得到局部注意力特征;其中,将原始的特征序列输入至局部窗口层得到新的特征序列,具体包括:定义局部窗口大小ls,将特征序列中的当前位置及其左侧位于ls范围内的元素设置为1,将当前位置右侧的元素设置为0以生成一个局部窗口掩码,将所述局部窗口掩码与原始的特征序列相乘,得到新的特征序列;利用给定的权重对所述全局注意力特征和所述局部注意力特征进行加权融合,得到融合表示。
10、进一步地,所述第一特征增强模块采用ro-transformer网络;所述ro-transformer网络为在gl-transformer网络中的多头自注意力层之前增加rope层后所形成的网络;其中,rope层用于对输入的特征序列进行旋转位置编码。
11、进一步地,所述输出模块包括依次连接的转置卷积层和全连接层。
12、进一步地,步骤2的训练过程中,采用下式作为损失函数:
13、
14、其中,l为总损失,jsd表示js距离函数,p和分别为负荷数据实际值和负荷数据预测值,τ是负荷数据实际值与负荷数据预测值之间的绝对误差调整值,t表示时间步长。
15、进一步地,在对原始负荷数据进行特征提取之前,还包括:对所述原始负荷数据进行数据预处理;所述数据预处理包括:
16、对数据进行重采样,以形成一维序列;
17、对所述一维序列进行数据清洗操作,包括删除异常数据和填充缺失数据;
18、对数据清洗操作后的一维序列中所有数据进行标准化操作。
19、进一步地,所述填充缺失数据包括:对于持续时间小于第一时长的缺失数据,采用正向填充方法;对持续时间大于第二时长的缺失数据,采用零填充方法。
20、本发明的有益效果:
21、(1)通过构建包含旋转位置编码的第一特征增强模块,为负荷数据序列中的每个位置提供一个唯一的编码,以便模型能够区分不同位置的标记,为后续进一步学习序列中的浅层和深层特征做好准备;
22、(2)通过构建第二特征增强模块对输入的负荷数据序列进行全局和局部注意力特征的学习,使得模型能够更好地学习到负荷数据序列中的全局趋势和局部细节,从而提升负荷识别的准确性;
23、(3)通过在传统的transformer网络上来构建得到第一、第二特征增强模块,可以充分其自身具有的多头自注意力机制来提取具有时序特性的负荷数据序列的特征,并且充分考虑了负荷数据的全局特征和局部特征,从而使得模型能够捕获总体能源消耗的模式和趋势,同时还在更详细的层面上识别和区分不同设备的能源消耗模式。此外,通过局部注意机制可以更有效地处理真实信号,降低局部区域对噪声的敏感性,有助于抵消数据中的噪声干扰,提高模型的鲁棒性。同时,本发明能够降低计算资源的消耗、显著缩短负荷识别的时间,并提高负荷识别的精确度。
1.一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法,其特征在于,包括:
2.根据权利要求1所述的一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法,其特征在于,所述特征提取模块包括依次连接的卷积层和池化层;所述卷积层的卷积核大小为5,步长为1;所述池化层的卷积核大小为2,步长为2。
3.根据权利要求1所述的一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法,其特征在于,所述第二增强模块采用gl-transformer网络,所述gl-transformer网络为在transformer网络中增加局部窗口层后所形成的网络;
4.根据权利要求3所述的一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法,其特征在于,所述第一特征增强模块采用ro-transformer网络;所述ro-transformer网络为在gl-transformer网络中的多头自注意力层之前增加rope层后所形成的网络;其中,rope层用于对输入的特征序列进行旋转位置编码。
5.根据权利要求1所述的一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法,其特征在于,所述输出模块包括依次连接的转置卷积层和全连接层。
6.根据权利要求1所述的一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法,其特征在于,步骤2的训练过程中,采用下式作为损失函数:
7.根据权利要求1所述的一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法,其特征在于,在对原始负荷数据进行特征提取之前,还包括:对所述原始负荷数据进行数据预处理;所述数据预处理包括:
8.根据权利要求7所述的一种基于全局局部注意力与池化缩放的非侵入式负荷分解方法,其特征在于,所述填充缺失数据包括:对于持续时间小于第一时长的缺失数据,采用正向填充方法;对持续时间大于第二时长的缺失数据,采用零填充方法。