综合能源多元负荷短期预测方法及系统

1.本发明涉及负荷预测技术领域，具体涉及一种综合能源多元负荷短期预测方法及系统。


背景技术：

2.为了满足绿色低碳需求，综合能源系统(integrated energy systems，iess)已逐渐替代传统独立规划、运行的单一能源系统。当前，iess不再局限于单一类型的负荷，而是需要综合考虑多个能源系统，发展多元负荷预测(multi-energyloads forecasting,melf)方法。在iess中，各类能源通过复杂的耦合机制互补供应，这使得影响着iess中各类负荷需求的因素更加复杂，多种能源的供需平衡保障也变得更加困难。iess负荷预测是iess运行管理和优化调度的重要支撑，对iess进行准确的多元负荷预测具有重要意义和实际应用价值。
3.目前，iess负荷预测方法多为单一负荷预测，但是随着能源行业的不断发展，用能需求受到诸多因素(如用能侧实际环境因素)的影响，单一负荷预测方法由于不能充分挖掘不同负荷之间的耦合特性，所以不能直接应用于iess多元负荷预测；而现有的多元负荷短期预测方法主要针对负荷数据本身，对于用能侧实际环境因素缺乏全面考虑，无法实现精准预测；此外，现有的iess负荷预测方法普遍是对模型参数与结构进行优化，在处理不同形式用能耦合问题上仍存在一定的局限，由于忽略了不同负荷之间的耦合特性，这些方法不能直接应用于iess多元负荷预测；同时，由于短期负荷预测与超短期负荷预测的序列长度不同，因此当前较为成熟的超短期负荷预测方法(如循环神经网络，长短期记忆网络等方法)也无法直接应用于短期预测。
4.由此可见，现有技术无法直接针对综合能源多元负荷进行短期预测，更无法进行精准预测。


技术实现要素：

5.(一)解决的技术问题
6.针对现有技术的不足，本发明提供了一种综合能源多元负荷短期预测方法及系统，解决了现有技术无法进行综合能源多元负荷短期精准预测的问题。
7.(二)技术方案
8.为实现以上目的，本发明通过以下技术方案予以实现：
9.第一方面，本发明首先提出了一种综合能源多元负荷短期预测方法，所述方法包括：
10.对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类；所述综合能源多元负荷短期预测相关数据包括多元负荷历史数据和与所述多元负荷历史数据相对应的外部环境历史数据；
11.获取基于编码器-解码器构建的综合能源多元负荷短期预测模型，所述编码器包括多层具有多头自注意力机制和旋转位置编码的时间卷积网络；
12.基于经过样本分类的所述输入数据训练所述综合能源多元负荷短期预测模型，并利用训练后的所述综合能源多元负荷短期预测模型进行综合能源多元负荷短期预测。
13.优选的，所述对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类包括：
14.对多元负荷历史数据和外部环境历史数据进行包括缺失值填充、归一化处理的预处理操作；
15.计算经过上述预处理操作后的多元负荷历史数据序列的相关系数，以确定综合能源多元负荷短期预测模型的输入数据；
16.将经过预处理且经过相关性计算后的输入数据分为训练集、验证集和测试集。
17.优选的，所述计算经过上述预处理操作后的多元负荷历史数据序列的相关系数，以确定综合能源多元负荷短期预测模型的输入数据包括：
18.利用皮尔逊相关系数进行相关性评价，比较多元负荷历史数据序列内部、多元负荷历史数据与外部环境历史数据之间的相关性大小，若多元负荷历史数据序列内部相关性大于多元负荷历史数据与外部环境历史数据的相关性，则只需将多元负荷历史数据序列作为输入，反之，若多元负荷历史数据序列内部相关性大于0.2但小于多元负荷历史数据与外部环境历史数据的相关性，则将多元负荷历史数据序列与外部环境历史数据序列同时作为综合能源多元负荷短期预测的输入。
19.优选的，所述获取基于编码器-解码器的综合能源多元负荷短期预测模型，所述编码器包括多层具有多头自注意力机制和旋转位置编码的时间卷积网络包括：
20.s21、将所述综合能源多元负荷短期预测输入数据转换为特征矩阵；
21.s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征；
22.s23、基于蒸馏操作消除所述耦合特征中的冗余特征；
23.s24、构建解码器，所述解码器用于将消除冗余特征的所述耦合特征通过解码器解码后获取综合能源多元负荷短期预测的输出数据。
24.优选的，所述s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征包括：
25.s221、基于特征矩阵构建注意力矩阵，所述注意力矩阵包括查询矩阵、键矩阵和值矩阵；
26.s222、对所述查询矩阵和键矩阵增加旋转位置编码；
27.s223、计算增加旋转位置编码后的所述查询矩阵和键矩阵之间的注意力分数；
28.s224、通过查询矩阵稀疏度量更新所述查询矩阵获取注意力查询矩阵；
29.s225、对所述键矩阵和值矩阵以及更新后的注意力查询矩阵执行注意力机制，以挖掘综合能源多元负荷短期预测输入数据之间的耦合特征。
30.第二方面，本发明还提出了一种综合能源多元负荷短期预测系统，所述系统包括：
31.数据采集模块，用于获取综合能源多元负荷短期预测相关数据；所述综合能源多
元负荷短期预测相关数据包括多元负荷历史数据和与所述多元负荷历史数据相对应的外部环境历史数据；
32.数据预处理模块，用于对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类；
33.预测模型构建模块，用于获取基于编码器-解码器构建的综合能源多元负荷短期预测模型；所述综合能源多元负荷短期预测模型包括特征编码模块和特征解码模块，其中，所述特征编码模块包括对所述输入数据进行时间特征编码、序列位置特征编码、数据特征编码，并利用编码好的矩阵进行特征学习，输出特征矩阵；所述特征解码模块用于通过对需要预测的时间序列进行自学习以及对该时间序列与所述特征矩阵进行交叉学习，解码出需要预测的负荷序列；所述编码器包括多层具有多头自注意力机制和旋转位置编码的时间卷积网络；
34.模型训练模块，用于基于经过样本分类的所述输入数据训练所述综合能源多元负荷短期预测模型；
35.预测结果输出模块，用于利用训练后的所述综合能源多元负荷短期预测模型进行综合能源多元负荷短期预测并输出预测结果。
36.优选的，所述数据预处理模块对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类包括：
37.对多元负荷历史数据和外部环境历史数据进行包括缺失值填充、归一化处理的预处理操作；
38.计算经过上述预处理操作后的多元负荷历史数据序列的相关系数，以确定综合能源多元负荷短期预测模型的输入数据；
39.将经过预处理且经过相关性计算后的输入数据分为训练集、验证集和测试集。
40.优选的，所述计算经过上述预处理操作后的多元负荷历史数据序列的相关系数，以确定综合能源多元负荷短期预测模型的输入数据包括：
41.利用皮尔逊相关系数进行相关性评价，比较多元负荷历史数据序列内部、多元负荷历史数据与外部环境历史数据之间的相关性大小，若多元负荷历史数据序列内部相关性大于多元负荷历史数据与外部环境历史数据的相关性，则只需将多元负荷历史数据序列作为输入，反之，若多元负荷历史数据序列内部相关性大于0.2但小于多元负荷历史数据与外部环境历史数据的相关性，则将多元负荷历史数据序列与外部环境历史数据序列同时作为综合能源多元负荷短期预测的输入。
42.优选的，所述特征编码模块执行步骤s21-s23：
43.s21、将所述综合能源多元负荷短期预测输入数据转换为特征矩阵；
44.s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征；
45.s23、基于蒸馏操作消除所述耦合特征中的冗余特征；
46.所述特征解码模块执行步骤s24：
47.s24、将消除冗余特征的所述耦合特征通过解码器解码后获取综合能源多元负荷
短期预测的输出数据。
48.优选的，所述s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征包括：
49.s221、基于特征矩阵构建注意力矩阵，所述注意力矩阵包括查询矩阵、键矩阵和值矩阵；
50.s222、对所述查询矩阵和键矩阵增加旋转位置编码；
51.s223、计算增加旋转位置编码后的所述查询矩阵和键矩阵之间的注意力分数；
52.s224、通过查询矩阵稀疏度量更新所述查询矩阵获取注意力查询矩阵；
53.s225、对所述键矩阵和值矩阵以及更新后的注意力查询矩阵执行注意力机制以挖掘综合能源多元负荷短期预测输入数据之间的耦合特征。
54.(三)有益效果
55.本发明提供了一种综合能源多元负荷短期预测方法及系统。与现有技术相比，具备以下有益效果：
56.1、本发明将获取综合能源多元负荷短期预测相关数据进行样本分类后，利用样本分类后的数据训练构建的具有多层具有多头自注意力机制和旋转位置编码的时间卷积网络的综合能源多元负荷短期预测模型，最后利用训练好的模型进行综合能源多元负荷短期预测。本发明可以充分挖掘多元负荷之间的耦合特性，提高综合能源多元负荷短期预测的准确性，进而提高综合能源需求侧管理水平和服务效率。
57.2、本发明利用多层具有多头自注意力机制和旋转位置编码的时间卷积网络构建编码器(对应构建解码器)，从而构建综合能源多元负荷短期预测模型，该模型能充分挖掘多元负荷之间的耦合特性，解决了现有技术无法进行综合能源多元负荷短期精准预测的问题，提高了多元负荷短期预测的准确性。
58.3、本发明针对获取的综合能源多元负荷短期预测相关数据，利用相关性计算作为选择指标从而确定输入特征的选择方案，通过比较多元负荷与环境因素的相关系数可以筛选出能够提升多元负荷短期预测性能的输入特征，间接提高了多元负荷短期预测的准确性。
59.4、本发明通过提取多元负荷之间的耦合特征并且一次性获得多元负荷的预测结果，相较于单一负荷预测需要构建多个预测模型，在模型训练阶段所耗费的时间更少，因此本发明所提出的方法效率更高。
60.5、本发明的方法不仅实现了多元负荷短期预测，同时该方案也可以用于多元负荷的超短期预测，普适性更强。
附图说明
61.为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
62.图1为本发明一种综合能源多元负荷短期预测方法的实施例图；
63.图2为本发明实施例中综合能源多元负荷短期预测系统的结构图。
具体实施方式
64.为使本发明实施例的目的、技术方案和优点更加清楚，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
65.本技术实施例通过提供一种综合能源多元负荷短期预测方法及系统，解决了现有技术无法进行综合能源多元负荷短期精准预测的问题，实现高效预测综合能源多元负荷，提高综合能源需求侧管理水平和服务效率的目的。
66.本技术实施例中的技术方案为解决上述技术问题，总体思路如下：
67.为了解决现有技术无法进行综合能源多元负荷短期精准预测的问题，本技术的技术方案首先对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，从而确定综合能源多元负荷短期预测输入数据的选择方案，从而将影响预测精度的多元负荷历史数据相对应的外部环境历史数据也科学合理的考虑在内；其次，利用包括多层具有多头自注意力机制和旋转位置编码的时间卷积网络构建编码器、解码器，从而构建综合能源多元负荷短期预测模型；最后利用上述输入数据的选择方案所对应的相关数据训练训练综合能源多元负荷短期预测模型，并利用训练后的综合能源多元负荷短期预测模型进行综合能源多元负荷短期预测。本发明使用上述技术方案提高了综合能源多元负荷短期预测的精度，进而实现提高综合能源需求侧管理水平和服务效率的目的。
68.为了更好的理解上述技术方案，下面将结合说明书附图以及具体的实施方式对上述技术方案进行详细的说明。
69.实施例1：
70.综合能源系统(integrated energy systems，iess)作为一种基于能源利用、转换和传输技术的新型能源供应模式，通过电、气、冷、热、水等多种能源形式耦合，实现多种能源类型的灵活转换、高效分配和有机协调。在iess中，各类能源通过复杂的耦合机制互补供应，这使得影响着iess中各类负荷需求的因素更加复杂，多种能源的供需平衡保障也变得更加困难。为了对iess中多元负荷进行精准的短期预测，提出以下方法。
71.第一方面，本发明首先提出了一种综合能源多元负荷短期预测方法，参见图1，该方法包括：
72.s1、对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类；所述综合能源多元负荷短期预测相关数据包括多元负荷历史数据和与所述多元负荷历史数据相对应的外部环境历史数据；
73.s2、获取基于编码器-解码器构建的综合能源多元负荷短期预测模型，所述编码器包括多层具有多头自注意力机制和旋转位置编码的时间卷积网络；
74.s3、基于经过样本分类的所述输入数据训练所述综合能源多元负荷短期预测模型，并利用训练后的所述综合能源多元负荷短期预测模型进行综合能源多元负荷短期预测。
75.可见，本实施例将获取综合能源多元负荷短期预测相关数据进行样本分类后，利用样本分类后的数据训练构建的具有多层具有多头自注意力机制和旋转位置编码的时间
卷积网络的综合能源多元负荷短期预测模型，最后利用训练好的模型进行综合能源多元负荷短期预测。本实施例可以充分挖掘多元负荷之间的耦合特性，提高综合能源多元负荷短期预测的准确性，进而提高综合能源需求侧管理水平和服务效率。
76.下面结合附图1，以及对s1-s3具体步骤的解释，来详细说明本发明一个实施例的实现过程。参见图1，本实施例中一种综合能源多元负荷短期预测方法的具体流程如下：
77.本实施例以水、电、气三种能源负荷(即多元负荷)为例，利用过去7天的数据，预测未来7天的逐时多元负荷数据，即预测步长为168(24h*7)。本实施例的一种综合能源多元负荷短期预测方法的具体步骤为：
78.s1、对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类；所述综合能源多元负荷短期预测相关数据包括多元负荷历史数据和与所述多元负荷历史数据相对应的外部环境历史数据。
79.1)获取综合能源多元负荷短期预测所需的相关数据。该相关数据包括多元负荷历史数据和与所述多元负荷历史数据相对应的外部环境历史数据。在本实施例中，所选取的相关数据中，气象站提供的外部环境历史数据充足，共有12个变量，其中，包括温度、湿度、风速等。
80.2)对多元负荷历史数据和外部环境历史数据进行预处理。对多元负荷历史数据和外部环境历史数据进行缺失值填充、归一化处理等操作。多元负荷历史数据进行预清洗，缺失值补充后，将所有多元负荷历史数据整理成时间间隔为1h的数据集，形成多元负荷历史数据；对于有缺失的外部环境历史数据，如温度、湿度、风速等，需要采取措施弥补这些气象数据的缺失值，经过缺失值填充、归一化处理等预处理操作后得到外部环境历史数据序列。
81.3)计算多元负荷历史数据序列的相关系数以确定综合能源多元负荷短期预测模型的输入数据。具体来说，比较多元负荷历史数据序列内部、多元负荷历史数据与外部环境历史数据之间的相关性大小，若多元负荷历史数据序列内部相关性大于多元负荷历史数据与外部环境历史数据的相关性，则只需将多元负荷历史数据序列作为输入，反之，若多元负荷历史数据序列内部相关性大于0.2但小于多元负荷历史数据与外部环境历史数据的相关性，则将多元负荷历史数据序列与外部环境历史数据序列同时作为综合能源多元负荷短期预测的输入。本实施例中，选择计算皮尔逊相关系数进行相关性评价，之后可以选择丢弃系数小于0.2的一些环境变量，在本实施例中最终选择的输入变量包括电、气、水负荷数据及其对应时段的温度、湿度数据。
82.4)对上述经过预处理后的输入数据进行样本分类，将数据集分为训练集、验证集和测试集。在本实施例中，将数据集分别按照70％，20％和10％的比例分为训练集、验证集和测试集。
83.s2、获取基于编码器-解码器构建的综合能源多元负荷短期预测模型，所述编码器包括多层具有多头自注意力机制和旋转位置编码的时间卷积网络。
84.本实施例提出的综合能源多元负荷短期预测模型是基于编码器-解码器所构建的，该编码器用于提取综合能源多元负荷短期预测输入数据的输入特征。其中，编码器由多层具有多头自注意力机制和旋转位置编码的时间卷积网络组成。
85.s21、将所述综合能源多元负荷短期预测输入数据转换为特征矩阵。
86.在综合能源多元负荷短期预测模型的网络嵌入层将综合能源多元负荷短期预测输入数据转换为特征矩阵，该特征矩阵表征输入数据的数值信息和时间信息，并基于输入数据获取输入序列x＝{x0,x1,...,x
t
}的特征矩阵。在本实施例中，输入序列为x＝{x0,x1,...,x
168
}，特征矩阵的维度为l
x
×
512。
87.特征矩阵中对数值信息表征的是指通过将输入的数据向量通过卷积转换为矩阵使得输入变量被编码为d＝512维的向量对时间信息的表征是指对输入序列中每组多元负荷历史数据对应的时间按照日期、时刻、是否工作日等信息编码为时间向量，具体来说是在嵌入层中，每个全局时间戳由嵌入。最终按照如下方式将输入数据的数值信息与时间信息进行整合：
[0088][0089]
其中，i∈{1,...,l
x
}，l
x
是输入变量的维度；α是标量投影和局部/全局嵌入数据之间平衡大小的系数。在经过嵌入层特征编码之后，输入序列x＝{x0,x1,...,x
t
}被塑造成一个特征矩阵的集合其中，
[0090]
在本实施例中，i∈{1,...,l
x
}为i∈{1,2，3，4，5}。在经过嵌入层之后，输入序列x＝{x0,x1,...,x
168
}被塑造成一个集合x
en
，
[0091]
s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征。
[0092]
基于具有多头自注意力机制的时间卷积网络构建编码器，该编码器用于提取特征矩阵的隐藏特征，即数据之间的耦合信息特征。在构建编码器时，本实施例通过将l个时间卷积网络(temporal convolutional network，tcn)的编码层堆叠以提取输入数据(特征矩阵)的特征。其中，膨胀系数r＝2
l
，此外每个编码层中还包含了多头自注意力机制进行特征提取，即多个注意力机制并行运算。特别地，为了提取多元负荷历史数据序列的耦合特性，本实施例在编码器-解码器深度学习框架下，在tcn中引入具有rope的多头自注意力机制，以提高melf模型的预测效果，其中编码器读取特征矩阵并将其编码成具有固定维度的矢量h，是向量的编码状态。本实施例在构建编码器时，通过将l＝3个tcn的编码层堆叠以提取输入特征，其中，每个编码层中还包含了多头自注意力机制进行特征提取。编码器读取输入特征矩阵并将其编码成具有512维的矢量h，是对向量的编码状态。
[0093]
具体编码过程如下：
[0094]
s221、基于特征矩阵构建注意力矩阵，所述注意力矩阵包括查询矩阵、键矩阵和值矩阵。
[0095]
在自注意力机制中，基于特征矩阵分别通过下列运算得到三个q,k,v矩阵：
[0096]
[q k v]＝[x
t x
t x
t
]
τ
[w
q w
k wv]
[0097]
其中，分别表示查询矩阵、键矩阵和值矩阵，以及分别为查询矩阵、键矩阵和值矩阵的权重参数矩阵。在本实施例中，当l＝3时，查询矩阵、键矩阵和值矩阵分别为查询矩阵、键矩阵和值矩阵的权重矩阵分别为和另外，本实施例中在进行参数初始化时，权重参数采用随机初始化的方式。
[0098]
s222、对所述查询矩阵和键矩阵增加旋转位置编码。
[0099]
对注意力矩阵增加旋转位置编码，以识别特征在哪个具体的位置上。具体的，在本实施例中，当d＝512时，将rope注意力机制按照下列方法同时作用于查询矩阵和键矩阵：
[0100][0101][0102]
其中，
[0103][0104]
且中元素mr为：
[0105][0106]
并且，θ＝{θr＝10000-2(r-1)d
,r∈[1,2,...,d/2]}＝{θr＝10000-2(r-1)512
,r∈[1,2,...,512/2]}，f
q,k
(
·
)(即fq和fk)是将各自的位置信息m和n合并到输入特征的函数。
[0107]
s223、计算增加旋转位置编码后的所述查询矩阵和键矩阵之间的注意力分数。
[0108]
基于具有位置信息的注意力矩阵计算注意力分数。计算第i个查询元素和第j个键元素之间的注意力分数(a
i,j
)：
[0109][0110]
其中，q
p
和k
p
分别为带位置信息的查询矩阵和键矩阵。
[0111]
s224、通过查询矩阵稀疏度量更新所述查询矩阵获取注意力查询矩阵。
[0112]
查询注意力矩阵稀疏度量，即查询权重较大(即注意力分数较大)的注意力矩阵。保留得分排名最优的权重参数，其余参数以全局平均得分对应的参数代替。在本实施例中，保留得分排名前96的权重参数，其余以全局平均得分对应的权重参数代替。具体来说是通过下列方式计算查询矩阵的稀疏度得到的注意力查询矩阵
[0113][0114]
其中，注意力查询矩阵与查询矩阵q具有相同的大小，但只包含第i个查询元素
qi在最大均值稀疏度度量下的查询结果；qi表示查询矩阵q中的元素。
[0115]
s225、对所述键矩阵和值矩阵以及更新后的注意力查询矩阵执行注意力机制，以挖掘综合能源多元负荷短期预测输入数据之间的耦合特征。
[0116]
对注意力计算分数大(即权重较大)的注意力矩阵再次执行注意力机制。通过下列方式执行注意力机制：
[0117][0118]
s23、基于蒸馏操作消除所述耦合特征中的冗余特征。
[0119]
为了消除编码器在经过多头注意力机制后造成特征映射v中的冗余，从而消除由于数据扩张而产生的冗余特征，我们在第j层编码层与第j+1层编码层之间(即每两个编码层之间))采用下列蒸馏操作：
[0120]
x
t,j+1
＝maxpool(elu(conv1d([x
t,j
]
ab
)))
[0121]
其中，[x
t,j
]
ab
代表经过上述注意力机制操作之后的注意力矩阵，conv1d(
·
)表示在时间维度上用elu(
·
)执行1
×
1卷积滤波器。通过tcn的扩张卷积将所有堆叠的输出连接起来，并得到编码器的最终输出h。
[0122]
s24、构建解码器，所述解码器用于将消除冗余特征的所述耦合特征通过解码器解码后获取综合能源多元负荷短期预测的输出数据。
[0123]
构建解码器。该解码器的输入来源有两个：编码器输出的特征矩阵和需要预测的时间序列信息，通过对需要预测的时间序列进行自学习以及对该时间序列与特征矩阵进行交叉学习，解码出需要预测的负荷序列。在解码过程中，解码器将h解码为目标输出序列y＝{y0,y1,...,y
t
}，结合自注意力机制和交叉注意力机制来度量特征图的权重参数，并以即时生成预测输出元素。与编码器类似，在每个解码器之间使用残差连接，然后进行层归一化。我们给解码器输入以下向量：
[0124][0125]
其中，是解码器输入的起始标记，是目标序列的占位符，将其初始化为0。
[0126]
在本实施例中，设置解码器层数为2，则利用解码器将h解码为目标输出序列y＝{y0,y1,...,y
168
}。则解码器输入的：
[0127][0128]
其中，解码器输入的起始标记即为目标序列的占位符即为
[0129]
s3、基于经过样本分类的所述输入数据训练所述综合能源多元负荷短期预测模型，并利用训练后的所述综合能源多元负荷短期预测模型进行综合能源多元负荷短期预测。
[0130]
对综合能源多元负荷短期预测模型中的编码器和解码器进行联合训练。在训练时，将编码器的输出也输入解码器，解码器完成输出后，根据输出结果将编码器和解码器一
起进行参数更新。模型利用训练集中的数据训练一次后，利用验证集数据进行预测并保存模型参数和预测误差，如此迭代，并比较每次在验证集中预测的误差，最终只保留误差最低的模型参数，用上述误差最低的模型在测试集中测试模型预测精度，最终使输出序列的条件概率最大化。在模型训练中，以损失函数作为优化目标。本实施例采用均方误差(mse)作为损失函数：
[0131][0132]
在本实施例中，其中，pi表示实际短期负荷的真实值；表示预测值。
[0133]
考虑到adam优化器性能较好，本实施例选择将该优化器应用于处理后的模型训练，对权重参数进行迭代修正直至预测误差不再下降。
[0134]
当综合能源多元负荷短期预测模型训练好后，将综合能源多元负荷短期预测输入数据输入训练好的模型即可实现综合能源多元负荷短期预测，最终得到的结果是短期负荷的预测值目标输出序列y＝{y0,y1,...,y
t
}，其中，y0,y1,...,y
t
等每个元素对应综合能源多元负荷短期预测时每一小时的预测值。
[0135]
至此，则完成了本发明一种综合能源多元负荷短期预测方法的全部流程。
[0136]
为了说明本实施例的方法对于综合能源多元负荷短期预测的有效性，我们通过以下实验进行证明。
[0137]
对比了单一负荷与多元负荷预测结果，单一负荷预测时，模型的输入不考虑其余两种负荷因素，利用均方根误差(rmse)和均方误差(mse)作为预测模型的评价标准：
[0138][0139]
其中，pi和分别表示实际负荷数据和预测负荷数据。比较结果如下表1所示：
[0140]
表1本实施例方法进行单一负荷与多元负荷预测的结果对比
[0141][0142]
可以看出，考虑多元耦合特性进行负荷预测的预测精度优于单一负荷预测，并且本实施例提出的方法可以一次性获得电、气、水等所有负荷的预测结果，模型训练花费的时间更少。
[0143]
为了验证本实施例多元负荷短期预测方法的有效性，选取了目前常用方法的预测误差作为主要对比指标进行个预测方法的效果对比，具体如下表2所示：
[0144]
表2本实施例方法与现有常规方法进行多元负荷预测的结果对比
[0145][0146]
由上表可以看出本实施例所提出的方法对于多元负荷短期预测的精度优于其他方法。
[0147]
实施例2：
[0148]
第二方面，本发明还提供了一种综合能源多元负荷短期预测系统，参见图2，该系统包括：
[0149]
数据采集模块，用于获取综合能源多元负荷短期预测相关数据；所述综合能源多元负荷短期预测相关数据包括多元负荷历史数据和与所述多元负荷历史数据相对应的外部环境历史数据；
[0150]
数据预处理模块，用于对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类；
[0151]
预测模型构建模块，用于获取基于编码器-解码器构建的综合能源多元负荷短期预测模型；所述综合能源多元负荷短期预测模型包括特征编码模块和特征解码模块，其中，所述特征编码模块包括对所述输入数据进行时间特征编码、序列位置特征编码、数据特征编码，并利用编码好的矩阵进行特征学习，输出特征矩阵；所述特征解码模块用于通过对需要预测的时间序列进行自学习以及对该时间序列与所述特征矩阵进行交叉学习，解码出需要预测的负荷序列；所述编码器包括多层具有多头自注意力机制和旋转位置编码的时间卷积网络；
[0152]
模型训练模块，用于基于经过样本分类的所述输入数据训练所述综合能源多元负荷短期预测模型；
[0153]
预测结果输出模块，用于利用训练后的所述综合能源多元负荷短期预测模型进行综合能源多元负荷短期预测并输出预测结果。
[0154]
可选的，所述数据预处理模块对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类包括：
[0155]
对多元负荷历史数据和外部环境历史数据进行包括缺失值填充、归一化处理的预处理操作；
[0156]
计算经过上述预处理操作后的多元负荷历史数据序列的相关系数，以确定综合能源多元负荷短期预测模型的输入数据；
[0157]
将经过预处理且经过相关性计算后的输入数据分为训练集、验证集和测试集。
[0158]
可选的，所述计算经过上述预处理操作后的多元负荷历史数据序列的相关系数，以确定综合能源多元负荷短期预测模型的输入数据包括：
[0159]
利用皮尔逊相关系数进行相关性评价，比较多元负荷历史数据序列内部、多元负
荷历史数据与外部环境历史数据之间的相关性大小，若多元负荷历史数据序列内部相关性大于多元负荷历史数据与外部环境历史数据的相关性，则只需将多元负荷历史数据序列作为输入，反之，若多元负荷历史数据序列内部相关性大于0.2但小于多元负荷历史数据与外部环境历史数据的相关性，则将多元负荷历史数据序列与外部环境历史数据序列同时作为综合能源多元负荷短期预测的输入。
[0160]
可选的，所述特征编码模块执行步骤s21-s23：
[0161]
s21、将所述综合能源多元负荷短期预测输入数据转换为特征矩阵；
[0162]
s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征；
[0163]
s23、基于蒸馏操作消除所述耦合特征中的冗余特征；
[0164]
所述特征解码模块执行步骤s24：
[0165]
s24、将消除冗余特征的所述耦合特征通过解码器解码后获取综合能源多元负荷短期预测的输出数据。
[0166]
可选的，所述s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征包括：
[0167]
s221、基于特征矩阵构建注意力矩阵，所述注意力矩阵包括查询矩阵、键矩阵和值矩阵；
[0168]
s222、对所述查询矩阵和键矩阵增加旋转位置编码；
[0169]
s223、计算增加旋转位置编码后的所述查询矩阵和键矩阵之间的注意力分数；
[0170]
s224、通过查询矩阵稀疏度量更新所述查询矩阵获取注意力查询矩阵；
[0171]
s225、对所述键矩阵和值矩阵以及更新后的注意力查询矩阵执行注意力机制以挖掘综合能源多元负荷短期预测输入数据之间的耦合特征。
[0172]
可理解的是，本发明实施例提供的综合能源多元负荷短期预测系统与上述综合能源多元负荷短期预测方法相对应，其有关内容的解释、举例、有益效果等部分可以参照综合能源多元负荷短期预测方法中的相应内容，此处不再赘述。
[0173]
综上所述，与现有技术相比，具备以下有益效果：
[0174]
1、本发明将获取综合能源多元负荷短期预测相关数据进行样本分类后，利用样本分类后的数据训练构建的具有多层具有多头自注意力机制和旋转位置编码的时间卷积网络的综合能源多元负荷短期预测模型，最后利用训练好的模型进行综合能源多元负荷短期预测。本发明可以充分挖掘多元负荷之间的耦合特性，提高综合能源多元负荷短期预测的准确性，进而提高综合能源需求侧管理水平和服务效率。
[0175]
2、本发明利用具有多头自注意力机制和旋转位置编码的时间卷积网络构建编码器(对应构建解码器)，从而构建综合能源多元负荷短期预测模型，该模型能充分挖掘多元负荷之间的耦合特性，解决了现有技术无法进行综合能源多元负荷短期精准预测的问题，提高了多元负荷短期预测的准确性。
[0176]
3、本发明针对获取的综合能源多元负荷短期预测相关数据，利用相关性计算作为选择指标从而确定输入特征的选择方案，通过比较多元负荷与环境因素的相关系数可以筛选出能够提升多元负荷短期预测性能的输入特征，间接提高了多元负荷短期预测的准确性。
[0177]
4、本发明通过提取多元负荷之间的耦合特征，并且一次性获得多元负荷的预测结果，相较于单一负荷预测需要构建多个预测模型，在模型训练阶段所耗费的时间更少，因此本发明所提出的方法效率更高。
[0178]
5、本发明的方法不仅实现了多元负荷短期预测，同时该方案也可以用于多元负荷的超短期预测，普适性更强。
[0179]
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
[0180]
以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

技术特征：
1.一种综合能源多元负荷短期预测方法，其特征在于，所述方法包括：对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类；所述综合能源多元负荷短期预测相关数据包括多元负荷历史数据和与所述多元负荷历史数据相对应的外部环境历史数据；获取基于编码器-解码器构建的综合能源多元负荷短期预测模型，所述编码器包括多层具有多头自注意力机制和旋转位置编码的时间卷积网络；基于经过样本分类的所述输入数据训练所述综合能源多元负荷短期预测模型，并利用训练后的所述综合能源多元负荷短期预测模型进行综合能源多元负荷短期预测。2.如权利要求1所述的方法，其特征在于，所述对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类包括：对多元负荷历史数据和外部环境历史数据进行包括缺失值填充、归一化处理的预处理操作；计算经过上述预处理操作后的多元负荷历史数据序列的相关系数，以确定综合能源多元负荷短期预测模型的输入数据；将经过预处理且经过相关性计算后的输入数据分为训练集、验证集和测试集。3.如权利要求2所述的方法，其特征在于，所述计算经过上述预处理操作后的多元负荷历史数据序列的相关系数，以确定综合能源多元负荷短期预测模型的输入数据包括：利用皮尔逊相关系数进行相关性评价，比较多元负荷历史数据序列内部、多元负荷历史数据与外部环境历史数据之间的相关性大小，若多元负荷历史数据序列内部相关性大于多元负荷历史数据与外部环境历史数据的相关性，则只需将多元负荷历史数据序列作为输入，反之，若多元负荷历史数据序列内部相关性大于0.2但小于多元负荷历史数据与外部环境历史数据的相关性，则将多元负荷历史数据序列与外部环境历史数据序列同时作为综合能源多元负荷短期预测的输入。4.如权利要求1所述的方法，其特征在于，所述获取基于编码器-解码器的综合能源多元负荷短期预测模型，所述编码器包括多层具有多头自注意力机制和旋转位置编码的时间卷积网络包括：s21、将所述综合能源多元负荷短期预测输入数据转换为特征矩阵；s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征；s23、基于蒸馏操作消除所述耦合特征中的冗余特征；s24、构建解码器，所述解码器用于将消除冗余特征的所述耦合特征通过解码器解码后获取综合能源多元负荷短期预测的输出数据。5.如权利要求4所述的方法，其特征在于，所述s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征包括：s221、基于特征矩阵构建注意力矩阵，所述注意力矩阵包括查询矩阵、键矩阵和值矩阵；
s222、对所述查询矩阵和键矩阵增加旋转位置编码；s223、计算增加旋转位置编码后的所述查询矩阵和键矩阵之间的注意力分数；s224、通过查询矩阵稀疏度量更新所述查询矩阵获取注意力查询矩阵；s225、对所述键矩阵和值矩阵以及更新后的注意力查询矩阵执行注意力机制，以挖掘综合能源多元负荷短期预测输入数据之间的耦合特征。6.一种综合能源多元负荷短期预测系统，其特征在于，所述系统包括：数据采集模块，用于获取综合能源多元负荷短期预测相关数据；所述综合能源多元负荷短期预测相关数据包括多元负荷历史数据和与所述多元负荷历史数据相对应的外部环境历史数据；数据预处理模块，用于对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类；预测模型构建模块，用于获取基于编码器-解码器构建的综合能源多元负荷短期预测模型；所述综合能源多元负荷短期预测模型包括特征编码模块和特征解码模块，其中，所述特征编码模块包括对所述输入数据进行时间特征编码、序列位置特征编码、数据特征编码，并利用编码好的矩阵进行特征学习，输出特征矩阵；所述特征解码模块用于通过对需要预测的时间序列进行自学习以及对该时间序列与所述特征矩阵进行交叉学习，解码出需要预测的负荷序列；所述编码器包括多层具有多头自注意力机制和旋转位置编码的时间卷积网络；模型训练模块，用于基于经过样本分类的所述输入数据训练所述综合能源多元负荷短期预测模型；预测结果输出模块，用于利用训练后的所述综合能源多元负荷短期预测模型进行综合能源多元负荷短期预测并输出预测结果。7.如权利要求6所述的系统，其特征在于，所述数据预处理模块对获取的综合能源多元负荷短期预测相关数据进行预处理和相关性计算，以确定综合能源多元负荷短期预测模型的输入数据，并对所述输入数据进行样本分类包括：对多元负荷历史数据和外部环境历史数据进行包括缺失值填充、归一化处理的预处理操作；计算经过上述预处理操作后的多元负荷历史数据序列的相关系数，以确定综合能源多元负荷短期预测模型的输入数据；将经过预处理且经过相关性计算后的输入数据分为训练集、验证集和测试集。8.如权利要求7所述的系统，其特征在于，所述计算经过上述预处理操作后的多元负荷历史数据序列的相关系数，以确定综合能源多元负荷短期预测模型的输入数据包括：利用皮尔逊相关系数进行相关性评价，比较多元负荷历史数据序列内部、多元负荷历史数据与外部环境历史数据之间的相关性大小，若多元负荷历史数据序列内部相关性大于多元负荷历史数据与外部环境历史数据的相关性，则只需将多元负荷历史数据序列作为输入，反之，若多元负荷历史数据序列内部相关性大于0.2但小于多元负荷历史数据与外部环境历史数据的相关性，则将多元负荷历史数据序列与外部环境历史数据序列同时作为综合能源多元负荷短期预测的输入。
9.如权利要求6所述的系统，其特征在于，所述特征编码模块执行步骤s21-s23：s21、将所述综合能源多元负荷短期预测输入数据转换为特征矩阵；s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征；s23、基于蒸馏操作消除所述耦合特征中的冗余特征；所述特征解码模块执行步骤s24：s24、将消除冗余特征的所述耦合特征通过解码器解码后获取综合能源多元负荷短期预测的输出数据。10.如权利要求9所述的系统，其特征在于，所述s22、利用具有自注意力机制和旋转位置编码的时间卷积网络构建编码器，基于所述编码器挖掘综合能源多元负荷短期预测输入数据之间的耦合特征包括：s221、基于特征矩阵构建注意力矩阵，所述注意力矩阵包括查询矩阵、键矩阵和值矩阵；s222、对所述查询矩阵和键矩阵增加旋转位置编码；s223、计算增加旋转位置编码后的所述查询矩阵和键矩阵之间的注意力分数；s224、通过查询矩阵稀疏度量更新所述查询矩阵获取注意力查询矩阵；s225、对所述键矩阵和值矩阵以及更新后的注意力查询矩阵执行注意力机制以挖掘综合能源多元负荷短期预测输入数据之间的耦合特征。

技术总结
本发明提供一种综合能源多元负荷短期预测方法及系统，涉及负荷预测技术领域。本发明将获取的综合能源多元负荷短期预测相关数据进行样本分类后，利用样本分类后的数据训练综合能源多元负荷短期预测模型，该综合能源多元负荷短期预测模型由具有多头自注意力机制和旋转位置编码的时间卷积网络构成，最后利用训练好的模型进行综合能源多元负荷短期预测。本发明可以充分挖掘多元负荷之间的耦合特性，提高综合能源多元负荷短期预测的准确性，进而提高综合能源需求侧管理水平和服务效率。高综合能源需求侧管理水平和服务效率。高综合能源需求侧管理水平和服务效率。


技术研发人员：周开乐 虎蓉
受保护的技术使用者：合肥工业大学
技术研发日：2022.10.30
技术公布日：2023/1/6