本技术涉及电力系统和负荷监测，尤其涉及非侵入式负荷监测。
背景技术：
1、目前，负荷监测在智能电表、能源管理和智能电网等领域具有重要的应用价值。负荷监测可以通过采集和分析电力系统中的负荷信息，帮助电力公司和能源管理了解电力消耗，优化能源供应，提高能源利用效率，减少环境污染等。
2、传统的侵入式负荷监测（intrusive load monitoring, ilm）方法通常需要在电力系统中的每个负荷上安装传感器或监测设备，这不仅增加了部署的成本和复杂性，还可能对系统内设备的正常运行产生干扰。因此，研究一种能够在不需要额外传感器或监测设备的情况下实现对负荷信息的准确监测和分析的非侵入式负荷监测（non-intrusive loadmonitoring, nilm）方法，具有重要的实际应用价值。如图1所示。
3、当前，非侵入式负荷监测技术在处理时间序列中长期依赖性和负荷工作状态动态适应时仍面临挑战，且模型在不同环境中的泛化能力和数据依赖问题尚未得到有效解决。此外，训练神经网络模型需要大量的标记数据，而这些侵入式采集的数据往往是难以获取的。如何能使用更少的数据来得到一个具有泛化性的模型是当前研究的关键问题。
4、综上所述，现有技术存在以下问题：
5、1)当前的nilm深度学习方法在捕捉负荷数据中的复杂非线性关系时仍然存在一些局限性，负荷监测的准确度有待进一步提高。
6、2)现有方法依赖于大量标注数据，特别是在面对新环境或不同负荷时，模型往往需要从头开始训练，这既耗时又耗资源，限制了模型的实际应用范围。因此，亟需使用更少的数据来得到一个具有泛化性模型的方法。
技术实现思路
1、本发明目的是为了解决现非侵入式负荷监测技术预测精度低以及泛化能力弱的问题，提供了基于transformer模型和迁移学习的非侵入式负荷监测方法和设备。
2、本发明是通过以下技术方案实现的，本发明一方面，提供一种基于transformer模型和迁移学习的非侵入式负荷监测方法，所述方法包括：
3、步骤1：将采集到的电力信号进行数据预处理；
4、步骤2：建立基于transformer的nilm模型，利用所述基于transformer的nilm模型预测某一负荷的功率；
5、所述基于transformer的nilm模型输入为总线功率序列，目标是预测在该序列中心点的某一负荷的功率，包括卷积层、池化层、位置编码层、位置嵌入层、transformer编码器、展平层和全连接层；
6、所述总线功率序列顺序进入一维卷积层进行初步特征提取，再进入最大池化层进行关键特征初步提取，然后在通过一维卷积层进一步提取特征，最后再进入最大池化层完成特征提取的过程；
7、所述位置编码层使用正余弦函数进行位置编码，为每个位置产生一个唯一的编码向量；
8、所述transformer编码器包括多头注意力机制，所述多头注意力机制通过并行地执行多次注意力函数，每次使用不同的线性变换得到的查询、键、值来提高模型的表达能力；
9、所述全连接层通过线性层和tanh激活函数组合，对展平后的一维张量进行特征变换和非线性映射以学习复杂的特征表示，最后得到nilm预测结果；
10、步骤3：利用迁移学习技术优化所述基于transformer的nilm模型在不同地域或者负荷类型任务上的预测性能，获取非侵入式负荷监测结果。
11、进一步地，步骤2中，所述多头注意力机制通过并行地执行多次注意力函数，每次使用不同的线性变换得到的查询、键、值来提高模型的表达能力，具体为：
12、，
13、其中，，、、和是模型学习的参数矩阵，是头的数量。
14、进一步地，步骤2中，所述全连接层通过线性层和tanh激活函数组合，对展平后的一维张量进行特征变换和非线性映射以学习复杂的特征表示，最后得到nilm预测结果，具体为：
15、，
16、其中，表示负荷在输入序列中点位置对应的功率值。
17、进一步地，步骤3中，所述利用迁移学习技术优化所述基于transformer的nilm模型在不同地域或者负荷类型任务上的预测性能，包括源任务选择，具体为：
18、计算负荷在整个观测序列内的平均活跃通道数，选择平均活跃通道数最高的负荷作为源任务。
19、进一步地，所述源任务选择还包括结合负荷的电力负荷特征、周期性和阶段性确定源任务。
20、进一步地，步骤3中，所述利用迁移学习技术优化所述基于transformer的nilm模型在不同地域或者负荷类型任务上的预测性能，包括迁移微调策略，具体为：
21、在预训练阶段，在源地域上针对源任务进行模型的预训练，
22、，
23、其中，表示地域上的源任务数据集,分别为模型的卷积层和其他层的初始化模型参数，分别为预训练保存的卷积层和其他层的模型参数，为负荷的损失函数；
24、将预训练后的模型参数迁移到目标地域的目标负荷上，并进行微调：
25、，
26、其中，为目标地域的数据集，为使用目标地域的负荷上微调后的除卷积层外的其他层的模型参数。
27、进一步地，步骤1，具体包括：
28、对总线以及各家用负荷的功率进行可视化来检查数据是否完整；观察功率波形，删除其中持续时间超过半小时的缺失数据，对于仅有几秒或几分钟缺失的数据仍然保留作为噪声来正则化模型；
29、对总线数据和各家用负荷的功率进行采样率统一以实现时间步长对齐；
30、数据标准化，具体包括：
31、时间点的总线功率表示为：
32、，
33、其中，为负荷类型的总数，表示负荷在时间点的功率，是噪声项；
34、在数据同步后，将功率数据进行标准化，标准化的数据用作模型的训练、验证和测试；
35、标准化后的总线功率可以用以下公式计算：
36、，
37、其中，表示功率的均值，表示功率的标准差。
38、第二方面，本发明提供一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机程序，当所述处理器运行所述存储器存储的计算机程序时执行如上文所述的一种基于transformer模型和迁移学习的非侵入式负荷监测方法的步骤。
39、第三方面，本发明提供一种计算机可读存储介质，所述计算机可读存储介质中存储有多条计算机指令，所述多条计算机指令用于使计算机执行如上文所述的一种基于transformer模型和迁移学习的非侵入式负荷监测方法。
40、第四方面，本发明提供一种电子设备，包括：
41、至少一个处理器；以及，
42、与所述至少一个处理器通信连接的存储器；其中，
43、所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上文所述的一种基于transformer模型和迁移学习的非侵入式负荷监测方法。
44、本发明的有益效果：
45、为了解决背景技术中存在的问题，本发明提供了一种基于transformer模型和迁移学习的非侵入式负荷监测方法。该方法可以更好地捕捉负荷数据中的复杂非线性关系，提高负荷监测的准确性和可靠性。并且，该方法使用迁移学习技术使得模型在应用于新的电力系统或环境时能够更快速地适应，减少重新训练的需求以及大量的数据支撑。
46、本发明提出并优化了基于transformer模型的nilm模型结构：提出一种改进的transformer模型结构，针对nilm任务进行优化。这种模型更有效地处理长时间序列数据，适应复杂的负荷模式变化以及长周期数据的依赖，从而提高能源监测的准确度。
47、针对如何能使用更少的数据来得到一个具有泛化性的模型是当前研究的关键问题，本发明探究transformer模型的可转移性，以及实现迁移学习的策略。理想的nilm迁移学习是在一些家庭和负荷数据上训练模型，然后在任何其他不可见的家庭和负荷上进行预测。例如，希望nilm对英国家庭的负荷进行训练，然后将训练好的英国家庭负荷的模型部署在美国；或者对洗衣机模型进行训练，然后将训练好的洗衣机模型部署给电水壶。本发明提出迁移学习策略：开发迁移学习方法，以增强模型在新环境和不同负荷类型下的泛化能力。这种策略减少了对大规模标注数据集的依赖，使模型能够快速适应新的监测环境，提高模型的训练效率和应用广度。
48、发明的方法利用transformer结构和迁移学习技术，针对电力系统的负荷监测进行了改进，提供了一种更有效、更精确地监测和预测负荷需求的技术手段。本发明所提出的基于transformer模型和迁移学习的非侵入式负荷监测方法可以被广泛应用于智能家居系统、工业生产监控、能源管理等领域。通过实时监测负荷的功耗，用户可以实现智能化的负载管理，提高能源利用效率。
49、本发明可广泛应用于智能电表、能源管理、智能电网等领域中对负荷功耗和使用状态进行监测和评估的场景。
1.一种基于transformer模型和迁移学习的非侵入式负荷监测方法，其特征在于，所述方法包括：
2.根据权利要求1所述的一种基于transformer模型和迁移学习的非侵入式负荷监测方法，其特征在于，步骤2中，所述多头注意力机制通过并行地执行多次注意力函数，每次使用不同的线性变换得到的查询、键、值来提高模型的表达能力，具体为：
3.根据权利要求1所述的一种基于transformer模型和迁移学习的非侵入式负荷监测方法，其特征在于，步骤2中，所述全连接层通过线性层和tanh激活函数组合，对展平后的一维张量进行特征变换和非线性映射以学习复杂的特征表示，最后得到nilm预测结果，具体为：
4.根据权利要求1所述的一种基于transformer模型和迁移学习的非侵入式负荷监测方法，其特征在于，步骤3中，所述利用迁移学习技术优化所述基于transformer的nilm模型在不同地域或者负荷类型任务上的预测性能，包括源任务选择，具体为：
5.根据权利要求4所述的一种基于transformer模型和迁移学习的非侵入式负荷监测方法，其特征在于，所述源任务选择还包括结合负荷的电力负荷特征、周期性和阶段性确定源任务。
6.根据权利要求5所述的一种基于transformer模型和迁移学习的非侵入式负荷监测方法，其特征在于，步骤3中，所述利用迁移学习技术优化所述基于transformer的nilm模型在不同地域或者负荷类型任务上的预测性能，包括迁移微调策略，具体为：
7.根据权利要求1所述的一种基于transformer模型和迁移学习的非侵入式负荷监测方法，其特征在于，步骤1，具体包括：
8.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机程序，其特征在于，当所述处理器运行所述存储器存储的计算机程序时执行权利要求1至7中任一项所述的方法的步骤。
9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有多条计算机指令，所述多条计算机指令用于使计算机执行权利要求1至7中任一项所述的方法。
10.一种电子设备，其特征在于，包括：
