CN117175588B 基于时空相关性的用电负荷预测方法及装置 （邯郸欣和电力建设有限公司）

基于时空相关性的用电负荷预测方法及装置本发明提供一种基于时空相关性的用电负可解释时空注意力转换器对多层时空模型进行2H.Zhao,Y.Wu,L.MaandS.Pan.SpatialandTemporalAtEnabledTransformerNetworkMultivariateShort-TermResidenti文.3基于不同用电节点的历史用电负荷数据和历史环境数据进行时空②对于s丰s'和(1vsr,vsp)Ee，当且仅当(vsrrvsx)Ee；此外当且仅当;;所述假设2表示基于先验知识的空间因果关基于可解释时空注意力转换器对所述多层时空模型进行特征提;其中，n"是n"的自注意，是从Rpxd1到Rpdz的映射，具有的注意权矩阵w(o)=(w"),w",w"))的三元组，nf")作为空间特征矩阵，对应于被假设2中因果约,Mr为解码器掩码；Mr中的上对角元素是4i<j，且所述时间注意网络的第i行仅由n"的第j行向量组成；,,通过VSN2(-)的变量选择权重来评估变量返回的重要性；基于所述用电负荷时空特征、目标用电节点的实时用电负荷数据按照时间对不同用电节点的历史用电负荷数据和历史环境数据基于不同用电节点的历史用电负荷数据和历史环境数据之间的影基于各个集群之间的影响关系构建时间因果假设关系和空间因果假基于自注意模块对所述时间因果假设关系和所述空间因果假设关5基于所述空间因果注意网络将所述多层时空模型转换基于所述时间注意网络对各个空间特征矩阵进行压缩，得到多个空基于所述空间依赖性对比模块在所述时空特征矩阵中添加空间因果先验4.根据权利要求1所述的基于时空相关性的用电负荷预测方法，其特征在于，所述STEF_DHNet模型包括依次连接的第一卷积层、第二卷积层、扁平化模块、L个全连接层和基于所述第一卷积层和所述第二卷积层对所述目标用电节点的实时用电负荷数据进对所述目标用电节点的实时环境数据进行网格化，并与所述用电负荷基于所述LSTM层对所述预测特征和所述用电负荷时空特征进行预测，得基于所述目标用电节点的历史用电负荷数据和历史环境数据构建以平均绝对误差为损失函数，基于所述训练集、所述验证集和所述测试集对STEF_基于所述训练集和策略网络生成对抗样本；其中，所述策略网络基于奖励函数、所述训练集和所述对抗样本对STEF_DHNet模型进行在训练过程中，基于测试集和给定的时间长度更新STEF_DHNe所述目标用电节点的历史用电负荷数据和历史环境数据构建训练集、验证集和测试集包6对所述目标用电节点的历史用电负荷数据和历史环境数据进行数对所述平滑数据添加时间信息，并将同一时刻的历史用电负荷对各条样本数据进行特征提取，将提取到的特征添加到对应的样时空建模模块，用于基于不同用电节点的历史用电负④对于s丰s'和(1vsr,vsp)Ee，当且仅当(vsrrvsx)Ee；此外当且仅当;;所述假设2表示基于先验知识的空间因果关特征提取模块，用于基于可解释时空注意力转换器对所述多;其中，n"是n"的自注意，是从Rpxd1到Rpdz的映射，具有的注意权矩阵7w(o)=(w"),w",w"))的三元组，nf")作为空间特征矩阵，对应于被假设2中因果约,Mr为解码器掩码；Mr中的上对角元素是i<j，且所述时间注意网络的第i行仅由n"的第j行向量组成；,,行向量，?与n"均通过空间因果注意网络得到，n?的注意权值用于解释和量化空间通过VSN2(-)的变量选择权重来评估变量返回的重要性；8[0002]用电负荷预测是电力系统规划的重要组成部分，也是电9[0021]基于第一卷积层和第二卷积层对目标用电节点的实时用电负荷数据进行特征提[0032]在训练过程中，基于测试集和给定的时间长度更新STEF_DH[0045]图1是本发明一实施例提供的基于时空相关性的用电负荷预测方法的实现流程[0046]图2是本发明一实施例提供的基于可解释时空注意力转换器进行特征提取和先验[0049]图5是本发明另一实施例提供的基于时空相关性的用电负荷预测方法的实现流程[0050]图6是本发明一实施例提供的基于时空相关性的用电负荷预测装置的结构示意[0057]参见图1，其示出了本发明实施例提供的基于时空相关性的用电负荷预测方法的本实施例中通过多层时空模型表征用电负荷数据和环境数据的时空因果关[0064]步骤102，基于可解释时空注意力转换器对多层时空模型进行特征提取和先验知[0068]有研究表明，与传统的机器学习技术相比，基于网格系统的深度神经网络(DeepNeuralNetworks,DNN)可以获得更好的结果。精心设计合适的深度神经网络架构是非常获未来用电负荷与近时间点之间的相关性，使用空间视图通过局部CNN了解局部空间相关[0070]该模型利用CNN和LSTM层的强度来进行预测。该模型旨在捕获用电负荷数据的空[0079]多层网络是一种有用的工具，用于对具有层次结构的变[0080]利用多层网络对时空变量进行表征学习。例如，在某个场景中，用电节点包括C={P,P,P3}，C2={B}，CZ={D}和CZ={B,B2,B3,BZ}。定义一个节点[0085]②对于s丰s'和，当且仅当(vsrrvsx)Ee。此外当[0087]假设2（空间因果关系如果(s,s')e{(1,3),(1,4),(2,4),(4,3)}。否[0088]假设2具体定义了基于先验知识的空间因果关系。有向边需要对一种情况进行估v少了多层网络上时空数据的特征。注意使用两个矩阵QeRxd和，。[0093]从注意权重中识别或控制训练特征的一个特征。设aij为(A)y，vi和v'分别为V和三个矩阵在同一序列中有不同的表示。设xeRtd'为输入序列，则自关注中的特征由，[0103]空间因果注意网络是一种根据已知的空间因果关系嵌入观察变量集合的自注嵌入特征表示所有站点在固定时间内的聚合信息，其空间因果关系由空间掩蔽矩阵MS反[0108]它是H(")的自注意，它是从Rxdu到Rpdz的映射，具有dxd:的注意权矩阵域信息矩阵转换为单个向量来进行压缩。的下标用于区分它与其他相同形式的函,Mr为解码器掩码。Mr中的上对角元素是[0118]时间注意网络使用VSN的空间坍缩特征，导致由假设2引起的空间因n?与n"均通过空间因果注意网络得到，它将时间信息和空间信息融合在一[0125]引入一种使用前馈网络(FFN)层的全局和局部上下文向量的新型解码器架构。解[0138]分位数输出层是FFN层，返回分位数水平q上的超前k步预测，a(k)eR，设计的解码器可以通过避免导致偏差预测的误差积累来[0151]STEF_DHNet模型融合了CNN和LSTM层的优势来进行预测，同时还考虑了外部因素[0153]基于第一卷积层和第二卷积层对目标用电节点的实时用电负荷数据进行特征提参数向量o:表示为：为L×W×H×K的张量，为了包含外部因素，沿着最后一个轴将D:-r与外部因素张量民-i连每个区域使用了M个外部因素。在下一步中，只有[0180]使用平均绝对误差（MAE每次平均的均方根误差（RMSE）和平均绝对百分比误中从完整的节点集中动态地选择一个表现出时空依赖性的节点子[0200]是敌对的状态从时间段t-t到t。表示所有训练样本的时间步长集合。Lar(-)表示用户指定的对抗训练损失函数，它可以包括常用的度[0202]从一组n时空分布数据源中选择最优节点子集的问题表述为组合优化问题。问题。生成Ω序列。[0216]将不同层的隐藏状态连接并传递到两个多层感知(MLP)中，以获得最终的节点嵌[0223]为了更新消息信息的上下文节点嵌入，采用多头关注法计算新的上下文节点嵌[0227]q=weu'ek;=WH':，jF-"进行屏蔽。[0236]具体来说，首先根据求解得到对抗节点指标I:的集合，其中率分布中抽取一个随机变量来计算用于进行对抗性训用上标(p)和(b)分别与策略网络选择器和基线选择器对齐。这样，利用平衡奖励函数代的对抗性示例表示为：为步长，为从策略网络中获得的最终节点选择指标，Lsg(-)为均方误差损失函数。这意味着当前的时空预测模型是使用从前一个模型中提取的知识来训练的。通过这种方[0263]其中α是控制从教师模型转移的知识数量的参数。注意，在第一个训练时期，Lsg(-)函数被直接用作对抗训练损失。[0266]在训练过程中，基于测试集和给定的时间长度更新STEF_DH的非线性关系。利用CNN和LSTM层的强度来进行预测，有效地结合了外部因素的真实复杂的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限[0307]图6示出了本发明实施例提供的基于时空相关性的用电负荷预测装置的结构示意[0324]基于第一卷积层和第二卷积层对目标用电节点的实时用电负荷数据进行特征提