清华大学（郭庆来）：2024年科学智算支撑能源系统运行的应用初探报告

研究背景2∠大阳能发电∠大阳能发电力发7030年总标数干33电础机理为主体的传统电力系统风电/光伏电磁、电子融合的新型电力系统多能协同调控是实现双碳的重要途径，但多能流系统的热、气网数字2中力的我国集中供热面积逐年增加来源：国家统计局2中力的我国集中供热面积逐年增加来源：国家统计局我国管网建设里程亦不断增加来源：国家统计局我国管网建设里程亦不断增加来源：国家统计局4物理对象：高维、复杂的非线性动力学系统用户侧用户侧5共性难题：复杂科学计算问题共性难题：复杂科学计算问题亟需引入工智能辅助电力系统和多能流系统运行涉及的科学计算研究背景人工智能新前沿，为科学计算提供了新思路人工智能新前沿，为科学计算提供了新思路ChatGPTAlphaFold2提出DeePMD-kit发布Al4S方法持续提出Al4S方法持续提出结构预测的可行DeePMD发布7研究背景人工智能科学计算，即科学智算，是利用人工智能对科学问人工智能科学计算，即科学智算，是利用人工智能对科学问题进行智T1049/6y4f型进行天气预测[1]JumperJ,EvansR,PritdlAaalHighiyaccunateproleinstructurep[2]Fawzi,A.Balog.M,Humg.Awal.DiscoveringfistermatrixmaliplicationalgorithmswithreimforementleamingNanur[3|Wang.H,Fu.T,Du,Y.etal.Scientificdiscoveryintheageofartificalimtelli[5|Kochkov,D,Yuval,J,Langmore,I.eal.Neuralgencralcirulationmodelsforweathe研究背景科学计算使用的人工智能算法往往科学计算使用的人工智能算法往往将AI与科学知识进一步结合，从而使AI足够强大，更具通用性和可解释性LevelO——无约束实施方式：直接利用科学知识生成数据，相当于将科学知识实施方式：实施方式：直接在人工智能模型架构中建立科学基本定律，实施方式：通过损失函数间接可部分约束模型，但不会硬性方法举例：PINN利用微分方程数优化9AI4S:AI与科学知识的双向增强提升性能和效率动拓履性强提升性能和效率动拓履性强理原的知识易于破接学习学习我们对人工智能的期待是什么?替代人的作用直接用Al方法进行决策0000○0○○OOOOOOOOOOOOOO○○0OO○○○○○在可靠性要求极高的能源系统上存在应用挑战能源系统运行的复杂任务条件判断子任务3决策条件判断子任务3子任务2子任务4子任务4在人力难以解决的子任务上进行辅助OOOOOOOOOOOOOOOOOOO○○○OOOO○更能被实际系统实现技术突破科学知识Al4S在电力系统运行的应用Al辅助的大规模机组组合高效求解科学问题：复杂优化问题求解问题背景整数变量连续变量约束条件~13万个~70万个~60万个断面罚因子数量级转移分布因子数量级14Al辅助的整体框架-一个直观的想法口求解机组组合为AI提供数据集，使用监督学习训练AI预测机组状态(开/关)来解决MILP求解中最困难的部分，固定机组状态变量后通过求解更简单的优化问题求解UC模型原始UC模型MILPMILP可行整数解oMILP不可行整数解Al辅助的整体框架-一个直观的想法，口然而，直接求解原始问题以获得高质量的解通常需要数个小时，并且数据生成效率很难满足神经网络训练所需的数据规模数据生成AI模型训练计算费时求解UC模型MILP可行整数解oMILP不可行整数解口口提出支撑大规模机组组合的高质量数据高效生成方法，通过添加割平面收紧可行域，提升数据质量，同时也提高了数据生成效率MILP可行整数解原LP松弛可行域MILP可行整数解求解UC模型发电机g在t时刻的开关状态y₂(t)∈[0,1]→发电机g在t时刻的启动动作求解器在求解时会先将整数变量0/1}松弛为连续变量[0,1口以最小连续开机时间约束为例进行说明口以最小连续开机时间约束为例进行说明发电机g在t时刻的开关状态t时刻的启动动作1○UTg=2时原问题可行整数解OUT=2时可行域极点UTg=2时可行域投影20111时原问题可行整数解时可行域极点时原问题可行整数解时可行域极点UT=2O时可行域投影算例验证口相关数据生成方法应用于第五届南网口相关数据生成方法应用于第五届南网AI竞赛，对基线程序中5类约束进行收紧，约占所有约束的50%口针对30天训练数据，均设置求解器相对容差≤1%时终止然后求解机组组合所提方法所提方法减少一个1天5个小时口相关技术用于口相关技术用于2023年南方电网第五届电力调度AI应用大赛，在结果最优值与计口相关技术获得阿里巴巴达摩院AIR项目《基于AI的新型电力系统大规模实时调以数据为中心的以数据为中心的指导教却；郭庆来教授汇报单位：清华大学时间：2023年12月27日基于望电力系统大核好调术委托研发合同基于望电力系统大核好调术委托研发合同数据生成AI模型训练求解UC模型MILP可行整数解MILP可行整数解oMILP不可行整数解24口口神经网络广泛应用于约束决策与优化问题，但简单的激活层只能编码简单的简单激活层简单激活层无法满足实际需求求解UC模型0011111果位于[0,1]区间内，但如果直接使用四舍五入后的结果固定机组启停，所有一个简单的例子：,一旦神经网络预测出的x,x₂均大于0.5,口口在神经网络输出结果后增加激活层，将神经网络的输出动作投影到可行域内求解UC模型监督学习训练AIAI模型训练十口在获得神经网络预测结果后进行可行性投影，如果可行性投影不参与反向传模型训练只能最小化投影前的距离，很难保证拟合误差最小投影后的投影后距离(最小化)投影并反向传播投影前距离两阶段预测后投影损失函数中只有投影前距离，引入可反向传播的投影过程，可以直接将无法保证最小化投影后的距离投影后输出与真值的距离作为损失函数29口口如何添加激活层?更好的方法是让投影层参与反向传播过程(端到端预测后口口实现反向传播并满足一般约束的最佳方法是什么?现有的神经网络激活层可以看作是向量投x=Sigmoid(c)更复杂的一般线性约束是否也能看作是向量投影的优化问题?口我们考虑使激活层的输出满足一般的有界线性约束口我们利用点积来度量前一层输出向量c与需要满足可行性约束的口如何在激活层的计算中利用GPU来进行高效求解?口在前向传播时，我们基于自适应原始-对偶加速梯度下降法，实现了可高效利用GPU且无需矩阵分解的批处理算法口在反向传播时，我们既设计了利用Pytorch自动微分机制直接求导的方法，同时也设计了基于最优性条件利用隐式微分及共轭梯度法的求导方法口课题组提出GLinSAT的框架来使得神经网络的输出GLinSAT(所提方法)口相比于现有的线性可满足层OptNet以及CvxpyLayers,我们的方法在训练过程中实现了十倍甚前向投影计算时间/s反向传播计算时间/sHZengC.Yang,Y.Zhou,CYang.QGuo,GLinSANeuralInformationProcessingSystems(S投影层参数1/0可行率平均误差0NeuralNeworkLayerByAceratedGradientDescet,Subnit口由于我们所提出的口由于我们所提出的GLinSAT能够适用于一般的线性约束，因此除了机组组合以外，我们还将TSP问题中线性可满足层计算时间对比部分图匹配问题中线性可满足层计算时间对比批处理显存批处理时间/s批处理显存批处理时间/s注：CvxpyLayer是基于CPU并行的方法因此占用显存不予统计方法批处理显存/MB批处理时间/s注：CvxpyLayer是基于CPU并行的HZeng,C.Yang,Y.Zhou,CYang.QGuo,NeuralInformationProcessingSystems(Submittedto2024NeurIPS).问题背景约束方程：难以直接求解nxnxxx2xt·差分引入了大量中间变量纯数据驱动方法解决思路-PINNs神经网络-通用函数近似器(likeastudent)OPyTorchOPyTorch②在时空域中采样计算损失函数points解决思路-PINNsPDE隐式解u(t,x)量测XBoundarypoints(XBoundarypoints()θn+1=θn-ηV₉L(θn)loss十解决思路-PINNs模型-数据驱动0数据损失项0ue+N[u;λ]=0,x∈Ω,t∈[2.1:基于物理信息神经网络的热网状态估计口针对热网口针对热网模型参数不准、时变导致的计算偏差问题，提出基于物理信息神经网络的热网状态估热网模型参数不断变化的计算偏差据的模糊参数MSE2.2:基于PDE算子映射学习热网快速状态估计uuyyPINNs在给定边界条件下求解PDE,不能直接应用于其它时间窗2.2:基于PDE算子映射学习热网快速状态估计数据损失项数据损失项u物理信息损失项口提出方法在无直接量测的情况下准确估计得到了内部状态口提出方法在无直接量测的情况下准确估计得到了内部状态参数误差导致估计曲线整体偏移—N,T——N,T-(FDM)—NT"—N,7"(FDM)C0000C纯C纯00全时间段内状态估计精度指标更高全时间段内状态估计精度指标更高(a)Fatima