数据驱动的湍流标量混合非闭合深度学习模型

1、数据驱动的湍流标量混合非闭合深度学习模型摘要：借鉴物理信息深度学习和深隐藏物理模型，提出一个从噪声的时空概率密度函数测算中辨识湍流模型的框架。该模型适用于由 运积单点概率密度函数方程描述的条件Fickian标量期望扩散或耗散。采用均匀湍流二元标量混合的振幅映射闭包/Johnsohn-Edgeworth 变换模型获得精确解，对所构建的模型进行了测评。关键词：概率密度函数模型；湍流混合；模型辨识；深度学习（3）湍流标量混合问题在近几十年得到学术界广泛研究和应用U-3】。 在 Reynolds-averaged Navier-Stokes（ RANS）模拟中，湍流的输运概 率密度函数（PDF）明确地

2、描述了这一问题。对于单点PDF描述子， Fickian标量的混合作用表现为：条件期望耗散项和/或条件期望扩散 项为非闭合的2。通过概率滤波密度函数（FDF）在大涡流模拟（LES） 中也遇到了类似的非闭合问题4。相关非闭合项的闭包开发已成为热 点研究问题。湍流模型的首要目标是为PDF/FDF输运方程中出现的 未闭合项找到精确的闭包。在湍流建模中，常采用封闭项表达非封闭 项。这种闭包的形式是基于对已有问题的物理检查，它本身就容易出 错。这是湍流闭合过程中建模不确定性的主要来源。本文介绍了一种新的湍流标量混合闭包方法，即从高保真度观 测中学习非闭合项。这种观察可能来自直接数值模拟（DNS）,如文 献

3、5-7;或时空分辨实验测量，如文献8-9。显然，在DNS中，未 闭合项可以直接从模拟结果中提取出来。然而实际应用中执行DNS 成本过高。另一方面，从实验数据中寻找闭包涉及从实验数据中获取 时空和分解空间的导数（在某些情况下是高阶导数），难度较大，且 易因时空测量的分辨率引入新的闭包不确定性。本研究的最终目标是 开发一个闭包发现框架，从稀疏的高保真数据（如实验测量）中学习 闭包。上文中所提出的框架用一种数据驱动的方法取代了常用的“猜 测”方法。该方法以系统的方式从数据中揭示出封闭性。本研究方法 以偏微分方程深度学习10和数据驱动建模策略11，特别是基于物理 学的深度学习12和深层隐藏物理模型13

4、为理论基础。二进制标量混合常用在PDF闭包开发中14-15，本研究中以它为 演算实例。该问题通常出现在设置空间均匀流研究中，其亦考虑标量 PDF的时间传输。在这种情况下，亟须开发一个能够准确预测PDF 的演化的闭包框架。这个问题相对简单，适合DNS和实测实验。文 献中有大量通过这些方法获得的数据5-7，16-23，测评结果表明：本文提 出的计算模型学习获得的条件期望耗散和扩散可靠性高误差小。1二元标量混合已在此考虑Fickian被动标量甲（t, x）（ /为时间，x为位置向量）， 初始对称二元态的扩散系数r在-匕W+1范围内。因此，在初始时 刻的单点PDF为P（0,们= 0.5S（q 1） +

5、 g + 1），其中表示 饥t,x）的合成样本空间。因此，（t=0）=0, 2（0）= 1，其中“” 表示概率平均值（平均值），犯表示方差。在均匀湍流中，P取决于 下式：(1)其中表示标量耗散的期望值& =rv w甲，以标量值为条件 =（& 甲）= （2）其中竖线表示条件值。式（1）也可表示为：空+迎=0dtdtp其中D表示条件期望扩散：D = D（瑚）=（ 4 ）PDF传输中的闭合问题与未知的条件期望耗散（E）和/或条件期 望扩散（D）有关。在单点水平上，这些条件平均值都不已知；它们的 无条件（总）平均值（e（t）也非已知：e（t） = P（t,饥-（t,= 一 甲P（t,饥-D（t,甲）d

6、甲（5 ）2深度学习解决方案设概率密度函数P（t,甲）的数据范围为任,P- %，分别利用 式（1 ）和（3）来推断未知量耗散s（t,们和扩散D（t,饥,进而解决闭 包问题。原始数据从DNS或实验测量中获得。2.1条件期望扩散基于近期物理学信息深度学习12和深隐藏物理模型13研究成果， 在此提出近似函数仕,饥t （P, D）将t和作为深层神经网络的输入 量，输出P和D。此方法基于现代解决偏微分方程正问题和反问题的 技术，其中未知解由高斯过程网或神经网络12-13近似。从上述设定及公式（3 ）可获得以下物理信息神经网络（见图1 ）。R：=空 + 冬（6）dt 。中如图1所以，根据一个普通的密集连接

7、（物理未知）神经网络， 每个输出变量有10个隐藏层、每个隐藏层含50个神经元，输入变量 为t和s输出P和D。使用b（x） = x - sigmoid（x）激活函数。例如： 图中所示的网络示例由2个隐藏层组成，每个隐藏层有5个神经元。 使用自动微分法获得所需的导数来计算剩余（物理信息）网络Ro总 损失函数由概率密度函数P的回归损失和偏微分方程R叠加的损失 组成。这里，身份运算符沂和微分算子。见使用自动微分计算。此外， 利用Adam优化器将损失函数的梯度反向传播到整个网络中，以训练 神经网络参数。通过应用自动微分的链规则来微分函数的组合，得到了计算剩余 网络R（t,们所需的导数25。自动微分基于一

8、个先验性假设：所有的数 值计算最终都是一组导数已知的有限的初等运算的组合。通过链式法 则把组成运算的导数组合起来，得到整体构图的导数。这样就可以在 机器精度下精确地评估导数。算法具有理想的渐近效率，只需要一个 很小的常量开销因子。特别地，使用Tensorflow计算所需的导数，它是一个流行的、文档相对完善的用于自动微分和深度学习计算的开 源软件库。图1条件期望扩散的物理信息神经网络示例神经网络的参数P（t,肥）和D（t,肥）可以通过最小化下面的损失函 数来学习：（已铲）p，2 +（已 ）|2（7）第一个求和项对应于概率密度函数P（t,肥）上的训练数据，第二 个求和项在一组有限的测量点上实施了公

9、式（3）所施加的架构，这 些测量点的数量和位置都与训练数据相同。概率密度函数P（t,肥）的 数据取值于已仃Pn %】。2.2条件期望耗散基于近似函数（,中）（P, ），通过一个深层神经网络将t和作 为输入，输出P和。此先验假设和公式（1）将使我们获得以下物理 信息神经网络（见图2）：dPd2 (eP)1dtdw2图2条件期望耗散的物理信息神经网络示例一个普通的稠密连接（物理未知）神经网络，每输出变量有10 个隐层和每个隐层50个神经元，在输出P和却寸取输入变量t和p。 使用b（x） = x - sigmoid（x）做激活函数。图中所示的示例网络由2个 隐藏层和每个隐藏层5个神经元组成。使用自动

10、微分法来获得所需 的导数，以计算残差网络S。全损失函数由概率密度函数P的回归损 失和微分方程S的损失组成，这里I表示单位算子，微分算子tdPd2 (eP)1dtdw2图2条件期望耗散的物理信息神经网络示例使用自动微分法60 获得计算残差网络S（t,肥）所需的导数。神经 网络的参数P（t,和E（t,肥）可以通过最小化以下损失函数来学习SUP（t”, 0”） P |2 + Z；U|S（t”,肥”）|2,（9）第一个求和项对应于概率密度函数P（t,肥）上的训练数据，第二 个求和项在一组有限的测量点上实施了公式（1）所施加的架构，这 些测量点的数量和位置都与训练数据相同。概率密度函数P（t,肥）的 数

11、据取值于t, p, P *=3测试评估采用旋转振幅映射闭包（AMC）评估本文深度学习算法的性能 27期。AMC以隐式方式为PDF传输提供外部闭包。通过变换= Z（o, t）将随机兴趣域中映射到静态高斯参考域代。这样使随机兴趣 变量、P（?）的PDF与高斯分布关联起来。在上下界固定的域中， 平均值为零的对称场的解用未知时间量t表示：GP（t,甲）=2exp（l G2）erfT（时2,G（t） = Jexp（2.） 1（ 10）AMC方法中，当方差为零（或G一s）时，PDF在复合域中从 一个双A分布逆向扩散到一个以0 为中心的渐近近似高斯分布。 还有其他物理方法将PDF主动转换到高斯分布（或任何其

12、他分布）。 Johnson-Edgeworth变换（JET） 30使用随机物理场的转换方式转换 为固定的标准高斯（或任何其他）参考域，其使用如下的转换模式:甲=端，Y（t= 0）e0,y（t T8）（ 11）函数y（t）在此起着类似于AMC中G的作用。通过适当形式的Z 函数，确定标量PDF。这种方法可产生多种频率。例如，AMC通过 转换式Z=erf（中o）恢复，即标记为erf-1正态分布。因此c和物 理时间t之间的关系可以通过高阶统计量的知识来确定。例如，标准 化方差： TOC o 1-5 h z =-arctan-=）（ 12）,2（0）兀GG2+2J通过赋值总平均耗散e（t）=-嗜的来确定

13、t。有了这个耗散的知 识，所有的条件统计量都可确定。=(exP2g_(/)2(13)exper/-1()2er/-1()（S） _四（S） _四,中）=（卡 l1+sin市=后(14)本节采用AMC（ erf-1正态分布）评估本文深度学习框架的效果。 图3 （ac）给出第一组精确概率密度函数及其深度学习结果值的分 布情况；图3 （ df）为相应精确条件期望扩散及其深度学习结果值的 分布情况。图中的P（t,肥）和D（t, 值由10个隐藏层组成的深层神经 网络来近似获得,每个隐藏层有50个神经元（该方法的策略见图1 ）。使用文献31中的x - sigmoid（x）作为Swish激活函数，同时使用物

14、 理信息的神经网络13。在本文中，选择一致的神经网络结构，将每个 输出变量的隐藏层数设置为10个，将神经元数设置为50个。(a)精确P(t, 0);(b)学习所获P(t,(a)精确P(t, 0);(b)学习所获P(t, 0);（c）差值（e）学习所获D（t,中）;差值图 3 第一组概率密度函数、条件期望扩散函数及其深度学习结果值 的分布情况（a）为精确概率密度函数P（t,肥），（b）为精确概率密度 函数P（t,肥）的深度学习结果，（c）为二者的差值；（d）为条件期望扩 散D（t,肥），（e）为条件期望扩散D（t,肥）的深度学习结果，（f）为二 者的差值训练过程简述如下:测试结果是在Adam优化

15、器的105.2x105. 3x105和4x105的连续时间段之后获得的，相应的学习率分别为10- 3、10-4、10-5和10-6。每个时间段均对整个数据集完整计算一次。因此，Adam优化器的总迭代次数是数据个数除以最小批量值的106 倍。本文使用的小批量大小是20000,数据点的数量是20000。此算法能够重建概率密度函数P（t,甲），通过深度学习方法获得条 件期望扩散D（t,饥,它们的相对L2误差分别为1.27x10-4和1.73x10- 2。图4给出了空间相对L2误差，横坐标为时间。在时间t较小时误 差值很大，这是由于P（t,肥）在t=0时的奇异性造成的。然而，随着时 间t增大，误差随着

16、初始奇异性的减弱而减小。图4条件期望扩散模型学习所得数据的误差。左图为精确概率密度 函数P（t,肥）及其深度学习结果的相对L2误差（Rel. L2 Error），右图 为精确和学习的条件期望扩散D（t,甲）的相对L2误差（Rel. L2 Error）图5（ac）给出第二组精确概率密度函数及其深度学习测试值 的分布情况；图5（ df）为相应精确和深度学习获得的条件期望耗散 （t,肥）测试值的分布情况。图中的P（t,肥）和（t,勿值由10个隐藏层 组成的深层神经网络来近似获得，每个隐藏层有100个神经元（该方 法的策略框架见图2）。（a）精确P（t,饥；（b）学习所获P（t,p） ；（c）差值（d

17、）精确s（t,甲）；（e）学习所获汜,甲）;差值图5第二组精确概率密度函数、条件期望耗散函数及其深度学习测试值的分布情况。（a）精确概率密度函数P（t, ），（b）精确概率密度 函数P（t,肥）的深度学习结果，（c）二者的差值；（d）条件期望耗散 对 （e）条件期望耗散油肥）的深度学习结果，（f）二者的差值 仍激使用活函数x sigmoid（x）。训练过程与前一组测试相同。该 算法能够重建概率密度函数P（t,甲），通过深度学习方法获得条件期望 耗散（t,勿，二者相对L2误差分别为3.84x10-4和1.75x10-2。图6 给出了空间相对L2误差，横坐标为时间。图6条件期望耗散模型学习所得数据的误差。顶部面