《隧道及地下工程信息化技术与应用》课件 第十章 机器学习方法在盾构隧道工程中的应用

第十章机器学习方法在盾构隧道工程中的应用东南大学土木工程学院《隧道及地下工程信息化技术与应用》内容提纲机器学习概述1基于聚类算法的盾构隧道性能退化模式识别2基于深度学习的盾构隧道性能退化预测模型310.1机器学习概述人工智能（ArtificialIntelligence，AI），是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。“人工智能是关于知识的学科——怎样表示知识以及怎样获得知识并使用知识的科学。”“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”机器学习（MachineLearning，ML)就是要使计算机能模拟人的学习行为，自动地通过学习获取知识和技能，不断改善性能，实现自我完善。10.1机器学习概述人工智能、机器学习与深度学习的关系10.1机器学习概述监督学习非监督学习半监督学习强化学习向系统提供给定输出结果（正确答案）的训练数据集，系统根据已知输出和实际输出的误差来自动调节,实现学习。只有部分数据是被标识的。需要利用这些观察量(包括已标识数据和未标识数据)及相关的知识对未标识的观察量做出适当合理的推断。输入数据没有答案，系统根据所提供数据的某种统计规律来调节自身参数或结构。外部环境对系统输出结果只给出评价（对或错）但不提供正确答案，系统通过强化正确行为学习。机器学习方法的分类内容提纲机器学习概述1基于聚类算法的盾构隧道性能退化模式识别2基于深度学习的盾构隧道性能退化预测模型310.2基于聚类算法的盾构隧道性能退化模式识别10.2.1时间序列聚类聚类算法是一种将相似的样本聚在同一个类别中，把不相似的样本分隔开的算法。时间序列聚类是一种时间序列模式识别的方法，它是一种能够对时间序列进行自动分类和识别的无监督学习，其主要目的是将时间序列数据分为不同的类别。对于时间序列数据的处理一般有基于原始测度数据的时间序列聚类和基于特征的时间序列聚类两种方法。10.2基于聚类算法的盾构隧道性能退化模式识别10.2.2基于DTW距离的K均值聚类算法对于某个具体的聚类问题，如果采用基于K均值的聚类算法，其聚类效果与距离度量的选择密切相关。选择合适的距离度量是时间序列数据挖掘中的重点。目前，针对时间序列数据己经存在许多距离度量方法，其中，应用最为广泛的两个距离度量方法是欧式距离（EuclideanDistance）和DTW距离（DynamicTimeWraping）。10.2基于聚类算法的盾构隧道性能退化模式识别10.2.2基于DTW距离的K均值聚类算法时间序列欧式距离原理图DTW距离路径示意图欧氏距离计算复杂度相对较低，可有效地衡量时间序列之间的相似度，在相似性度量中被广泛采用，但对时间序列数据的要求较高，应用时有一定的局限性。相较于欧氏距离，DTW距离可以处理不等长的两个时间序列数据，且一定程度上允许对时间序列进行拉伸平移。10.2基于聚类算法的盾构隧道性能退化模式识别10.2.2基于DTW距离的K均值聚类算法(a)欧氏距离(b)DTW距离对于两条发生错动的时间序列而言，欧式距离显然不能衡量两条时间序列之间的最短距离。而DTW距离可以识别出时间序列在时间上的错动允许相似的时间序列在时间上被“压缩”或者“拉伸”。欧氏距离与DTW距离对比10.2基于聚类算法的盾构隧道性能退化模式识别10.2.2基于DTW距离的K均值聚类算法在应用K均值算法时，最终生成的聚类数量K必须预先设定。优化确定聚类数量K的方法，包括MeanSquaredDistortion（MSD），GapStatistics和DirichletProcess（DP）方法。MSD为同一聚类中所有对象到聚类中心的距离平均值，是选择聚类中心K的最简单且有效的方法。随着聚类数量K的增加，MSD会逐步减少，下降趋势变化的转折点可能代表最优的聚类数量K。基于DTW距离的K均值聚类算法流程图10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例在上海市20条地铁隧道中，上海地铁1号线在1995年正式运营，总长为36.4km。运营通车后，上海地铁1号线发生了大幅度的沉降。上海地铁1号线累积沉降随里程和时间的变化(a)盾构隧道累积沉降随里程的变化(b)盾构隧道累积沉降随时间的变化10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例提出使用盾构隧道服役性能指标（TSI）来评估软土盾构隧道服役性能的整体状况。选取相对沉降平均值、平均差异沉降、平均收敛变形率、渗漏水面积（百环）、衬砌剥落面积（百环）、裂缝长度（百环）六个评估指标。TSI标准化计算公式10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例通过归一化可以计算出每个观测变量对TSI的影响因子。可以看出，大约58.6%的TSI改变来自于沉降因素，包括平均相对沉降的均方根和平均差异沉降，这些结论与上海地铁维护组的修护养护经验基本一致。六个评价指标对TSI的影响因子10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例为了更好的反映TSI随时间的变化情况，对很好、好、一般、差、很差5种服役状态等级的分类方法进行调整，不再考虑很差的状态，并进一步细分。盾构隧道服役性能的分类10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例选择上海地铁1号线人民广场——黄坡路上下行、新闸路——汉中路上下行、徐家汇——上海体育馆上下行和漕宝路——上海体育馆上下行4个隧道区间为研究区段。可以看出，随着服役时间的增长，TSIs数值逐渐增大，研究区段的盾构隧道服役性能逐渐变差。TSIs时间序列数据TSIs数据统计特性10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例由于K均值聚类算法对于初始聚类中心的选择非常敏感，难以得到全局最优解而陷入局部最优解。为了克服这一问题，使用了k折交叉验证模型寻找全局最优解并确定聚类分析的参数。10折交叉验证流程图10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例为了找到最优聚类数量K，对于每一个训练集，聚类模型中K的预先取值范围在K=2到K=9之间。采用MSD方法，找到MSD停止显著下降的“拐点”，据此作为最优聚类数量K。使用10折交叉验证模型验证该准则的一致性，MSD在K=4时收敛。K均值聚类分析中10个训练集的MSD10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例K=4时不同位置处TSIs时间序列的聚类结果聚类结果表明，处于相同类别的隧道区间的TSIs时间序列基本聚集在相近的物理空间区域，处于相似地质条件的隧道区间的服役性能退化水平也是近似的，初步验证了聚类模型的有效性。10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例4个不同类别的TSIs时间序列数据10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例4个聚类类别的TSIs时间序列平均值为验证聚类结果的精确性，对每两个类别的时间序列数据进行了方差分析。结果表明，每两个类别中时间序列的对应点都是显著不同的，同样验证了聚类模型的有效性。10.2基于聚类算法的盾构隧道性能退化模式识别10.2.3基于K均值聚类算法的盾构隧道工程应用案例4个隧道区间中不同退化模式的百分比退化模式相似性寻找及模式识别可以看出隧道区间2的整体服役状况是最差的，隧道区间3的整体服役状况最好，表明隧道区间3保持着较低的退化水平。隧道区间1的聚类结果分布和隧道区间4十分接近，表明这两个隧道区间的退化水平较为接近。内容提纲机器学习概述1基于聚类算法的盾构隧道性能退化模式识别2基于深度学习的盾构隧道性能退化预测模型310.3基于深度学习的盾构隧道性能退化预测模型10.3.1深度学习网络框架人工神经网络（ArtificialNeuralNetworks）是一种模仿生物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点（神经元）之间相互连接的权重，从而达到处理信息的目的。10.3基于深度学习的盾构隧道性能退化预测模型10.3.1深度学习网络框架人工神经网络的发展史10.3基于深度学习的盾构隧道性能退化预测模型10.3.1深度学习网络框架递归神经网络（RNN）能满足时间序列数据样本随时间顺序而变化的要求。它能够学习到时间序列之间的依赖，并且已经成功应用到语言模型和图像生成等领域中。递归神经网络RNN在时间上进行展开10.3基于深度学习的盾构隧道性能退化预测模型10.3.1深度学习网络框架RNN对长期依赖信息的学习能力比较有限，如果预测位置与其所需要的相关信息位置较远，“梯度弥散”问题就可能产生。为了代替RNN中的单个单元，长短时记忆模型（LSTM）在递归隐含层中使用包含“记忆细胞”和“记忆门”的记忆模块。长短时记忆模型LSTM网络结构10.3基于深度学习的盾构隧道性能退化预测模型10.3.1深度学习网络框架深度学习的参数求解本质是优化问题，落地应用需打磨适配的技巧，不同优化方法各有优劣。参数初始值、激活函数的选择是决定模型效果的核心关键，而过拟合是制约神经网络落地应用的主要瓶颈，需采取针对性措施防控。求解损失函数最小值普遍采用梯度下降法，基础神经网络通过BP反向传播算法，求解损失对各权重参数的偏导数；循环神经网络的正向传播沿时间序列依次推进，因此采用BPTT时序反向传播算法，将累计残差在最终时刻沿时间维度反向传递。深度神经网络10.3基于深度学习的盾构隧道性能退化预测模型10.3.2基于LSTM神经网络的盾构隧道工程应用案例采用LSTM网络结构对TSIs时间序列数据进行预测。相比于预测趋势性的时间序列，LSTM通常在预测周期性的时间序列中有更好的效果。LSTM深度学习框架采用包含一个LSTM隐含层和一个全连接层（DenseLayer）的网络结构。LSTM网络结构10.3基于深度学习的盾构隧道性能退化预测模型10.3.2基于LSTM神经网络的盾构隧道工程应用案例LSTM层中单元数量的影响：单元的数量从以下候选集中进行选取：{32,64,128,256,384}，且输入的序列长度定为15。当LSTM层中单元的数量为256时，4类LSTM网络的预测结果达到了较优的预测性能。LSTM深度学习框架的参数选取LSTM层中单元数量的影响10.3基于深度学习的盾构隧道性能退化预测模型10.3.2基于LSTM神经网络的盾构隧道工程应用案例对于LSTM模型而言，输入序列的长度是十分重要的，因为它控制了当作输入的历史数据点数量。确定输入序列长度和确定单元数量的方法相同，都是通过比较实验得到。LSTM深度学习框架的参数选取4个模型最终的输入序列长度及其相应的模型性能10.3基于深度学习的盾构隧道性能退化预测模型10.3.2基于LSTM神经网络的盾构隧道工程应用案例预测模型验证样本TSIs时间序列数据的计算结果和预测结果在确定好预测模型的参数之后，使用训练集对LSTM模型进行训练，数据点的拟合度较好。10.3基于深度学习的盾构隧道性能退化预测模型10.3.2基于LSTM神经网络的盾构隧道工程应用案例预测模型验证测试集TSIs数据的计算值和预测值使用测试集对模型效果进行验证，预测数据和观测数据比较一致。10.3基于深度学习的盾构隧道性能退化预测模型10.3.2基于LSTM神经网络的盾构隧道工程应用案例预测模型验证同时，比较了LSTM模型和传统的BP神经网络模型预测性能的差异。LSTM模型的预测性能比BP神经网络模型稍好，LSTM网络结构比传统的神经网络有更复杂的结构和更多的参数，所以在处理时间序列预测问题时有更大的优势。LSTM和BP神经网络的预测性能对比1