CN119493862A 工程安全设计文档可视化审查模型训练方法 （中国电建集团西北勘测设计研究院有限公司）

工程安全设计文档可视化审查模型训练方法具体公开了一种工程安全设计文档可视化审查2对所述字词向量PAR进行最大池化后与所述句子向量SEN进行拼接，得到跨度语义向,式中，m为第一实体位置索引i到第二实体位置索引j的跨度在整个跨度序列中的位最大池化函数，PAR'为对字词向量PAR进行最大池化后的向量，PARf为第K个PAR'，3.根据权利要求1或2所述的工程安全设计文档可视化审查模型训练方法，其特征在对标注后的字词序列进行重新组合排列平铺，得到标注后包含有实体述循环神经网络模型为基于多头自注意力机制的长短时记忆述基于多头自注意力机制的长短时记忆网络模型的损失函数包括关系分类损失函数和实34据集的高精度机器学习模型是目前存在的技术5[0015]式中，m为第一实体位置索引i到第二实体位置索引j的跨度在整个跨度序列中的为最大池化函数，PAR'为对字词向量PAR进行最大池化后的向量，为第K个PAR'，concat()为拼接函数，PH为将与句子向量SEN拼接后的向量，Tanh()为双曲正切函[0019]确定待审查工程安全设计文档与所述内容全局模板不匹配时，发出审查预警指[0021]确定待审查工程安全设计文档与所述方案全局模板不匹配时，发出审查预警指6度序列。[0025]优选地，所述循环神经网络模型为基于多头自注意力机制的长短时记忆网络模[0034]图1为本发明实施例中工程安全设计文档可视化审查模型训练方法的总体框架7{方案针对性}。其中D1采用关键词制定内容全局模板，Dl=fa,az,…,an}，n=6，通过为二进制形式的跨度序列。的字词序列标记为s=(do,d1,…,da1)，其中下标（0,1,2，…)表示工程安全设计文档中8[0051]本发明实施例首先将各类工程安全设计文档中的实体转化为机器可识别的向量，下文信息进行动态特征提取。本发明实施例的自编码语言模型具体可为BERT、ALBert、出文本的字符级向量化表示V=(T,TZ,.…TW)n为序列长度，d为BERT隐藏状态维[0055]示例性地，本发明实施例的自编码语言模型中的编码层包含字词编码和跨度编位置向量LOC和句子向量SEN。然后通过将PAR进行最大池化，突出语义中的显著信息后与长度i下，位置索引为i的实体1到位置索引为j的实体2中间所有字词组成的向量矩阵，d,[0057]式中，m为第一实体位置索引i到第二实体位置索引j的跨度在整个跨度序列中的为最大池化函数，PAR'为对字词向量PAR进行最大池化后的向量，为第K个PAR'，concat()为拼接函数，PH为将与句子向量SEN拼接后的向量，Tanh()为双曲正切函9为RE=sigmnoid(GPI+⃞)代表关系类别个数，d.为关系类别不同的关系进行分解。根据抽取出的关系类别RE={RE1,RE2,…,RE}将关系向量循环神经网络模型为递归神经网络模型、长短时记忆网络模型、双向循环神经网络模型意力机制（Multi-headself-attention）集成为Multi-LSTM方法处理输入的PIR，输出的为拼接函数，EN"和EN"分别为第i个字符在关系下的头实体和尾实体分别为第个字符在关系条件下基于关系提取的实体识别模型可以减少每个k表示关系的类别数，RE表示与当前句子结合的第j个关系向量表示；和P(EN")分别表示在关系RE;的条件下，第i个字符被预测"性。首先针对分类体系中的任意类别x构建混淆矩阵（CM,confuTP表示X类别的样本被正确分类到X类；FP表示其他类的样本被错误分[0087]s-器（6）SPBERT-Multi-LSTM方法在同一数据集上与BERT模型和LSTM模型进行对比，训练过程中仍然采用本发明提出的基于span的标注方法，训练结果如表4所示，表中加粗字体表示在同一指标中最大值。由表4可以看出，本发明提出的方法的和F1在三个模型中别提高了17.49％、14.69％和16.0[0092]本发明根据抽取的安全设计文档中的实体和关系构建三询结果后即可展示语义网中的各类信息链，根据审查规则和预警规则判断信息链中内容的完整性和方案的针对性。果图如图3所示。