CN114417006B 基于潜在关系预测的双仿射重叠关系抽取方法和系统 （国网山东省电力公司济南供电公司）

司基于潜在关系预测的双仿射重叠关系抽取本发明提出了基于潜在关系预测的双仿射引形式的句子和标记后的三维目标矩阵输入至Bert模型进行训练得到含有潜在关系的隐藏层句子中潜在的关系去提取出每个关系对应的实2将用于重叠关系抽取的句子预处理为索引的形式；将每个句子中的通过对句子中每个词与其自身以及前面的每个词和后面的每个词均进行一次握手配所述如果三元组中的主体实体在前，客体实体在后，则对目标矩阵如果配对的两个词是三元组中主体实体的头和客体实体的最后一个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相应位置如果配对的两个词是三元组中的主体实体的头和客体实的倒数第二个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相应位如果配对的两个词是三元组中的主体实体的尾和客体实的倒数第三个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相应位如果配对的两个词是三元组中的主体实体的尾和客体实的倒数第四个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相应位所述如果三元组中的客体实体在前，主体实体在后，则对目标矩阵如果配对的两个词是三元组中客体实体的头和主体实体的最后一个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相应位置如果配对的两个词是三元组中的客体实体的头和主体实的倒数第二个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相应位如果配对的两个词是三元组中的客体实体的尾和主体实的倒数第三个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相应位如果配对的两个词是三元组中的客体实体的尾和主体实的倒数第四个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相应位将索引形式的句子和标记后的三维目标矩阵输入至Bert模型进行3所述将用于重叠关系抽取的句子预处理为索引的形采用分词器将用于重叠关系抽取的句子转换为所述三维目标矩阵为[最大句子长度*最大句子长度*(关系类别获取Bert最后一层的隐藏向量，并利用所述最后一层的隐藏向量得到所述潜在关系之后，对得到的每一种关系进行嵌入编码操作，然后所述对所述隐藏层向量进行线性变换得到与所述三维目标矩阵具有相同形状首先使用两个线性变换，分别得到句子中的每个词作为主体实将所述主体实体的向量表示和客体实体的向量表示分别输入至双仿射模型中得到双双仿射模型矩阵再经过一次线性变换，采用激活函数激活之后，得矩阵具有相同形状的矩阵；所述与所述三维目标矩阵具有相同形状的矩阵表示为[最大句所述采用所述最终的Bert模型实现双仿射重叠关系抽取的将测试数据输入至最终的Bert模型中，得到最终三维矩阵；所述最对所述最终三维矩阵上三角部分进行解码，通过使用主体实体头-客体实体头和主体实体尾-客体实体尾以及主体实体头-客体实体尾和主体实体尾-客体实体尾的依存关系即可确定主体实体；使用主体实体头-客体实体头和主体实体头-客体实体尾以及主体实体尾-客体实体头和主体实体尾客体实体尾即可再通过依存关系上的关系类别索引即可确定主体和客体对应的关7.基于潜在关系预测的双仿射重叠关系抽取系所述预处理模块用于将用于重叠关系抽取的句子预处理为索引的形式；4所述标记模块用于通过对句子中每个词与其自身以及前面的每个词和后面的每个词所述训练抽取模块用于将索引形式的句子和标记后的三维目标矩阵输入至Bert模型5[0008]通过对句子中每个词与其自身以及前面的每个词和后面的每个词均进行一次握[0012]进一步的，所述三维目标矩阵为[最大句子长度*最大句子长度*(关系类别数+6三维的最后一个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相应三维的倒数第二个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相三维的倒数第三个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相三维的倒数第四个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相三维的最后一个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相应三维的倒数第二个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相三维的倒数第三个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相三维的倒数第四个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相7[0031]将所述主体实体的向量表示和客体实体的向量表示分别输入至双仿射模型中得到双仿射模型矩阵；所述双仿射模型矩阵表示为[最大句子长度*最大句子长度*隐藏层大目标矩阵具有相同形状的矩阵；所述与所述三维目标矩阵具有相同形状的矩阵表示为[最[0035]对所述最终三维矩阵上三角部分进行解码，通过使用主体实体头-客体实体头和主体实体尾-客体实体尾以及主体实体头-客体实体尾和主体实体尾-客体实体尾的依存关[0038]本发明还提出了基于潜在关系预测的双仿射重叠关系抽取系统，包括预处理模[0040]所述标记模块用于通过对句子中每个词与其自身以及前面的每个词和后面的每[0041]所述训练抽取模块用于将索引形式的句子和标记后的三维目标矩阵输入至Bert用所述最终的Bert模型实现双仿射重叠关技术方案中的一个技术方案具有如下优点或有[0043]本发明提出了基于潜在关系预测的双仿射重叠关系抽取方法和系统，该方法包8明进行详细阐述。下文的公开提供了许多不同的实施例或例子用来实现本发明的不同结[0048]本发明实施例1提出了基于潜在关系预测的双仿射重叠关系抽取方法，将句子中[0050]通过对句子中每个词与其自身以及前面的每个词和后面的每个词均进行一次握[0053]对要输入的每个句子进行预处理，使用Bert的tokenizer将要输入进模型的句子[0054]根据每个句子中的单词经过处理转换为索引后的长度，生成一个形状为[最大句子长度*最大句子长度*(关系类别数+4)]的初应的关系类别在第三维的相应位置标记为1；如果配对的两个词是三元组中的主体实体的9实体对应的关系类别在第三维的相应位置标记为1；如果配对的两个词是三元组中的主体和客体实体对应的关系类别在第三维的相应位置标记为1；如果配对的两个词是三元组中标矩阵的第三维的最后一个位置标记为1，且将客体实体和主体实体对应的关系类别在第将目标矩阵的第三维的倒数第二个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相应位置标记为1；如果配对的两个词是三元组中的客体实体的尾和主体实关系类别在第三维的相应位置标记为1；如果配对的两个词是三元组中的客体实体的尾和射模型中得到形状为[最大句子长度*最大句子长度*隐藏层大小体头和主体实体尾-客体实体尾以及主体实体头-客体实体尾和主体实体尾-客体实体尾的主体实体尾-客体实体头和主体实体尾客体实体尾即可确定客体实体；然后再通过依存关[0062]本发明实施例1提出的基于潜在关系预测的双仿射重叠关系抽取方法，利用句子的形式存在的实体对和关系类别融合到一起然后用多标签分类的方法进行主客体的抽取明实施例1通过潜在的关系预测和双仿射变换，能够有效利用句子中潜在的关系去提取出[0064]基于本发明实施例1提出的基于潜在关系预测的双仿射重叠关系抽取方法。本发明实施例2还提出了基于潜在关系预测的双仿射重叠关系抽取系统，该系统包括预处理模[0066]标记模块用于通过对句子中每个词与其自身以及前面的每个词和后面的每个词[0067]训练抽取模块用于将索引形式的句子和标记后的三维目标矩阵输入至Bert模型三维的最后一个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相应三维的倒数第二个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相三维的倒数第三个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相三维的倒数第四个位置标记为1，且将主体实体和客体实体对应的关系类别在第三维的相三维的最后一个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相应三维的倒数第二个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相三维的倒数第三个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相三维的倒数第四个位置标记为1，且将客体实体和主体实体对应的关系类别在第三维的相[0084]对所述隐藏层向量进行线性变换得到与所述三维目标矩阵具有相同形状的矩阵[0086]将所述主体实体的向量表示和客体实体的向量表示分别输入至双仿射模型中得到双仿射模型矩阵；所述双仿射模型矩阵表示为[最大句子长度*最大句子长度*隐藏层大目标矩阵具有相同形状的矩阵；所述与所述三维目标矩阵具有相同形状的矩阵表示为[最[0089]对最终三维矩阵上三角部分进行解码，通过使用主体实体头-客体实体头和主体实体尾-客体实体尾以及主体实体头-客体实体尾和主体实体尾-客体实体尾的依存关系即可确定主体实体；使用主体实体头-客体实体头和主体实体头-客体实体尾以及主