CN114036934B 一种中文医学实体关系联合抽取方法和系统 （浙江工业大学）

一种中文医学实体关系联合抽取方法和系统一种中文医学实体关系联合抽取方法，包的字符对向量生成模块、主谓宾三元组输出模文医疗文本中复杂语句的实体嵌套和关系重叠元缓解了中文医疗文本中存在许多专业词汇即2步骤二：获取已标注的中文医疗信息抽取数据集Dat步骤三：基于Flat_Lattice结构对Text和Data进行中任意两个字或者词向量的4个相对距离，得到各个医疗文本字或者词向量及其相对距离3.1)对Text和Data的各个医疗文本分别使用中xi和xj之间的4个相对距离"、g"、d"和放入相对距离矩阵，其中表示xi的开接残差连接和层标准化，任意两个字或者词向量xi和xj之间的位置编码Rij由4个相对距离和以绝对位置编码形式拼接后经过一个激活函数为ReLU的全连接得到：步骤五：根据关系嵌入C和Transformer-XL编码器输出的医疗文本字向量H预测关系，35.2根据C和H计算关系注意力值A(l5.3通过注意力融合机制，将M(s)和M(l)分别输入一M=αM(s)+βM(l)，5.4将M输入两个全连接得到关系标签的预测概率j",第一个全连接使用ReLU激活函步骤六：将Transformer-XL编码器输出的医疗文本的每两个字向量hi和hj拼接后作一步骤七：通过融合特定关系嵌入的TPLinker解码器解码得到4其中Lrel是关系预测的损失函数，第q个关系的真实值第q个关系的预测值Ltp是加入关系预测后的损失函数，E、H和T分别表示EH-to-ET、SH-to-OH和步骤九：从Data中取验证数据集，将其医疗文本的字步骤十一：将Text的各个医疗文本词汇增强后的字或2.实施权利要求1所述的一种中文医学实体关系联合抽取方法的系统，其特征在于包5[0004]联合抽取方法一定程度上弥补了以上3个缺点。联合抽取，即关系三元组抽取6[0011]步骤二：获取已标注的中文医疗信息抽取数据集Data(包括各个医疗文本的关系文本任意两个字(或者词)向量的4个相对距离以表示字(或者词)向量之间可能存在的交[0014]3.2获取预训练好的中文生物医学词向量，将Te中文生物医学词向量的词表进行匹配，识别出与词表有交集的词语进行词汇增强，得到[0015]3.3对Text和Data中每个医疗文本的[0017]其中head[i]和tail[i]表示第i个字(或者词)向量xi的头尾位置，用head[j]和i的结束位置到xj的结束位置的距离；4个相对距离和以绝对位置编码形式拼接后经过一个激活函数为ReLU的7[0029]步骤五：根据关系嵌入C和Transformer-XL编码器输出的医疗文本字向量H预测[0030]5.1将医疗文本字向量H输入两个全连接得和W2是待训练的参数；[0034]5.2根据关系嵌入C和医疗文本字向量H计算关系注意力值A(l)和基于关系注意力[0042]5.4将M输入两个全连接得到关系标签的预测概率je,第一个全连接使用ReLU激[0043]j"=sig[0045]步骤六：将Transformer-XL编码器输出的医疗文本的每两个字向量8[0058]其中Lrel是关系预测的损失函数，第q个关系的真实值第q个关系的预ST-to-OT，表示字符对hij被标记的预测值，yijq表示字符对hij被标记的真实值，码使用Flat_Lattice结构和Transformer-XL中提出的基于相对位置编码的自注意力机制，信息来预测医疗关系。TPLinker联合解码将Transformer-XL输出的字符向量表示成字符9制的关系预测单元和TPLinker联合解码单元3个部分组成。词汇增强编码单元使用Flat_Lattice结构和Transformer-XL中提出的基于相对位置编码的自注意力机制，融合了字符编码单元缓解了中文医疗文本中存在许多专业词汇即使结合上下文也无法准确识别的难[0066]本发明还包括实施本发明的一种中文医学实体关系模块依次分别对应本发明方法的步骤一～步骤十了中文医疗文本中存在许多专业词汇即使结合上下文也无法[0071]参照图1和图2，以中文医疗信息咨询系统及中文医疗信息抽取数据集CMeIE为医疗文本中头实体和尾实体的头尾位置；文本任意两个字(或者词)向量的4个相对距离以表示字(或者词)向量之间可能存在的交[0080]3.3对Text和Data中每个医疗文本的[0082]其中head[i]和tail[i]表示第i个字(或者词)向量xi的头尾位置，用head[j]和4个相对距离和以绝对位置编码形式拼接后经过一个激活函数为ReLU的[0093]步骤五：根据关系嵌入C和Transformer-XL编码器输出的医疗文本字向量H预测[0094]5.1将医疗文本字向量H输入两个全连接得和W2是待训练的参数；[0106]5.4将M输入两个全连接得到关系标签的预测概率第一个全连接使用ReLU激[0107]j"=sig[0109]步骤六：将Transformer-XL编码器输出的医疗文本的每两个字向量[0122]其中Lrel是关系预测的损失函数，第q个关系的真实值第q个关系的预ST-to-OT，iwn表示字符对hij被标记的预测值，yijq表示字符对hij被标记的真实值，P(iun=y)表示解码第q个关系时字符对hij被标记为yijq的