CN114997170B 一种基于语义与句法依存信息的命名体识别方法 （杭州电子科技大学）

一种基于语义与句法依存信息的命名体识本发明公开了一种基于语义与句法依存信本分析；对词性信息和句法依存信息进行预处one-hot向量，并根据不同单词之间的依存关系方向构建邻接矩阵；构造命名体识别模型BiLSTM-AELGCN-CRF；利用训练好的命名体识别模型BiLSTM-AELGCN-CRF实现实体预测。本发明有命名体识别模型存在的句法信息缺失以及其2述文本分析包括词性分析与句法依存分析；其中所述句法依存信息包括句法依存关系类将待识别实体的文本数据采用one-hot编码转化为文本数据one-hot向量法依存关系类型的one-hot向量进行词嵌入处理，得到词性信息嵌入向量和句法依存关系其中表示第i个向量维度句法依存关系类型嵌入向量的集合，i＝1,…,p，W表示边更新模块，用于将节点联合更新模块的输出Hl更新第i个单词到第j个单词的句法依3由组合得到当前层句法依存关系类型嵌入向量的集合El，然后将其输入下一层所述密集连接层包含多个子层，该子层的数量等于注意力导向的邻接据所述注意力引导层输出的注意力导向的邻接矩阵，计算出不同特征空间下的节点向量；对于gy",其计算公式如下：所述线性组合层采用线性层的方式合并密集连接层的2.根据权利要求1所述方法，其特征在于步骤(3)所述命名体使用隐藏单元个数为m的BiLSTM对给定时间步t的词向量xt进行前向和后向的编码，并43.根据权利要求1所述方法，其特征在于步骤(3)所述命名CRF中句法依存提取层的AttentionGuidedGCN中所述线性4.根据权利要求3所述方法，其特征在于步骤(3)所述命名体识别模型Bi5.根据权利要求4所述方法，其特征在于步骤(3)所述命名通过梯度下降优化算法迭代地找到损失函数的最小值完成神经网络的参数训练过程；6.一种基于语义与句法依存信息的命名体识别及存储在所述存储器上并可在所述处理器上运行的一种基于语义与句法依存信息的命名理器执行时实现如权利要求1-5任一所述的一种基于语义与句法依存信息的命名体识别方5力机制，其能有效解决现有命名体识别模型存在的句法信息缺失以及其利用率不足的问系类型转化成one-hot(独热编码)向量，并根据不同单词之间的依存关系方向构建邻接矩6体识别方法的程序被所述处理器执行时实现所述的一种基于语义与句法依存信息的命名法的程序被处理器执行时实现所述的一种基于语义与句法依存信息的命名体识别方法的于注意力与句法邻接边的图卷积网络(AttentionandEdge-LabelbasedGraph模型存在的语义和句法信息缺失以及其利用率不足的问题。最后使用CRF模型的转移特征系类型转化成one-hot(独热编码)向量，并根据不同单词之间的依存关系方向构建邻接矩7及句法依存关系类型的one-hot向量进行词嵌入处理，得到词性信息嵌入向量和句法依存关系类型嵌入向量；所述的词嵌入处理是使用预训练过的词嵌入向量算法把one-hot向量[0032]使用隐藏单元个数为m的BiLSTM对给定时间步t的词向量xt进行前向和后向的编存关系类型嵌入向量的集合，Hl-1为上一层的AELGCN输出向量，σ表示激活函数，通常为8[0042]例如对于BiLSTM的输出整体记作Hl-1，对于,…,h5}。[0043]b)边更新模块(Node-AwareEdgeUpdateModule)，用于将节点联合更新模块的表示第i个单词到第j个单词的句法依存关系类型所有维度的嵌入向量,为矩阵的拼接操[0046]由组合得到当前层句法依存关系类型嵌入向量的集合El，然后将其输入下一[0048]在注意力引导层(AttentionGuideLayer)中，将邻接矩阵转换为注意力导向的[0052]根据注意力导向的邻接矩阵计算出不同特征空间下的节点向量其具体计9-[0068]通过梯度下降优化算法迭代地找到损失函数的最小值完成神经网络的参数训练[0072]本发明性能评估分别在四个基准数据集上进行了评估:SemEval2010Task1加泰PR78.3369.8973.8784.1079.8881.9384.3679.4881.8584.0582.9083.4786.2284.2485.0988.7587.5288.13PR86.0486.5386.28Lietal.88.0086.5087.2187.2186.9387.0788.3088.0688.1888.5688.7688.6688.5388.5088.5088.9689.1389.0488.7289.7989.25[0081]上述命名体识别预测实验结果表中，BiLSTM-AELGCN-CRF即为本发明中的一种基于语义与句法依存信息