CN114265932B 一种融入深度语义关系分类的事件脉络生成方法及系统 （国家计算机网络与信息安全管理中心广东分中心）

一种融入深度语义关系分类的事件脉络生本发明公开一种融入深度语义关系分类的文本向量表示为所有token的向量的平均；对于基于主题模型的文本聚类方法和基于深度语义2概率pi，最终根据所述概率pi，将新闻数据集合D划分为多个类别，得到主题聚类结果T=事件聚类步骤，具体包括：获取新闻数据集合D的关键词，对每个主题聚类结果键词拼接后输入到bert模型中，最终的新闻文本向量表示为所有token的向量的平均；其i为新闻数据的第i个关键词，行分支确定，得到每个主题对应的分支集合B＝{branch1,branch2,…branch|B|}，其中2.根据权利要求1所述的一种融入深度语义关系分类的事件脉络生成方法，其特征在向隐状态和后向隐状态所述前向隐状态和所述后向隐状态由vi的上下文信息v<i＝[v1,…,vi-1]与v>i＝[vi+1,…,vD]以及引入预训练的词向量作为先验知识得到，即其次，主题模型将词文档序列中所有词的联合分布p(v)分解为每个词vi的条件分布的3条件p(vi)分别由前向隐状态和后向隐状态通过神经3.根据权利要求1所述的一种融入深度语义关系分类的事件脉络生成方法，其特征在4.根据权利要求1所述的一种融入深度语义关系分类的事件脉络生成方法，其特征在步骤2)将下一篇文档X与已有的所有话题的簇心新闻均做相似度计算，采用余弦距离5.根据权利要求1所述的一种融入深度语义关系分类的事件脉络生成方法，其特征在各个事件的高频关键词，对于各个事件的高频词来说，比较各个事件之间高频词之间的概率pi，最终根据所述概率pi，将新闻数据集合D划分为多个类别，得到主题聚类结果T=事件聚类模块，具体执行：获取新闻数据集合D的关键词，对每个主题聚类结果4Ti=fta,tz…trI}中的新闻ti，采用bert模型对每篇新闻数据进行分支确定，得到每个主题对应的分支集合B＝{branch1,branch2,…branch|B|}，其中7.根据权利要求6所述的一种融入深度语义关系分类的事件脉络生成系统，其特征在向隐状态和后向隐状态所述前向隐状态和所述后向隐状态由vi的上下文信息v<i＝[v1,…,vi-1]与v>i＝[vi+1,…,vD]以及引入预训练的词向量作为先验知识得到，即,与其次，主题模型将词文档序列中所有词的联合分布p(v)分解为每个词vi的条件分布的条件p(vi)分别由前向隐状态和后向隐状态通过神经58.根据权利要求6所述的一种融入深度语义关系分类的事件脉络生成系统，其特征在9.根据权利要求6所述的一种融入深度语义关系分类的事件脉络生成系统，其特征在步骤2)将下一篇文档X与已有的所有话题的簇心新闻均做相似度计算，采用余弦距离于，所述分支确定包括：对于每个主题下获得的所有事件B各个事件的高频关键词，对于各个事件的高频词来说，比较各个事件之间高频词之间的6播的能力使其成为获取信息的重要媒介，短文本的表述方式也能够有效地传递关键信息。合提取与事件对应的强相关的文本集合是一个关键问题；2)在生成事件脉络结构的过程事件，而Zhou等人提出基于词频-逆事件频率(TF×IEF)和时间距离成本因子的混合模型，7IDF向量、word2vec词向量的事件检测方法都是针对文本的浅层语义特征，词之间各自独事件也不能保证质量的好坏。(2)现有事件脉络生成方法缺乏对事件之间深层演变关系的前节点的脉络分支，无法应对事件的后续发展中出现与原始事件极度偏离的主题偏移情[0009]本发明具体采用如下技术方案：一种融入深度语义关系分类的事件脉络生成方8[0012]事件聚类步骤，具体包括：获取新闻数据集合D的关键词，对每个主题聚类结果中的新闻ti，采用bert模型对每篇新闻数据进行向量化，进行分支确定，得到每个主题对应的分支集合B＝{branch1,branch2,…branch|B|}，其中[0015]对于词文档序列v＝[v1,v2,…vD]，其中D为该词文档序列所包含的词数，vi∈别为前向隐状态所和后向隐状态所述前向隐状态所和所述后向隐状态由vi的上下回归条件p(vi)分别由前向隐状态和后向隐状态通过神经网络计9[0028]步骤2)将下一篇文档X与已有的所有话题的簇心新闻均做相似度计算，采用余弦[0029]步骤3)若相似度值小于阈值θ[0031]作为一种较佳的实施例，所述分支确定包括：对于每个主题下获得的所有事件较各个事件之间高频词之间的Jaccard相似系数，选择频率出现最高的十个作为关键词来[0035]事件聚类模块，具体执行：获取新闻数据集合D的关键词，对每个主题聚类结果键词拼接后输入到bert模型中，最终的新闻文本向量表示为所有token的向量的平均；其i为新闻数据的第i个关键词，进行分支确定，得到每个主题对应的分支集合B＝{branch1,branch2,…branch|B|}，其中[0038]对于词文档序列v＝[v1,v2,…vD]，其中D为该词文档序列所包含的词数，vi∈别为前向隐状态所和后向隐状态所述前向隐状态和所述后向隐状态由vi的上下回归条件p(vi)分别由前向隐状态和后向隐状态通过神经网络计[0051]步骤2)将下一篇文档X与已有的所有话题的簇心新闻均做相似度计算，采用余弦[0052]步骤3)若相似度值小于阈值θ[0054]作为一种较佳的实施例，所述分支确定包括：对于每个主题下获得的所有事件较各个事件之间高频词之间的Jaccard相似系数，选择频率出现最高的十个作为关键词来[0063]事件聚类步骤，具体包括：获取新闻数据集合D的关键词，对每个主题聚类结果Ti=fta,tz…tra}中的新闻ti，采用bert模型对每篇新i为新闻数据的第i个关键词，进行分支确定，得到每个主题对应的分支集合B＝{branch1,branch2,…branch|B|}，其中[0067]对于词文档序列v＝[v1,v2,…vD]，其中D为该词文档序列所包含的词数，vi∈别为前向隐状态和后向隐状态所述前向隐状态所和所述后向隐状态由vi的上下回归条件p(vi)分别由前向隐状态和后向隐状态通过神经网络计[0080]步骤2)将下一篇文档X与已有的所有话题的簇心新闻均做相似度计算，采用余弦[0081]步骤3)若相似度值小于阈值θ对于每个主题下获得的所有事件首先获取各个事件的高频关键词，出现最高的十个作为关键词来进行比较，若Jaccard相似系数小于阈值δ,则认定两者不属[0087]事件聚类模块，具体执行：获取新闻数据集合D的关键词，对每个主题聚类结果键词拼接后输入到bert模型中，最终的新闻文本向量表示为所有token的向量的平均；其i为新闻数据的第i个关键词，进行分支确定，得到每个主题对应的分支集合B＝{branch1,branch2,…branch|B|}，其中[0090]对于词文档序列v＝[v1,v2,…vD]，其中D为该词文档序列所包含的词数，vi∈别为前向隐状态和后向隐状态所述前向隐状态所和所述后向隐状态由vi的上下回归条件p(vi)分别由前向隐状态和后向隐状态通过神经网络计[0103]步骤2)将下一篇文档X与已有的所有话题的簇心新闻均做相似度计算，采用余弦[0104]步骤3)若相似度值小于阈值θ事件集合Bi=fe,ez…ee,其中ei＝<d,w>为时间集合，d为所述时[0106]作为一种较佳的实施例，所述分支确定包括：对于每个主题下获得的所有事件较各个事件之间高频词之间的Jaccard相似系数，选择频率出现最高的十个作为关键词来[0108]术语的含义：Token是服务端生成的一串字符串，以作客户端进行请求的一个令现在流程图一个