CN119397011A 一种基于事件导向的多文档摘要生成系统及方法 （中国人民解放军国防科技大学）

一种基于事件导向的多文档摘要生成系统本发明提供了一种基于事件导向的多文档通过Spacy模块在目标多文档信息中生成文档集编码器获取简单循环单元输出和概率分布结果块生成局部值同时根据最终事件表示作为全局模块根据时间一事件键值记忆网络确定输出文2所述Spacy模块，用于在目标多文档信息中生成文档集合并将所述文档集合输入至所所述简单循环单元，用于根据所述编码器表示确定句子表示矩阵以生所述基于图的编码器，用于获取所述简单循环单元输出和所述概率所述时间线分析模块，用于将键作为时间信息编码，将所述概率分布结循环单元输出进行拼接以生成局部值同时根据所述最终事件表示作为全局值以构建时间_所述时间线分析模块，用于根据所述时间_事件键值记忆网络结合所述摘要生成模块通过long_Former对所述基座模型进行初始化以将long_Former中的编码器和解码器3.根据权利要求1所述的基于事件导向的多文档摘要生成系统，其特征在于，所述事件分析模块，用于将所述文档集合Di输入到所述多文档摘要生成模块编码器中编码器表示；确定句子在文档中的起始位置start和end；3其中H,Itl是文档Di在最后一层中位置t的向量表示；线分析模块，用于使用预设时间文本查询在所述编码器中的上下文表示作为时间信息;获取所述多文档摘要生成模块中tokenizer分词器模块的positionembedding位置嵌;其中，起点信息为start和终点信息为endy；。7.根据权利要求1至6任一项所述的基于事件导向的多文档摘要生成系统，其特征在入至所述多文档摘要生成模块中的解码器以使所述解码器生8.一种基于事件导向的多文档摘要生成方法，其Spacy模块在目标多文档信息中生成文档集合并将所述文档集合输入至所述多文档摘基于图的编码器获取所述简单循环单元输出和所述概率分布结果作为节点特征以生时间线分析模块将键作为时间信息编码，将所述概时间线分析模块根据所述时间一事件键值记忆网络45[0002]文本摘要生成技术指的是在读取源文本之后生成较为简短的能够概括源文本主所述Spacy模块，用于在目标多文档信息中生成文档集合并将所述文档集合输入6简单循环单元输出进行拼接以生成局部值同时根据所述最终事件表示作为全局值以构建所述时间线分析模块，用于根据所述时间_事件键值记忆网络结合所述摘要生成[0007]可选的，所述多文档摘要生成模块，包括基座模型，所述基座模型由BART模型、通过long_Former对所述基座模型进行初始化以将long_Former中的编码器和解生成模块编码器中Encodersar，得到文档的序列化表示，事件句子si经过BART编码器确定句子在文档中的起始位置start和endy；其中H,Itl是文档Di在最后一层中位置t的向量表示；整合事件句子向量，将所有从文档中提取并向量化的事件句子表示vj整合到一7获取所述多文档摘要生成模块中tokenizer分词器模块的positionembedding位;。值和全局值输入至所述多文档摘要生成模块中的解码器以使所述解码器Spacy模块在目标多文档信息中生成文档集合并将所述文档集合输入至所述多文基于图的编码器获取所述简单循环单元输出和所述概率分布结果作为节点特征本申请通过Spacy模块在目标多文档信息中生成文档集合并将文档集合输入至多8图3是本申请基于事件导向的多文档摘要生成方法基于时间线分析的事件导向精[0019]参照图1，图1为本申请实施例方案涉及的硬件运行环境的计算机设备结构示意[0020]如图1所示，计算机设备可以包括：处理器1001，例如中央处理器（Central通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口（如无线保真[0022]如图1所示，作为一种存储介质的存储器1005中可以包括操作系统、网络通信模[0026]需要说明的是，事件导向的摘要指的是在给定文档和提9[0028]在具体实施中，如图3所示本实施例提出的基于时间线分析的事件导向精准多文件以及事件之间的时间线进行分析和融合，整个框架划分为训练和推理两个不同的阶段，模块为了满足多文档摘要的需求，也就是在实际应用场景中的长文本问题，该部分基于BART_large模型，使用LongFormer对其预训练权重进行初始化，longformer的输入会比分析模块在于首先使用HeidelTime模块从多个文档中提取事件，作为后续分析的事件内键事件的学习器，接构造入MLP进行筛选，然后将该部分文本进行表示构造event递到摘要生成模块的解码器部分，这里会在第一层的解码器中的cross_attention部分进[0030]需要说明的是，多文档摘要生成模块，包括基座模型，基座模型由BART模型、PEGASUS模型和T5模型组成；通过long_Former对基座模型进行初始化以将long_Former中前之前有英文版本的开源模型，所以面向英文的文本摘要生成可以使用BART模型，还有问题，本实施例使用long_Former来对模型权重进行初始化，Long_Former，是一种要任务具有较好的适配性，所以在本实施例中的多文档摘要模块选择使用Long_Former来初始化模型权重，从而满足多文档摘要处理长文本的需求，其中初始化模型权重在于将BART的编码器解码器部分替换为Long_Former的编码器和解码器部分，进而使用一致的结数是和模型整体一起训练和优化的，训练的目标在于获取到关键事件，图4是事件分析模模块会推理出事件分布，该分布情况会结合后续的时间_事件模块来共同指导后续的摘要[0036]关键事件分析模块，用于将文档集合Di输入到多文档摘要生成模块编码器中确定句子在文档中的起始位置start和endy；其中H,Itl是文档Di在最后一层中位置t的向量表示；整合事件句子向量，将所有从文档中提取并向量化的事件句子表示vj整合到一时间动态，使得最终的分类或预测更加准确和具有时间上的解释性。将表示矩阵V输入到[0038]简单循环单元202，用于根据编码器表示确定句子表示矩阵以生成简单循环单元[0041]基于图的编码器204，用于获取简单循环单元输出和概率分布结果作为节点特征关键事件与否不仅取决于事件本身还会存在其他事件的影响。本实施例使用MLP输出的事接下来，在关系感知的编码过程中，通过自注意操作将关系边rk合并到最终的事件表示[0046]获取所述多文档摘要生成模块中tokenizer分词器模块的positionembedding位;。和全局值输入至多文档摘要生成模块中的解码器以Token构成的长序列，而将目标的时间事件摘要视为较短的Token构成的序列，设X=(X0=<S>,X1,a,…X=<E>)，将其作为源文本的表示，将目标摘要文本表示为Y=(y=<s>,y,y2….yw=<E>)，其中<s>和<E>表示序列标记的开始和结束，former模型来初始化摘要模型(BART)的权重进行处理，主要包括编码器和解码器两部分，注意力编码器隐藏状态E与前面生成的t-1个Token也就是vo:t-1来计算目前的向量h：TransD表示使用解码器来进行处理，训练过程中可以并行得到H=(h1,…,hy)，von=[w"H;w"(x+y)]，其中we，wk，wv[0052]本实施例通过Spacy模块在目标多文档信息中生成文档集合并将文档集合输入至本申请基于事件导向的多文档摘要生成方法第一实施例的流程[0056]步骤S20：简单循环单元根据编码器表示确定句子表示矩阵以生成简单循环单元[0057]步骤S40：基于图的编码器获取简单循环单元输出和概率分布结果作为节点特征[0060]本申请通过Spacy模块在目标多文档信息中生成文档集合并将文档集合输入至多法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，