CN114780694B 基于预训练语言模型的零微调拟人会话生成方法及设备 （北京智谱华章科技股份有限公司）

基于预训练语言模型的零微调拟人会话生本发明提出一种基于预训练语言模型的零2基于用户会话历史，选取其中与所述关键词相关的会话轮次，对所次文本以及所述资源拼接整合构建引导语,作为大规模预训练语言模型的输入,输出结果并基于抽取结果得到的概念从知识资源库中寻找相关对话型资源，补充在对应的会话轮2.根据权利要求1所述的基于预训练语言模型的零微调拟人会话生成方法，其特征在3.根据权利要求1所述的基于预训练语言模型的零微调拟人会话生成方法，其特征在4.根据权利要求2所述的基于预训练语言模型的零微调拟人会话生成方法，其特征在t)5.根据权利要求4所述的基于预训练语言模型的零微调拟人会话生成方法，其特征在3关资源，将所述会话轮次文本以及所述资源拼接整合构建引导语,作为大规模预训练语言话轮次进行概念抽取，并基于抽取结果得到的概念从知识资源库中寻找相关对话型资源，机程序被处理器执行时实现如权利要求1-5中任一4领域对话语料。这些数据的收集和有效维护都增加了部署大模型完成拟真对话的复杂度；话轮次文本以及所述资源拼接整合构建引导语,作为大规模预训练语言模型的输入,输出5述会话轮次文本以及所述资源拼接整合构建引导语,作为大规模预训练语言模型的输入,[0015]根据当前用户输入轮次作为查询从整个会话历史中挑选出k个相关对话轮次，作[0016]对作为输入基础的k个相关对话轮次进行概念抽取，并基于抽取结果得到的概念t)[0028]本发明的第二个目的在于提出一种基于预训练语言模型的零微调拟人会话生成6寻找相关资源，将所述会话轮次文本以及所述资源拼接整合构建引导语,作为大规模预训[0033]区别于现有技术，本发明提供的基于预训练语言模型的零微调拟人会话生成方资源，将所述会话轮次文本以及所述资源拼接整合构建引导语,作为大规模预训练语言模[0034]本发明的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显[0035]图1是本发明提供的一种基于预训练语言模型的零微调拟人会话生成方法的流程[0036]图2是本发明提供的一种基于预训练语言模型的零微调拟人会话生成方法中历史[0037]图3是本发明提供的一种基于预训练语言模型的零微调拟人会话生成方法中修改[0038]图4是本发明提供的一种基于预训练语言模型的零微调拟人会话生成装置的结构[0041]图1为本发明实施例所提供的一种基于预训练语言模型的零微调拟人会话生成方7[0044]输入是一个t轮的对话历史其中Ut和St都是话轮次中的对话进行概念抽取，基于抽取结果得到的概念从知识资源库中寻找相关资源，将所述会话轮次文本以及所述资源拼接整合构建引导语,作为大规模预训练语言模型的输[0052]根据当前用户输入轮次作为查询从整个会话历史中挑选出k个相关对话轮次，作[0053]对作为输入基础的k个相关对话轮次进行概念抽取，并基于抽取结果得到的概念t)8[0070]这些格式的资源都通过其对应的种子概念进行索引构建，使它们可以使用[0071]对于这些种子概念中对应的文本，使用NER工具及百科词条将其包含的知识概念[0074]所有的句子使用SentenceBert作为编码器，映射到一个768维的向量空间中。然9是按照每天不同的滑雪环境进行锻炼,滑雪时还要不断调整速度和滑行方向,这就要求运吸引度等维度取得与已有特定训练过的模型相匹敌的效果，且在信息性上有显著的优势，中寻找相关资源，将所述会话轮次文本以及所述资源拼接整合构建引导语,作为大储有计算机程序，计算机程序被处理器执行时实现如本发明实施例的零微调拟人会话生术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器[0092]