CN114357125B 任务型对话系统中的自然语言识别方法、装置及设备 （腾讯科技（深圳）有限公司）

本申请提供一种任务型对话系统中的自然自然语言的语义信息和任务型对话系统中各个定与待识别的自然语言的语义相匹配的目标技能对应的各个备选意图的意图描述信息之间的各个备选槽位的槽位描述信息以及槽位信息提2根据待识别的自然语言的语义信息和所述任务型对话系统中各个对话型任务的技能根据所述待识别的自然语言的语义信息和所述目标技能对应的各个备选意图的意图根据所述目标意图对应的各个备选槽位的槽位描述信息以及槽位信根据所述目标技能的技能描述信息、目标意图的意图描述信息所述技能分类模型、意图识别模型和槽位提取模型，是采用各个已基于第一向量表示模块分别获得各个已训练任务的技能描述信息的第一目标向量表针对每个技能分类语料样本，基于第一向量表示模块获得技基于第一分类模块分别获得第一参考向量表示和各个第一目标向量表示之间的第一基于获得的各个第一相似度调整第一向量表示模块和第一分类模块3基于第一向量表示模块分别获得每个已训练对话型任务和未训练对话型任务的技能基于所述第一向量表示模块获得所述待识别自然语料的第一待识基于第一分类模块分别获得第一对照向量表示和各个第一待识别向量表示之间的第基于第二向量表示模块分别获得各个已训练任务中各个子任务对应的意图描述信息针对每个意图识别语料样本，基于第二向量表示模块获得意基于第二分类模块分别获得第二参考向量表示和各个第二目标向量表示之间的第三基于获得的各个第三相似度调整第二向量表示模块和第二分类模块基于第二向量表示模块分别获得已训练对话型任务中各个子任务和未训练对话型任基于所述第二向量表示模块获得所述待识别自然语料的第二待识基于第二分类模块分别获得第二对照向量表示和各个第二待识别向量表示之间的第针对每个槽位提取语料样本，基于第三向量表示模块获得槽基于槽位提取模块分别获得第三参考向量表示中对应各个备选槽位的槽位描述信息基于获得的各个第一目标槽位信息调整第三向量表示模基于所述第三向量表示模块获得所述待识别自然语料的第三待识4基于槽位提取模块分别获得第三待识别向量表示的第二目标槽根据待识别的自然语言的语义信息和所述任务型对话系统中各个对话型任务的技能根据所述待识别的自然语言的语义信息和所述目标技能对应的各个备选意图的意图根据所述目标意图对应的各个备选槽位的槽位描述信息以及槽位信根据所述目标技能的技能描述信息、目标意图的意图描述信息所述技能分类模型、意图识别模型和槽位提取模型，是采用各个已第一技能确定单元，用于根据待识别的自然语言的语义信息和第一意图确定单元，用于根据所述待识别的自然语言的语义第一槽位确定单元，用于根据所述目标意图对应的各个备5第二技能确定单元，用于根据待识别的自然语言的语义信息和第二意图确定单元，用于根据所述待识别的自然语言的语义第二槽位确定单元，用于根据所述目标意图对应的各个备6发者通常需要撰写并标注成千上万条语料才可以训练得到一个较好的自然语言理解模型，[0006]根据待识别的自然语言的语义信息和任务型对话系统中各个对话型任务的技能[0007]根据待识别的自然语言的语义信息和目标技能对应的各个备选意图的意图描述7[0016]根据待识别的自然语言的语义信息和所述任务型对话系统中各个对话型任务的[0017]根据所述待识别的自然语言的语义信息和所述目标技能对应的各个备选意图的意图描述信息之间的匹配条件，确定与所述待识别的自然语言的语义相匹配的目标意图，[0018]根据所述目标意图对应的各个备选槽位的槽位描述信息[0025]在一种可能的实现方式中，所述目标技能是基于已训练[0026]所述对话型任务包括已训练对话型任务和未训练对话型任务，所述技能分类模8[0029]基于第一向量表示模块分别获得各个已训练任务的技能描述信息的第一目标向[0031]基于第一分类模块分别获得第一参考向量表示和各个第一目标向量表示之间的[0034]基于第一向量表示模块分别获得每个已训练对话型任务和未训练对话型任务的[0036]基于第一分类模块分别获得第一对照向量表示和各个第一待识别向量表示之间[0038]基于第二向量表示模块分别获得各个已训练任务中各个子任务对应的意图描述[0040]基于第二分类模块分别获得第二参考向量表示和各个第二目标向量表示之间的[0043]基于第二向量表示模块分别获得已训练对话型任务中各个子任务和未训练对话型任务中各个子任务的意图描述信息的第二对照[0045]基于第二分类模块分别获得第二对照向量表示和各个第二待识别向量表示之间9[0048]基于槽位提取模块分别获得第三参考向量表示中对应各个备选槽位的槽位描述[0049]基于获得的各个第一目标槽位信息调整第三向量表示模块和槽位提取模块的参[0063]在一种可能的实现方式中，所述目标技能是基于已训练[0064]所述对话型任务包括已训练对话型任务和未训练对话型任务，所述技能分类模在更新训练后将所述未训练对话型任务更新为已[0070]本申请通过将待识别的自然语言的语义信息直接与任务型对话系统的技能描述[0072]图1为本申请实施例中一种机票领域的技能相关信息、意图相关信息及槽位相关[0084]图13为本申请实施例提供的一种天气对话型任务的技能描述信息和部分样例的[0085]图14为本申请实施例提供的一种航班对话型任务的技能描述信息和部分样例的[0086]图15为本申请实施例提供的一种酒店对话型任务的技能描述信息和待识别的自类别标签的视频标题样本进行学习，从而可以提取输入的视频标题的语义特征的特征向到的可以表征视频标题的语义特征的特征向量，对视频数据集中的每个视频进行聚类处解模块(NaturalLanguageUnderstanding)、对话管理模块(DialogManagement)和自然语言生成模块(NaturalLangua然后对用户自然语言中的意图和涉及的槽位进行标注。由于自然语言的多样性和丰富性，与各个对话型任务的描述信息进行匹配，根据相似度确定待识别的自然语言的识别结果，[0120]参考图3，其为本申请实施例提供的一种任务型对话系统中的自然语言识别方法服务器302之间通过无线或有线的通信网络连接，终端设备301包括但不限于桌面计算机、此进行详细的说明。虽然本申请实施例提供了如下述实施例或附图所示的方法操作步骤，不存在必要因果关系的步骤中，这些步骤的执行顺序不限于本申请实施例提供的执行顺[0128]如图5所示，相关技术中任务型对话系统中的每个领域都对应一个自然语言理解统对应一个通用的自然语言理解模型，该通用的自然语言理解模型对应多个不同的技能，度最大的对话型任务为与待识别的自然语言相匹配的意图的意图描述信息之间的匹配条件，确定与待识别的自然语言的语义相匹配的目标意[0135]本申请实施例中的每个意图对应至少一个备选槽位，例各个备选槽位的槽位描述信息及其槽位信息，能够获得待识别的自然语言的任务识别结[0138]如图7所示，本申请实施例中的任务型对话系统中的自然语言理解模型包括三个[0143]训练技能分类模型的技能分类语料样本对应每个已训练对话型任务至少包括一Sn个槽位以及Mn条带标注的技能分类语料样本，所有领域的所有自然语言数据构成的集合[0146]1)基于第一向量表示模块分别获得各个已训练任务的技能描述信息的第一目标[0149]3)基于第一分类模块分别获得第一参考向量表示和各个第一目标向量表示之间[0154]1)基于第一向量表示模块分别获得每个已训练对话型任务和未训练对话型任务[0156]3)基于第一分类模块分别获得第一对照向量表示和各个第一待识别向量表示之[0160]训练意图识别模型的意图识别语料样本对应每个已训练对话型任务至少包括一Sn个槽位以及Mn条带标注的技能分类语料样本，所有领域的所有自然语言数据构成的集合[0163]1)基于第二向量表示模块分别获得各个已训练任务中各个子任务对应的意图描[0166]3)基于第二分类模块分别获得第二参考向量表示和各个第二目标向量表示之间[0171]1)基于第二向量表示模块分别获得已训练对话型任务中各个子任务和未训练对话型任务中各个子任务的意图描述信息的第[0173]3)基于第二分类模块分别获得第二对照向量表示和各个第二待识别向量表示之[0177]训练槽位提取模型的槽位提取语料样本对应每个已训练对话型任务至少包括一[0180]2)基于槽位提取模块分别获得第三参考向量表示中对应各个备选槽位的槽位描[0181]其中，第一目标槽位信息也即槽位提取语料样本中的对[0182]3)基于获得的各个第一目标槽位信息调整第三向量表示模块和槽位提取模块的[0188]下面结合一种具体的实施方式详细介绍本申请实施例提供的一种任务型对话系[0190]技能分类模型会学习出技能描述信息和用户输入的待识别的自然语言中的语义[0191]意图识别模型会学习出意图描述信息和用户输入的待识别的自然语言中的语义[0192]槽位提取模型会学习出槽位描述信息和用户输入的待识别的自然语言中语义相就可以在没有标注数据的条件下对该技能对应的用户输入的待识别的自然语言进行技能、意图和槽位的识别。从而完成技能分类，得到用户输入的待识别的自然语言所属的技能为酒店。通过用户输入键词提取出用户输入的待识别的自然语言中相关的关键词。通用自然语言理解模型的识别结果如图16所示。[0196]步骤S1701，根据待识别的自然语言的语义信息和任务型对话系统中各个对话型[0197]步骤S1702，根据待识别的自然语言的语义信息和目标技能对应的各个备选意图[0198]步骤S1703，根据目标意图对应的各个备选槽位的槽位描述信息以及槽位信息提然语言理解模型对自然语言进行识别，同理也可以根据通用理解模型得到自然语言的技者可以是设置于服务器302内的功能装置，该任务型对话系统中的自然语言识别装置可以所示，本申请实施例中的任务型对话系统中的自然语言识别装置包括第一技能确定单元意图是基于已训练的意图识别模型获得的，槽位信息是基于已训练的槽位提取模型获得[0211]在一种可能的实现方式中，技能分类模型包括第一向量表示模块和第一分类模块，训练技能分类模型的技能分类语料样本对应每个已训练对话型任务至少包括一个样[0212]基于第一向量表示模块分别获得各个已训练任务的技能描述信息的第一目标向[0214]基于第一分类模块分别获得第一参考向量表示和各个第一目标向量表示之间的[0217]基于第一向量表示模块分别获得每个已训练对话型任务和未训练对话型任务的[0219]基于第一分类模块分别获得第一对照向量表示和各个第一待识别向量表示之间[0220]在一种可能的实现方式中，意图识别模型包括第二向量表示模块和第二分类模块，训练意图识别模型的意图识别语料样本对应每个已训练对话型任务至少包括一个样[0221]基于第二向量表示模块分别获得各个已训练任务中各个子任务对应的意图描述[0223]基于第二分类模块分别获得第二参考向量表示和各个第二目标向量表示之间的[0226]基于第二向量表示模块分别获得已训练对话型任务中各个子任务和未训练对话型任务中各个子任务的意图描述信息的第二对照[0228]基于第二分类模块分别获得第二对照向量表示和各个第二待识别向量表示之间[0229]在一种可能的实现方式中，槽位提取模型包括第三向量表示模块和槽位提取模块，训练槽位提取模型的槽位提取语料样本对应每个已训练对话型任务至少包括一个样[0231]基于槽位提取模块分别获得第三参考向量表示中对应各个备选槽位的槽位描述[0232]基于获得的各个第一目标槽位信息调整第三向量表示模块和槽位提取模块的参[0241]前述的任务型对话系统中的自然语言识别方法的实施例中涉及的各步骤的所有相关内容均可以援引到本申请施例中的任务型对话系统中的自然语言识别装置所对应的者可以是设置于服务器302内的功能装置，该任务型对话系统中的自然语言标注装置可以所示，本申请实施例中的任务型对话系统中的自然语言标注装置包括第二技能确定单元信息以及槽位信息提取条件，从所述待识别的自然语言中提取各个备选槽位的槽位信息，各个备选槽位的槽位信息用于限定意图对应[0247]在一种可能的实现方式中，所述目标技能是基于已训练[0248]所述对话型任务包括已训练对话型任务和未训练对话型任务，所述技能分类模[0251]前述的任务型对话系统中的自然语言标注方法的实施例中涉及的各步骤的所有相关内容均可以援引到本申请施例中的任务型对话系统中的自然语言标注装置所对应的中的服务器302，该计算设备能够执行本申请实施例提供的任务型对话系统中的自然语言算设备的各个部分，通过运行或执行存储在存储器2002内的指令以及调用存储在存储器处理器2001可包括一个或多个处理模块，处理器2001可集成应用处理器和调制解调处理例如可以包括闪存、硬盘、多媒体卡、卡型存储器、随机访问存储器(RandomAccess电可擦除可编程只读存储器(Electr