CN114691852B 人机对话系统及方法 （阿里巴巴达摩院(杭州)科技有限公司）

US2021090563A1,2021.0WO2021100902A1,2021.05.US2019236204A1,2019.Lindgren,H.TowardsContext-BasedAPPLICATIONSOFAGENTSANDMULTI-AG2753.本申请实施例提供了一种人机对话系统及2所述对话构建层，用于预先基于对话数据样本的语义所述对话引擎层，用于获取所述语音交互层接收的用户的语音对话对应的语义表示，根据挖掘结果获得所述对话数据对应的用户和机器客服分别所述语音交互层，还用于在与所述用户进行对话交在与所述用户进行语音对话交互的过程中，检测对所述用户在对话交互过程中的停顿进行检测，若检测所述预训练模型层确定对话数据样本的每轮对话数据对应失函数包括针对所述有标签数据的第一子损失函数和针对所述无标签数据的第二子损失所述对话构建层基于所述预训练模型层输出的语义表示3所述对话引擎层基于所述预训练模型层输出的语义表示所述语音交互层用于分别对语音识别模型和语音所述第一子损失函数基于针对对话回复选择任务的损失所述第二子损失函数基于针对对话回复选择任务的损失基于提取的语义特征和预设的半监督损失函数，对所述预训练对话模型所述对话构建层基于所述预训练模型层输出的语义表示对所述对话数据样本进行对根据切分获得的语义簇和所述对话数据样本对应的对话表示向量进行分层密度聚类，根据聚类结果获得至少一个开启意图及各个开启意图针对各个开启意图，基于该开启意图对应的对话数所述对话引擎层基于所述预训练模型层输出的语义表示基于所述预训练模型层输出的语义表示及所述语义表基于当前对话数据及当前对话状态、以及所述多轮对话基于当前对话数据及更新的对话状态、以及所述多轮对话数据中的其它轮对话数据，对用于进行对话回复策略预测的模型部分进行训练，以获得能够输出对话回复策略的模4基于所述对话回复策略和预设的知识库，对用于生成对话回复的模型部分进行训练，以当前对话数据及当前对话状态、以及所述多轮对话数据中的其它轮对话数据为输将所述对话数据样本、所述对话数据样本对应的对话语所述语音交互层的第三机器学习模型，通过所述第三机器学习模型提取所述对话数据样基于所述融合特征和预设的语音分类，对所通过所述语音交互层接收来自用户的语音对话，并将所述语音通过所述对话引擎层获得所述对话文本的语义表示并对所述语义表示进行意图分析，通过所述语音交互层将所述对话回复转换为语音，以通过567[0027]图1示出了一种适用本申请实施例的校验码生成方法的示例性系[0030]用户设备106可以包括适合于进行人机语音对话交互的任何一个或多个用户设8[0035]本实施例从人机对话系统在实际应用场景下的应用角度对本申请实施例的人机[0039]对话引擎层204，用于获取语音交互层206接收的用户的语音对话对应的语义表预先构建的对话流程，确定对话回复并通过语音交互层206与用户进行对话回复的语音交[0040]语音交互层206，主要用于与用户进行语音交互以及语音数据与文本数据之间的9对话构建层202可以预先基于对话数据样本的语义表示，对对话数据样本进行对话语义簇据聚类结果获得至少一个开启意图及各个开启意图对应的对话数据；针对各个开启意图，层202可以根据挖掘结果获得对话数据对应的用户和机器客服分别对应的对话语义簇；根但还没有支付，如果仍然需要的话，还请您尽快支付一下；用户：您说的是哪儿的宾馆备会将该语音发送给人机对话系统。则，人机对话系统会通过语音交互层将其转换为文本后交由对话引擎层以获得其对应的语义表示，再根据该语义表示确定是否可理解该对话的完整意图。在此对话中，用户清楚表达了其意图，对话引擎层可基于该对话中的关键信息根据该流程节点可确定后续的流程节点，示例性地，假设该流程节点指示进行具体演出时间的收集，则人机对话系统的对话引擎层会基于该流程节点指示的信息生成相应的对话回[0055]通过本示例可见，本申请实施例的人机对话系统可有效应用于各种人机对话场实施例中的语音交互层可采用常规的ASR+TTS的方式实现，但为了使得人机对话交互的效型的输入充分考虑了多轮对话情况下的对话中使用X1、X2……XN示意出一个包括多轮对话数据的对话数据样本在获得其对应的词表ABC对应的轮次分别为第一轮、第二轮、第三轮分别获得对应的角色表示向量（RoleEmbedding）和轮次表示向量（TurnEmbedding）。这些表示向量被输入至包括多个[0069]预训练对话模型的训练目标既包含了传统的建模对话理解和对话生成的自监督图3B中虚线右侧部分的右半部分所示即给定对话上下文（context）和候选回复（response）在[CLS]处进行二分类判决是否是正确的回复。其中，[CLS]意指分类别对两句话附加两个不同的文本向量以作区分。例如，共同输入的对话上下文的文本向量体表示为：C表示context，r表示response正样本，r-表示response负样本，p(lle,r)表示分类概率。正则(ConsistencyRegularization)方法来建模对话动作。CR方法在满足低密度假设下（即分类边界处于低密度分布通过对同一个样本进行扰动后分类结果仍然具备一定程度上的一致性（即分布接近或预测结果接近（扰动前的预测分类结果和扰动后的预测分类结果接近那么最终基于一致性正则的半监督学习可以保证找到正确的分类面。个不同但差异很小的概率分布，通过在原来的交叉熵损失中加入这两个分布的KL散度损[0084]其中，表示context，表示对有标签对话数据DA预测出的动作标签，[0092]其中表示N维概率分度的最大熵，表示。数据的语义表示的功能，如对话构建层的机器学习模型和对话引擎层的机器学习模型等；图机器人的回复节点等。的意图；根据切分获得的语义簇和对话数据样本对应的对话表示向量进行分层密度聚类，根据聚类结果获得至少一个开启意图及各个开启意图对应的对话数据；针对各个开启意模型生成至少一个第二候选对话数据；对第一候选对话数据和第二候选对话数据进行排对话数据另一方面通过相似问题生成模型生成新的候选对话数据（即第二候选对话数[0113]还需要说明的是，针对所有意图节点中的部分或全部，还可为其设置拒识节点与其匹配并反馈至对话引擎层，由对话引擎层根据原对话的信息进行后续的意图澄清处理。如，可以基于预训练对话模型如BERT模型，预测空间为预先构建的DialogAct体系中用户话历史、当前对话请求query和上一轮的对话状态（Act通过DST模型生成当前的对话状[0129]示例性地，可以标注一些用户对话数据如用户对话请求和对使用一个预训练模型如BERT或者Roberta等进行模型的分类训练。训练完成的模型在后续作分类任务和位操作生成任务，对用于进行对话状态更新的模型部分进行多任务联合训[0137]对用于生成对话回复的模型部分进行训练可以实现为：基于预测的对话回复策预训练模型层分析其语义，进而通过对话引擎层确定其意图并据此给出对应的对话回复，可基于当前对话与用户进行原对话意图基础上的持续对话，即通过澄清回复继续进行对[0166]处理器502可能是CPU，或者是特定集成电路ASIC（ApplicationSpecific[0168]程序510具体可以用于使得处理器502执行前述方法实施例中所描述的人机对话存储器506中的人机对话系统以进行对应的人[0169]程序510中各步骤的具体实现可以参见上述方法实施例中的相应步骤和单元中对示计算设备执行上述方法实施例中的人机对络下载的原始存储在远程记录介质或非暂时机器可读介质中并将被存储在本地记录介质将通用计算机转换为用于执行在此示出的方法