CN119513237A 提示词生成方法、基于提示词的对话方法及相关装置 （北京奇虎科技有限公司）

方法包括：获取关于目标领域的多个样本问答自然语言对话模型得到各问题样本文本对应的时得到目标提示词。基于提示词的对话方法包通过自然语言对话模型得到问题文本对应的回2获取关于目标领域的多个样本问答对，所述样本问答对包括根据初始提示词和多个所述问题样本文本，通过自然语言对话模根据多个所述回答训练文本和多个所述回答样本文本，调整所述初始提示述问题样本文本，通过自然语言对话模型得到各所述问题样本文本对应的回答训练文本，获取所述初始提示词，以及通过待训练提示词生成模型，得根据所述初始提示词向量和多个所述问题样本文本，通过所述自然语言对所述根据多个所述回答训练文本和多个所述回答样本文本，调整所述根据多个所述回答训练文本和多个所述回答样本文本，调整所述待训将所述初始提示词向量和各所述问题样本向量进行连接，得到各所根据各所述问题样本文本对应的融合向量，通过所述自然根据所述自然语言对话模型的结构类型，确定将所述初始提示词根据所述目标连接方式，将所述初始提示词向量和各述连接方式中的一种：将所述初始提示词向量分别连接在所述问题样本向量的前端和后获取问题文本和目标提示词，所述目标提示词通过如权利要求1_7任一所述提示词生3根据所述问题文本和目标提示词，通过自然语言对话模型得到所述样本获取模块，用于获取关于目标领域的多个样本问答对，所述适于由处理器加载并执行如权利要求1～6任4[0002]自然语言处理(NatureLanguageprocessing，NLP)是计算机科学领域与人工智能领域中的一个重要方向。随着对话生成预训练变压器(ChatGenerativePre_trained[0005]本申请实施例提供了一种提示词生成方法、基于提示词5所述初始提示词直至达到预设条件时得到目标提示存储器存储有计算机程序，所述计算机程序适于由所述处理器加载并执行上述的方法步6[0038]自然语言处理(NatureLanguageprocessing，NLP)是计算机科学领域与人工智[0039]随着对话生成预训练变压器(ChatGenerativePre_trainedTransforme，7的应用或网页的计算机设备，也可以是多个物理服务器构成的服务器集群或者分布式系8本和回答样本文本，回答样本文本可以理解为对问题样本文本的提问内容进行解答的文数据集包括来自WebofScience的已经本的内容与同一个领域有关。在本实施例中，聚类处理的方法可以是机器学习中的聚类[0052]如图3所示，图3是本申请实施例提供的一种获得多个样本问答对的流程示意答对202包括问题样本文本2021和回答样本文本2022，样本问答对203包括问题样本文本本问答对205包括问题样本文本2051和回答样本文本209经网络(recurrentneuralnetwork，RNN)或基于注意力机制Attention的Transformer网(BidirectionalEncoderRepresentationfromTransformers)预训练模型是通过在海量的语料基础上运行自监督学习方法，从而召回对应提示词的至少一个对话结果的模型，[0057]在一个实施例中，本申请实施例使用的自然语言对话模型为ChatGLM模型。ChatGLM模型是一款结合双向和单向的注意力attention的预训练模型，ChatGLM模型既解决了GPT这种单向注意力模型无法利用上下文信息的问题，也克服了BERT这种双向注意力模型在生成任务上的缺陷。ChatGLM模型通过HuggingFace预设的变压器transformers库用带有自定义代码的ChatGLM模型。ChatGLM模型的分词器使用变压器transformers库的行对话任务的自然语言对话模型均可适用。一步根据调整后的初始提示词和另一个问题样本文本通过自然语言对话模型得到该问题多个回答训练文本和多个问题样本文本分别对应的多个回答样本文本之间联合的差异信Pn-1n。根据提示词生成模型302LongShort-TermMemoryMode生成多个初始提示词301[0078]进一步的，将问题样本文本3031对应的融合向量输入至自然语言对话模型交叉熵损失函数CrossEntropyLoss和自回归计算方法调整待训练提示词生成模型至收越小，提示词生成模型生成针对问题样本文本与目标领域有关的回答训练文本的效果越词生成模型生成针对问题样本文本与目标领域有关的回答训练文本的法的电子设备获取目标提示词和问题文本的方式可以是接收来自用户或其他电子设备发[0092]请参见图7，其示出了本申请一个示例性实施例提供的提示词生成装置的结构示整所述初始提示词直至达到预设条件时得到述自然语言对话模型得到各所述问题样本文本对应的确定将所述初始提示词向量和各所述问题样本向量进行连接时对[0114]需要说明的是，上述实施例提供的提示词生成装置在执[0115]请参见图8，其示出了本申请一个示例性实施例提供的基于提示词的对话装置的[0116]问题获取模块801，用于获取问题文本和目标提示词，所述目标提示词通过如图得到所述问题文本对应的回答文本，所述回答文本与所述目标提示词对应的目标领域有[0122]本申请还提供了一种计算机程序产品，该计算机程序产所述至少一条指令由所述处理器加载并执行如上述图1－图6所示实施例的所述图像来源编程门阵列(Field_ProgrammableGateArray，FPGA)、可编程逻辑阵列(Programmable只读存储器(Read_OnlyMemory)。可选的，该存储器905包括非瞬时性计算机可读介质可存储用于实现操作系统的指令、用于至少一个个方法实施例中涉及的数据等。存储器905可选的还可以是至少一个位于远离前述处理器[0136]处理器901执行所述根据多个所述回答训练文本和多个所述回答样本文本，调整[0138]在一个实施例中，处理器901执行所述根据所述初始提示词向量和多个所述问题[0142]在一个实施例中，处理器901执行所述将所述初始提示词向量和各所述问题样本[0144]根据所述目标连接方式，将所述初始提示词向量和各所述问题样本向量进行连[0146]在一个实施例中，处理器901执