CN113792818B 意图分类方法、装置、电子设备及计算机可读存储介质 （平安科技（深圳）有限公司）

道福安社区益田路5033号平安金融中比模型与对比模型中的参考词嵌入矩阵进行矩练的意图分类模型对目标词嵌入向量进行分类2将所述字符文本和所述语义文本输入至预先训练的对比模型与所述对比模型中的参将所述字符文本和所述语义文本输入到预设的意图匹配模型中，以使所述字符文本、将多个所述查询词段向量输入到预先训练的对比模型通过所述对比模型的损失函数计算出所述正例对的第一相似度和负例对的第二相似根据所述第一相似度和所述第二相似度对所述对比模型4.根据权利要求1至3任一项所述的意图分类方法根据预设的权重比例，对所述意图匹配值和所述意图分3对比模块，用于将所述字符文本和所述语义文本输入至分类模块，用于利用预先训练的意图分类模型和预设上并可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通4[0007]将所述第一文本输入至预先训练的对比模型与所述对比模型中的参考词嵌入矩5[0022]通过所述对比学习模型的损失函数计算出所述正例对的第一相似度和负例对的[0023]根据所述第一相似度和所述第二相似度对所述对比学习模型的损失函数进行优[0025]利用预先训练的意图分类模型和预设的意图类别对所述词嵌入向量进行分类处[0027]在一些实施例，所述利用预先训练的意图匹配模型对所述第一文本进行匹配处[0031]根据预设的权重比例，对所述意图匹配值和所述意图分类概6模型和意图分类模型能够进行意图分类概率的深度学习，提高意图分类概率值的准确性。技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的，7[0062]自监督学习：自监督学习主要是利用辅助任务(pretext)从大规模的无监督数据8两个词汇在向量空间中的位置也比较接近。embedding能够用低维向量对物体进行编码还9根据待解析的文本信息确定用户想表达的意图以及[0086]在一些实施例的步骤S101中，可以通科夫模型(MEMM模型)或者基于条件随机场算法(CRF)的模型或者是基于双向长短时记忆算接传递到softmax分类器上,通过softmax分类器在预设的词性类别标签上创建一个概率分[0095]请参阅图3，在一些实施例中，步骤S103可以包括但不限于包括步骤S301至步骤[0101]在一些实施例的步骤S301中，可以利用预先训练的Jieba分词器对原始文本进行[0105]利用目标词库模型中的index函数对每一文本词段进行元素提取，得到每一文本文本词段的行号和列号的索引值。因而，通过index函数对文本词段的行号和列号进行搜[0113]通过独热编码可以将标准词段的长度表示为向量形式，得到多个文本词段例如，假设某个原始文本由3个文本词段组成，通过前述步骤可以获得这3个文本词段的库模型中与文本词段对应的字典词的个数。向量把原始文本中出现了文本词段的index位[0122]步骤S405，根据第一相似度和第二相似度对对比学习模型的得到初始嵌入数据(即初始embedding数据)，该初始嵌入数据包括正样本数据和负样本数因为比如BERT内部每次dropout都随机会生成一个不同的dropoutmask，所以只需要将同[0125]在一个batch中，经过数据增强处理得到的数据(即第一向量和第二向量)是正例通过随机采样dropoutmask来生成正例对即相同的第一样本数据和第二样本数据分别输[0132]该损失函数表示的是样本N的损失(loss)；该损失函数中，分子是正例对的相似[0146]具体地，在步骤S501中，该意图分类模型包括softmax多类别分类器，其中，高的意图概率值作为意图分类概率值，将该意图概率值对应的意图类别作为参考意图类[0149]请参阅图6，在一些实施例的步骤S105可以包括但不限于包括步骤S601至步骤[0154]请参阅图7，在一些实施例中，步骤S106可以包括但不限于包括步骤S701至步骤[0159]请参阅图8，本申请实施例还提供一种意图分类装置，可以实现上述意图分类方[0162]对比模块803，用于将第一文本输入至预先训练的对比模型与对比模型中的参考[0163]分类模块804，用于利用预先训练的意图分类模型对目标词嵌入向量进行分类处储器上并可在处理器上运行的程序以及用于实现处理器和存储器之间的连接通信的数据可读存储介质存储有一个或者多个程序，一个或者多个程序可被一个或者多个处理器执[0178]本领域技术人员可以理解的是，图1-7中示出的技术方案并不构成对本申请实施说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现