CN114462570B 文本生成模型的训练方法、目标语料扩充方法及相关装置 （浙江大华技术股份有限公司）

US2022004712A1,2022.本申请公开了一种文本生成模型的训练方取目标文本的困惑度，并根据困惑度确定惩罚2根据所述样本语料利用所述文本生成模型的判别器对所述目标文本进行判别将所述对抗损失函数和所述惩罚项进行叠加后得到所述文本生成模型的目标损失函将所述第一分词结果和所述第二分词结果取并集来作为所述分词处利用所述基于词典的方法，采用正向最大匹配算法来对所述样本语料进行分词操作，对所述样本语料进行词嵌入处理，将所述样本语料中每个句子的每个将所述样本语料中的每个句子划分为长度为n-gram的词对，并根据每利用所述训练后的长短期记忆网络对所述样本语料进行分词操作，得到第二分词结统计所述样本语料中每个句子的首个词的频率，并将词频中最高的前N个词作为起始根据所述起始列表选择起始词，并通过所述生成器计算得到之后的所有词3将所述样本语料中每个句子的每个词通过编码和嵌入映射成一个通过所述判别器对所述目标文本进行卷积和池化操作，以提取所根据所述样本语料对应的二维矩阵，对所述目标文本的句子特其中，所述文本生成模型是通过权利要求1至7任一项所分词模块，所述分词模块用于对所述样本语料进行确定模块，所述确定模块用于利用所述统计训练模块，所述训练模块用于将所述对抗损失函文本生成模型的目标损失函数，并利用所述目标损失函数对所述文本生成模型进行训练，所述存储器用于存储程序指令，所述处理器用于执行所述程序指令理器执行时实现权利要求1至7任一项所述的文本生成模型的训练方法，或权利要求8所述4定的开头词迭代地生成下一个词，没有很好的利用现有语料库来指导文本生成模型的训所述第二分词结果取并集来作为所述分词处理结果，并统计所述分词处理结果中的词频，5述判别模块用于根据所述样本语料利用所述文本生成模型的判别器对所述目标文本进行6程序指令，所述程序指令被处理器执行时实现上述第一方面的文本生成模型的训练方法，7为分词不准确而对得到的统计语言模型的性能造[0044]步骤S1224：利用转换成词索引后的所述样本语料对所述长短期记忆网络进行训8集对初始的长短期记忆网络进行训练，利用测试集对训练后的长短期记忆网络进行测试，[0048]步骤S14：根据所述样本语料利用所述文本生成模型的判别器对所述目标文本进于是可以根据判别结果得到文本生成模型自身的对抗损失函数9还原得到对应的文本，步骤S12中得到的统计语言模型可以被用来计算生成器生成的目标[0060]步骤S16：将所述对抗损失函数和所述惩罚项进行叠加后得到所述文本生成模型述文本生成模型是通过上述任意一种文本生成模型的训练方法言模型；所述生成模块602用于利用文本生成模型的生成器生成目标文本；所述判别模块603用于根据所述样本语料利用所述文本生成模型的判别器对所述目标文本进行判别，输于将所述对抗损失函数和所述惩罚项进行叠加后得到所述文本生成模型的目标损失函数，练后的长短期记忆网络；利用所述训练后的长短期记忆网络对所述样本语料进行分词操[0072]在一实施例中，所述生成模块602执行利用文本生成模型的生成器生成目标文本[0073]在一实施例中，所述判别模块603执行根据所述样本语料利用所述文本生成模型[0074]在一实施例中，所述确定模块604执行利用所述统计语言模型获取所述目标文本[0075]关于本申请文本生成模型的训练装置60实现文本生成模型的训练方法的具体内于执行存储器701中存储的程序指令，以实现上述任一文本生成模型的训练方法或目标语型的训练方法或目标语料扩充方法实施例的步骤。处理器702还可以称为CPU(Central能力。处理器702还可以是通用处理器、数字信号处理器(DigitalSignalProcessor,一文本生成模型的训练方法或目标语料扩充方法单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施方式方案的目说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现