CN114254750B 准确度损失确定方法以及装置 （北京金山数字娱乐科技有限公司）

201910084411.62019.01.29答案在样本文章中预测起始位置和预测结尾位失和所述长度损失确定所述预测答案的准确度2确定预测答案在样本文章中预测起始位置和预测结尾位置的将所述预测答案包含的字单元与目标答案包含的字单元进行比对，确定将所述预测答案与所述目标答案在所述样本文章中进行比对，确定获取包含样本问题及其在样本文章中对应目通过将所述训练样本输入阅读理解模型生成所述样本问题的预测答4.根据权利要求2所述的准确度损失确定方法，其特征在于，所述阅读理解模型为AttentiveReader、AttentionSumReader、StanfordAttentiveReader和GatedAttentionReader中的任意计算所述预测答案包含的每个字单元与所述目标答案中对应字基于所述语义相似度计算所述预测答案包含的每个字单元与所述目标答案中对应字计算所述样本文章包含的字单元为所述预测答案的起基于所述起始概率分布和所述结尾概率分布确定所述预测答案在所述样本文章中的基于所述起始概率分布中包含的所述预测起始位置对应的概率数值确定所述预测起所述起始概率分布中包含的概率数值最大的字单元在所述样本文所述预测结尾位置，包括：所述结尾概率分布中包含的概率数值3所述预测起始位置对应的概率数值与所述目标答案的起始位置对应的概率数所述结尾位置损失，包括：所述预测结尾位置对应的概率数值与所将所述样本文章和样本问题输入预先配置好的分类器，在所述计算完毕后由所述分类器输出所述起始概率分布和确定所述样本文章对应的文章矩阵；所述样本文章中的字单确定所述预测答案的预测起始位置和预测结尾位置在所述文章矩阵中对应的预测起确定从所述预测起始元素到所述预测结尾元素的预测答案向确定所述预测答案在所述样本文章中的预测起始位计算所述预测起始位置到所述预测结尾位置的字节长度确定所述预测答案的字节长度与所述目标答案的字节长度第二位置损失确定子模块，被配置为确定预测答案在样本文语义损失确定子模块，被配置为将所述预测答案包含的字单元与目第二长度损失确定子模块，被配置为将所述预测答案与所述4第二准确度损失确定子模块，被配置为基于所述位置损失、所述存储器用于存储计算机可执行指令，所述处理器执行所述计算现权利要求1至11任意一项所述准确度损失确定行时实现权利要求1至11任意一项所述准确度损失确定方5[0002]自然语言处理是研究实现人与计算机之间用自然语言进行有效通信的各种理论读理解模型，从而在训练获得的机器阅读理解模型的基础上在文本片段中找出问题的答[0014]可选的，所述确定所述预测答案在所述样本文章中预测起始位置的起始位置损6所述字单元为所述预测答案的结尾字的结尾概[0016]基于所述起始概率分布和所述结尾概率分布确定所述预测答案在所述样本文章[0017]基于所述起始概率分布中包含的所述预测起始位置对应的概率数值确定所述预[0024]确定所述预测答案的预测起始位置和预测结尾位置在所述文章矩阵中对应的预7[0039]计算所述预测答案包含的每个字单元与所述目标答案中对应字单元的语义相似[0040]基于所述语义相似度计算所述预测答案包含的每个字单元与所述目标答案中对[0050]基于所述准确度损失确定损失函数，利用所述损失函数对阅读理解模型进行优[0051]可选的，所述阅读理解模型为AttentiveReader、AttentionSumReader、StanfordAttentiveReader和GatedAttentionR[0052]可选的，所述将所述预测答案包含的字单元与目标答案[0053]计算所述预测答案包含的每个字单元与所述目标答案中对应字单元的语义相似[0054]基于所述语义相似度计算所述预测答案包含的每个字单元与所述目标答案中对8[0058]可选的，所述确定所述预测答案在所述样本文章中预测起始位置的起始位置损所述字单元为所述预测答案的结尾字的结尾概[0060]基于所述起始概率分布和所述结尾概率分布确定所述预测答案在所述样本文章[0061]基于所述起始概率分布中包含的所述预测起始位置对应的概率数值确定所述预[0071]确定所述预测答案的预测起始位置和预测结尾位置在所述文章矩阵中对应的预9时实现所述阅读理解模型训练方法或所述准行时实现所述阅读理解模型训练方法或所述准确度损失确定方测答案与实际的目标答案进行比对来确定预测答案相对于实际的目标答案的语义损失和充分反映出预测答案的损失，从而基于该准确度损失对阅读理解模型的训练过程进行指[0105]在本说明书一个或多个实施例中使用的术语是仅仅出于述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分提供的阅读理解模型训练方法是在模型构建阶段对已经构建好的阅读理解模型进行训练，以使训练后的阅读理解模型在应用时预测出更加准确的答案。对阅读理解模型的优化调整更加贴近应用该阅读理解模读理解研究领域出现非常多的具体模型，比如常见的机器阅读理解模型有：Attentive以及GatedAttentionReader(GARead[0115]步骤S104，通过将所述训练样本输入阅读理解模型生成所述样本问题的预测答预测答案在所述样本文章中预测结尾位置的结率分布确定所述预测答案在所述样本文章中的预布中包含的概率数值最大的字单元在所述样本[0122]可见，上述通过计算所述样本文章中每个字单元为所述预测答案的起始字的概布中包含的概率数值最大的字单元在所述样本[0125]可见，上述通过计算所述样本文章中每个字单元是所述预测答案的结尾字的概案的起始字的概率，以及计算所述样本文章中每个字单元是所述预测答案的结尾字的概[0128]在上述确定所述预测答案在所述样本文章中预测起始位置和预测结尾位置的基失是指所述预测起始位置对应的概率数值与所述目标答案的起始位置对应的概率数值的在样本文章中的起始位置对应的概率数值为1，该预测起始位置的损失等于样本文章中的起始位置对应的概率数值1减去预测起始位置的对应的概率数值85最终该预测起始位置的起始位置损失为1-850.15。在样本文章中的结尾位置对应的概率数值为1，该预测结尾位置的损失等于样本文章中的结尾位置对应的概率数值1减去预测结尾位置的对应的概率数值70最终该预测结尾位置的结尾位置损失为1-700.3。[0136](b)确定所述预测答案的预测起始位置和预测结尾位置在所述文章矩阵中对应的[0137](c)确定从所述预测起始元素到所述预测结尾元素的预测答案向量，以及从所述[0138](d)计算所述预测答案向量与所述目标答案向量的距离，作为所述预测答案的长[0140]然后预测起始位置和预测结尾位置在矩阵中对应的预测起始元素和预测结尾元[0151]1)确定所述预测答案在所述样本文章中预测起始位置和预测结尾位置的位置损单元与所述目标答案中对应字单元的语义损失并求和，最终获得所述预测答案的语义损题的预测答案与实际的目标答案进行比对来确定预测答案相对于实际的目标答案的损失，[0161]参照附图2，其示出了本申请实施例提供的一种阅读理解模型训练装置的结构示[0164]训练样本获取模块202，被配置为获取包含样本问题及其在样本文章中对应目标[0165]预测答案生成模块204，被配置为通过将所述训练样本输入阅读理解模型生成所[0166]准确度损失确定模块206，被配置为确定所述预测答案相对于所述目标答案的准预测答案在所述样本文章中的预测起始位置和的所述预测结尾位置对应的概率数值确定所述预测结尾位置的尾位置在所述文章矩阵中对应的目标起始元个字单元与所述目标答案中对应字单元的语义损失并求和，获得所述预测答案的语义损[0199]图3是示出了根据本说明书一实施例的计算设备300的结构框图。该计算设备300多个网络360通信。这些网络的示例包括公用交换电话网(PSTN)、局域网(LAN)、广域网[0202]计算设备300可以是任何类型的静止或移动计算设备，包括移动计算机或移动计[0212]可选的，所述确定所述预测答案在所述样本文章中预测起始位置的起始位置损所述字单元为所述预测答案的结尾字的结尾概[0214]基于所述起始概率分布和所述结尾概率分布确定所述预测答案在所述样本文章[0215]基于所述起始概率分布中包含的所述预测起始位置对应的概率数值确定所述预[0222]确定所述预测答案的预测起始位置和预测结尾位置在所述文章矩阵中对应的预[0237]计算所述预测答案包含的每个字单元与所述目标答案中对应字单元的语义相似[0238]基于所述语义相似度计算所述预测答案包含的每个字单元与所述目标答案中对[0249]可选的，所述确定所述预测答案在所述样本文章中预测起始位置的起始位置损所述字单元为所述预测答案的结尾字的结尾概[0251]基于所述起始概率分布和所述结尾概率分布确定所述预测答案在所述样本文章[0252]基于所述起始概率分布中包含的所述预测起始位置对应的概率数值确定所述预[0259]确定所述预测答案的预测起始位置和预测结尾位置在所述文章矩阵中对应的预[0274]计算所述预测答案包含的每个字单元与所述目标答案中对应字单元