CN114241496B 用于阅读任务的预训练模型训练方法、装置及其电子设备 （北京百度网讯科技有限公司）

本申请公开了用于阅读任务的预训练模型而可以利用预训练模型进行文档阅读顺序预测2按照所述布局信息将所述电子文档的字符信息输入至预训练模型，基于预设损失函数，根据所述第一阅读顺序和所述第二阅读顺序其中，所述预训练模型包括转换模块和自注意力模块；按照所述布局信息将所述电子文档的字符信息输入至所述转换模块，得将所述各个文本片段各自的表示信息输入至所述自注意力模块，得对属于相同文本片段的字符的表示信息进行求平均，得到所述各获取所述多个文本片段的片段信息和所述多个片段各自的位置信对所述电子文档进行解析，得到所述电子文档的多个字符和每个字符对应的位置信根据所述每个字符对应的位置信息对所述多个字符确定模块，用于根据所述布局信息，确定所述电子文档预测模块，用于按照所述布局信息将所述电子文档的字训练模块，用于基于预设损失函数，根据所述第一3第一获取子模块，用于按照所述布局信息将所述电子文档的字第二获取子模块，用于子模块，用于将所述各个文本片第三获取子模块，用于对属于相同文本片段的字符的表划分子模块，用于根据所述文档图像对所述电第五获取子模块，用于获取所述多个文本片段的片段信息解析子模块，用于对所述电子文档进行解析，得到所述电子文档的多个第六获取子模块，用于根据所述文档图像对排序后的多个所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被令用于使所述计算机执行权利要求1-4中4[0012]预测模块，用于按照所述布局信息将所述电子文档的字符信息输入至预训练模[0019]根据本申请的技术方案，根据电子文档的布局信息对文5[0020]应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特[0032]图11是用来实现本申请实施例的用于阅读任务的预训练模型训练的方法的电子读任务的预训练模型训练方法可用于本申请实施例中的用于阅读任务的预训练模型训练6[0042]作为一种可能的示例，布局信息中包括电子文档中各个7[0052]为了保证能够根据各个片段之间的相关程度来确定各个片段的阅读顺序，可选施例的用于阅读任务的预训练模型训练方法可由本申请实施例中的用于阅读任务的预训[0054]在本申请的实施例中，步骤201可以分别采用本申请的各实施例中的任一种方式[0056]在本申请的实施例中，步骤202可以分别采用本申请的各实施例中的任一种方式Transformer根据电子文档的字符信息得[0061]举例而言，可以对电子文档进行光学字符识别(OpticalCharacterRecognition，8[0070]在本申请的实施例中，步骤207可以分别采用本申请的各实施例中的任一种方式生成各个文本片段各自的表示信息，将各个文本片段各自的表示信息输入至自注意力模[0076]作为一种可能的示例，如图4所示，可以通过图像算法对文档图像进行分栏或分从而得到文档图像中的文本片段以及文本片段[0078]作为一种可能的示例，如图6所示根据分区信息对文档中的片段进行区域划分处9[0084]在本申请的实施例中，步骤305可以分别采用本申请的各实施例中的任一种方式[0086]在本申请的实施例中，步骤306可以分别采用本申请的各实施例中的任一种方式[0088]为了保证能够基于正确的阅读顺序对字符进行划分，进例的用于阅读任务的预训练模型训练方法可由本申请实施例中的用于阅读任务的预训练[0090]在本申请的实施例中，步骤701可以分别采用本申请的各实施例中的任一种方式[0098]在本申请的实施例中，步骤705可以分别采用本申请的各实施例中的任一种方式[0100]在本申请的实施例中，步骤706可以分别采用本申请的各实施例中的任一种方式[0102]在本申请的实施例中，步骤707可以分别采用本申请的各实施例中的任一种方式[0104]在本申请的实施例中，步骤708可以分别采用本申请的各实施例中的任一种方式[0105]根据本申请实施例的用于阅读任务的预训练模型训练方法，对电子文档进行解[0118]第一获取子模块9031，用于按照布局信息将电子文档的字符信息输入至转换模生成各个文本片段各自的表示信息，将各个文本片段各自的表示信息输入至自注意力模[0129]第五获取子模块10013，用于获取多个文本片段的片段信息和多个片段各自的位[0138]存储器1102作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、[0142]此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用[0145]可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务("如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，