CN114399769B 文本识别模型的训练方法、文本识别方法及装置 （北京百度网讯科技有限公司）

本公开提供了一种文本识别模型的训练方模型学习到较强的图像视觉推理能力和文本语2对获取到的第一样本图像中的部分图像进行掩码预测，对获取到的第二样本图像中的部分文本进行所述掩码预根据所述预测完整图像和所述预测文本内容训练得到预训练模型根据所述目标对象中未被遮盖的对象，对所述目标对象中被遮盖的部分对象进行预根据所述第一对象特征，对所述目标对象中被遮盖的根据所述第一视觉特征，预测所述第一样本图像中被遮盖的部分图像对应的视觉特根据所述第一样本图像中未被遮盖的图像、以及确定出根据所述第一语义特征，预测所述第二样本图像中被遮盖的部分文本对应的语义特3根据所述训练图像预设的真实识别结果、以及所述预测识别结基于预先训练的文本识别模型对所述待识别图像进行根据所述文本识别模型确定所述待识别图像的多模态其中，所述待识别图像的多模态特征图用于表征：预测单元，用于对获取到的第一样本图像中的部分图像进所述预测单元还用于，对获取到的第二样本图像中的部输入模块，用于将所述训练图像输入至所述预训练模型4预测模块，用于根据所述第一对象特征，对所述第一预测子模块，用于根据所述第一视觉特征，第一确定子模块，用于根据所述第二视觉特征，第一生成子模块，用于根据所述第一样本图像第二预测子模块，用于根据所述第一语义特征，第三预测子模块，用于根据所述多模态特征图识别单元，用于基于预先训练的文本识别模型其中，所述待识别图像的多模态特征图用于表征：所述存储器存储有可被所述至少一个处理器执行56[0016]所述预测单元还用于，对获取到的第二样本图像中的部分文本进行所述掩码预[0017]训练单元，用于根据所述预测完整图像和所述预测文本内容训练得到预训练模7[0021]识别单元，用于基于预先训练的文本识别模型对所述待识别[0030]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特8加识别模型（MaskTextSpotter则需要附加额外的语言模型如双向编码器表示增加了额外的语言模型，则需要增加额外的训练，从而导致训练成本偏高，效率偏低等弊端。9第二样本图像输出各自对应的预测结果，如第一样本图像对应的预测结果为预测完整图理能力和文本语义推理能力，从而当基于预训练模型生成的文本识别模型进行文本识别络模型（EfficientandAccuracySceneText，EAST）、基于分割的文字检测网络实现文本识别模型的文字检测任务；又如，可以将预训练模型加载至卷积循环神经网络本识别模型的文本识别任务；再如，可以将预训练模型加载至全连接网络模型（Fully[0145]第一步骤：将训练图像输入至预训练模型，得到训练图像对应的多模态特征图[0149]在本实施例中，由于多模态特征图可以从多个维度对训练图像通过诸如因特网的计算机网络和/或各种电信网络与其他设备[0224]计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器[0226]用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的包部分地在机器上执行且部分地在远程机器上执行或完全在面或者该网络浏览器来与此处描述的系统和技术的实施方式交互）、或者包括这种后台部字数据通信（例如，通信网络）来将系统的部件相互连接。通信网络的示例包括：局域网过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务（"如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，