CN119495359A 文本任务处理方法、系统、设备、介质及计算机程序产品 （苏州元脑智能科技有限公司）

本发明公开了一种文本任务处理方法、系2获取待处理文本任务对应的文本数据和基因表达数据；所述将添加位置学习参数和全局学习参数的所述基因表达数据编码为将当前解码时已经存在的前序文本序列和所述基因全局向量数其中，所述位置学习参数用于学习所述基因表达数据的顺序将所述基因表达数据划分为多个子基因表达矩阵，并为各子基因表在各添加位置学习参数的子基因表达矩阵对应的基因向量序列将所述基因表达矩阵特征输入至基因表达矩阵编码模块，以利用所述基将各文本词语输入至文本编码模块，以利用所述文本编码模块进将所述融合向量数据输入至基因感知文本编码模块，以利用所述基因将所述基因感知文本编码模块的输出作为全局文3将所述基因感知文本编码模块的输出作为全局文将转换器网络模型作为基因感知文本解码模块，将所述文本基创建与所述前序文本序列的长度相同的上三角矩阵根据所述前序文本序列的查询矩阵、键矩阵和值矩阵确定注意力权根据各文本词语的上下文向量生成所述前序文本序列的文本片段获取与待处理文本任务相匹配的文本训练样本集，所述文本训练样本集包括多组文得到用于执行所述待处理文本任务的文本任所述编码层包括基因表达矩阵编码器、文本编码器及基因感知文本编表达矩阵编码器将添加位置学习参数和全局学习参数的所述基因表达样本编码为基因全码器将拼接所述基因全局向量样本的文本样本编码为全所述解码层将当前解码时已经存在的前序文本序列样本和所述基因全局向量样本进所述文本任务处理模型的输入层接收所述文本数据和所述基因表达矩阵编码器将添加位置学习参数和全局学习参数的所述基因表达数据编码为基因全局4预先构建所述文本任务处理模型的初始损失函数；所述初始损失函数根据所述待处理文本任务所属任务类型，生成所述基因文字检索损失根据所述基因文字检索损失、所述基因感知文字编码损失其中，所述基因文字检索损失用于通过最大化所述文本知文字编码损失用于评估所述文本任务处理模型对输入的文本样本与基因表达样本的匹从各文本样本一基因表达样本对中选择满足预设相似条件的目标文本通过为各目标文本样本一基因表达样本对添加波动条件和/或替换相似文本描述的方器中存储的计算机程序时实现如权利要求1至11任一项所述文本任务13.一种非易失性存储介质，其特征在于，所述非易失性存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至11任一项所述文本任务处理方法处理器执行时实现权利要求1至11任一项所述文本任务处理方56码为基因全局向量数据；根据所述待处理文本任务将所述文本数据编码为文本向量数据和/或将所述基因全局向量数据和所述文本数据的融合数据编码为全局文本向量数据；将述基因表达数据划分为多个子基因表达矩阵，并为各子基因表达矩阵添加位置学习参数；在各添加位置学习参数的子基因表达矩阵对应的基因向量序列数据前，添加全局学习参7编码模块的输入位置包括分类标记；将所述基因表达矩阵编码模块的分类标记对应的输融合向量数据进行编码处理；将所述基因感知文本编码模块的输出作为全局文本向量数利用所述基因感知文本编码模块对所述初始文本嵌入序列的各文本词语的查询矩阵与所息对所述前序文本序列的各文本词语进行掩码操作；根据所述前序文本序列的查询矩阵、8因表达矩阵编码器将添加位置学习参数和全局学习参数的所述基因表达数据编码为基因基因文字检索损失用于通过最大化所述文本样本与其对应的基因表达样本之间的相似度，感知文字生成损失用于评估所述文本任务处理模型在基因表达上下文的条件下生成文本9算机程序，所述计算机程序被处理器执行时实现如前任一个所述文本任务处理方法的步令被处理器执行时实现如前任一个所述文本任务处导入区域输入文本数据和基因表达数据，并通过所述任务触发区域将所述待处理文本任[0022]本发明提供的技术方案的优点在于，对基因表达数据和图4为本发明提供的文本任务处理装置的一种示例性的实施方式结构框架示意图6为本发明提供的文本任务处理系统的一种示例性的实施方式结构框架示意施例。的基因表达数据分析不仅无法得到精准结果，而且需要耗费大量的人力成本和时间成本。因表达矩阵的分析方法，迁移学习通过从噪声中学习有意义的生物过程类别间的语义关数据，根据待处理文本任务将文本数据编码为文本向量数据和/或将基因全局向量数据和因文本匹配任务，所以需要还需要将基因全局向量数据和文本数据的融合数据进行编码对文本基因融合数据进行解码处理，得到当前解码步骤对应的包含基因信息的文本数据；处理基因表达数据的稀疏性和文本数据的上下文依赖性，实现基因表达与文本的有效结进而能够捕捉基因表达数据与文本信息之间的深层非线性关系，提取隐含的生物学信息。p;ER'。为了便于后续数据处理，可将展平后的子基因表达矩阵通过可学习的线性变换矩阵E投影到达矩阵的相对位置相关的可学习位置编码，ef"为添加位置学习参数的第i个子基因表达HeadSelf_Attention，多头自注意力)机制的多头注意力层、残差连接和归一化层及FFN模块的每一层的Transformer块对基因表达矩阵特征进行处理，基因表达矩阵编码模块的的最终输出表示整个基因表达矩阵的全局嵌入，也即基因全局向量数据cgene可表示为：,D表示维度，也即为各子基因表达矩阵被展平切投影至高维空间且稀疏的基因表达矩阵进行处理。[0044]上述实施例对如何对文本数据编码进行编码并不做任何述和基因表达矩阵蕴含的信息一致，也即文本向量数据可以准确描述基因表达矩阵的含[0047]上述实施例对如何对基因全局向量数据和所述文本数据的融合数据进行编码并入至基因感知文本编码模块，以利用基因感知文本编码模块对融合向量数据进行编码处可表示为Tinpurrusion=[zgene,t,ty,….,t]。可利用任何一种能够对向量数据进行编码,Eoutput为基因感知文本编码模块的输出。经过全局文本向量数据例如可表示为为[CLS]标记对应输出。全局文本向量数据可被用于与基因表达矩阵的嵌入进行进一步的对态地关注文本中的特定部分以及与之对应的基因表达矩阵的相关部分，通过交叉注意力，矩阵Q与基因表达矩阵的键矩阵K和值矩阵V进行交互计算，从而产生包含基因表达上下文网络模型作为基因感知文本解码模块，将文本基因融合数据输入至基因感知文本解码模达矩阵的全局嵌入也即基因全局向量数据与前序文本序列融合输入至基因感知文本解码句子"Thesunrisesintheeast"，可以创建一个字典将每个单词映射到一个唯一的整注意力权重，通过注意力权重确定前序文本序列的每个单词在生成下一个单词时的影响意力层根据基因全局向量数据再次对基因感知文本解码模块的各个解码步骤的输出进行无法充分表达文本数据与基因表达矩阵这种非线性关系，导致基因表达分析结果不精准，此外，这种线性方法他也无法在面对高维基因表达数据和自然语言文本的差异性的时候，本，基因感知文本编码器将拼接基因全局向量样本的文本样本编码为全局文本向量样本；到的文本基因训练样本输入至文本任务处理模型。基因表达样本和文本样本分别通过各算文本任务处理模型的模型参数的梯度，并利用优化器更新文本任务处理模型的模型参预先构建文本任务处理模型的初始损失函数，根据待处理文本任务所属任务类根据基因文字检索损失、基因感知文字编码损失和基因感知文字生成损失各自的权重因;通过在整个训练批次中的样本对进行优化，确保文本任务处理模型能有效区分正确的基因文本关系。与基因表达样本的匹配程度，在基于基因感知文字编码损失训练文本任务处理模型过程;的条件下生成文本的能力。在基于基因感知文字生成损失训练文本任务处理模型过程中，;第t个词语。该损失函数基于生成式任务能够基于W1,W2,…,wt-1和基因表达样本E预测;型能够在基因文本匹配、文本生成和基因条件生成等多个基因感知任务中同时取得优异。基因表达矩阵的扰动和文本数据的多样化对这些高质量样本进行数据增强处理生成不同[0075]编码模块402，用于将添加位置学习参数和全局学习参数的基因表达数据编码为基因全局向量数据。根据待处理文本任务将文本数据编码为文本向量数据和/或将基因全[0076]解码模块403，用于将当前解码时已经存在的前序文本序列和基因全局向量数据量样本；解码层将当前解码时已经存在的前序文本序列样本和基因全局向量样本进行融[0085]作为上述实施例的一种示例性的实现方式，上述装置例如还可包括任务执行模本向量数据；解码层将当前解码时已经存在的前序文本序列和基因全局向量数据进行融估文本任务处理模型在基因表达上下文的条件下生成文DSP(DigitalSignalProcessing，数字信号处理)、FPGA(Field－ProgrammableGate显示的内容的渲染和绘制。一些实施例中，处理器51还可以包括AI(Artificial介质可以是非暂态的。存储器50还可包括高速随机存取存储器以及非易失性存储器，比如一个或多个磁盘存储设备、闪存存储设备。存储器50在一些实施例中可以是电子设备的内部存储单元，例如服务器的硬盘。存储器50在另一些实施例中也可以是电子设备的外部存设备的内部存储单元也包括外部存储设备。存储器50不仅可以用于存储安装于电子设备的时地存储已经输出或者将要输出的数据。本实施例中，存储器50至少用于存储以下计算机显示屏或显示单元，用于显示在电子设备中处理的信息以及用于显示可视化的用户界面。于在电子设备与其他电子设备之间建立通信连接。通信总线56可以是外设部件互连标准 (peripheralcomponentinterconnect，简称PCI)总线或扩展工业标准结构(extended本发明的技术方案本质上或者说对相关技术做出贡献的部分或者该技术方案的全部或部上任意一实施例所记载的文本任务处理方法或者说对相关技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式序被处理器执行时如上