CN119479835A 基于Transformer的基因数据挖掘方法 （长春大学）

种基于Transformer的基因数据挖掘方法，该方设计的模型包括CNN卷积神经网络和改进的2稻瘟病关键致病基因数据挖掘模型用于提取局部特征和捕上基因表达值之间的局部相关性；嵌入层用于将CNN输出特征映射到Transformer输入维分类器使用全连接层进行分类，将编码器的输出映射到分类任务;其中，attn_weights_avg为每个时间步上;;其中，attn_weightsfinal为每个基因的最终注意力权重，attn_we3之后根据基因的最终注意力权重进行排序，输出前N个最重要的基因作为被稻瘟病感2.根据权利要求1所述的一种基于Transfo差异分析得到差异表达基因矩阵；之后使用了StandardScaler软件对差异表达基因矩阵将每个基因在不同时间点的表达值重塑为适合模型输入的特征矩阵卷积神经网络的卷积操作表示为：0=o(WXI+b)；;;;Afused=w1xAcsa+w2xAmu；44.根据权利要求1所述的一种基于Transformer的;5.根据权利要求1所述的一种基于Transforme5程度更高，这使得它在处理大规模基因组数据时具有显著优势。尽管如此，原始的Transformer模型设计初衷是为了自然语言处理任务，对于生物序列数据仍存在一些不适用于对水稻被稻瘟病感染过程中的关键致病基因进行挖掘。该方法利用改进Transformer6[0006]其中，attn_weights_avg为每个时间步上每个基因的平均注意力权重，attn_weights;为第i层编码层获取的每个时间步上每个基因的融合注意力权重；[0007]其中，attn_weights_final为每个基因的最终注之后根据基因的最终注意力权重进行排序，输出前N个最重要的基因作为被稻瘟7通过差异分析得到差异表达基因矩阵；之后使用了StandardScaler软件对差异表达基因CNN卷积神经网络输出的数据作为嵌入层的输入，经过嵌入层的线性映射到高维;;个线性矩阵，用于将多个自注意力头输出转化为一个原形状的投影矩阵，head代表;Afused=w1xAcsa+w2xAmu；;8[0017]6.本发明使用了一个线性嵌入层将CNN提取的特征映射到Transformer的输许模型动态地调整对不同时间点的关注程度，即使某些时间点的数据噪声较大或不完整，[0019]8.本发明提出以CNN卷积神经网络9据转化为基因计数数据，然后通过差异分析得到差异表达基因矩阵；之后使用[0023]具体地，本实施例中所用的数据来自于PRJNA1342239生物测序项目得到的原始数据；由于无关数据过多，因此进行基因差异分析，使用DESeq2软件进行差异分析，对Log2FoldChange>2（相差4倍p.adj<0.01的数据进行差异基因提取，一般选择后因此输入数据的形状是(N,6)。然而，模型期望的输入形状为(batch_size,seq中num_features是2，因为每个基因在每个时间点有两个表达值，即未感染和感染后因模型；其中，CNN卷积神经网络包含两层一维卷积层，每层卷积操作后使用的激活函数为CNN卷积神经网络输出的数据作为嵌入层的输入，经过嵌入层的线性映射到高维;;个线性矩阵，用于将多个自注意力头输出转化为一个原形状的投影矩阵，head代表;;[0029]步骤4.对所有批次的融合注意力[0030]其中，attn_weights_avg为每个时间步上每个基因的平均注意力权重，attn_weights;为第i层编码层获取的每个时间步上每个基因的融合注意力权重；[0031]其中，attn_weights_final为每个基因的最终注之后根据基因的最终注意力权重进行排序，输出前N个最重要的基因作为被稻瘟[0033]L(y,p(x))=-[ylog(p(x))+(1-)log(1-p(x)][0035]本发明采用上述方法挖掘出排名前十的基因，图4示意了前十个挑选基因在源数