CN119399572A 一种基于Transformer的海洋生物种群异常监测方法及系统 （烟台大学）

一种基于Transformer的海洋生物种群异常一种基于Transformer的海洋生物种群异常监测感器网络的时间序列测量数据和无人机采集的行特征筛选；基于Transformer模型对筛选的特征进行异常检测；输出异常检测结果并反馈Transformer模型进行再训练。本发明提出的基于门控制机制的自适应特征筛选方法能够自动识别和筛选出与海洋生物种群变化最相关的特2获取不同监测点的海洋生物种群数据，包括遥感卫星影像数据基于Transformer模型对筛选的特征进输出异常检测结果并反馈Transform2.根据权利要求1所述的一种基于Transforme3.根据权利要求2所述的一种基于Transform其中表示最终筛选并增强的特征用于后续分析，N(i)表示特征h""的邻居集合4.根据权利要求3所述的一种基于Transformer的海洋生k为键向量的维度。5.根据权利要求4所述的一种基于Transform6.根据权利要求5所述的一种基于Transformer37.根据权利要求6所述的一种基于Transform数据的历史数据和新收集数据对Transformer模型进行联合训练，从而优化交叉熵损失函4[0001]本发明涉及海洋监测技术领域，尤其是涉及一种基于Transformer的海洋生物种5[0008]为了解决上述提到的问题，本发明提供一种基于Transformer的海洋生物种群异基于Transformer模型对筛选的特征进输出异常检测结果并反馈Transformi[0012]进一步地，所述基于Transformer模型对筛选的特征进行异常检测，包括基于Transformer模型的自注意力机制捕捉特征之间的时空依赖关系，通过计算每对特征之间[0013]进一步地，所述基于Transformer模型对筛选的特征进行异常检测，还包括基于6海洋生物种群数据的历史数据和新收集数据对Transformer模型进行联合训练，从而优化本发明提出的基于门控制机制的自适应特征筛选方法能够自动识别和筛选出与[0020]针对海洋生物种群数量分布不均衡的问题，本发明设计的门控制机制结合Transformer模型能够在不均衡的数据条件下更好地保留和分析少数类特征。通过自适应7[0023]图1是本发明实施例1的一种基于Transformer的海洋生物种群异常监测方法的示基于Transformer模型对筛选的特征进输出异常检测结果并反馈Transform8特征等引入分布式加权模块对特征进行动态归一化处理表示为：H表示归一化后的特征值，表示原始特征A的相对权重，p表示归一化敏感性指"-,ss9其中表示最终筛选并增强的特征用于后续分析，N()表示特征的邻[0034]最终筛选后的特征集包含了对后续分析贡献最大的特征。这些筛选后的特在字节嵌入Hye上进行编码操作：Hbyte表示输入特征的字节级表示，由嵌入函数EmbedByte转换生成。He其中sk为第k个头部的选择权重，K代表头部数量，动态调节每个头部的重要性。标记结果Anomalyi将被输入到可视化模块，用于以图形洋环境的变化。再训练的过程包括使用历史数据Dstored和新收集的数据Dnew进行联合[0047]如图1所示，表示的是基于Transformer的海洋生物种群异常监测方法的整体框[0051]归一化模块用于标准化网络中的中间层输出，加速训练过程并提高模型的稳定[0052]多头自注意力模块是Transformer架构的核心组件，用于捕捉输入数据中的长距理器加载并执行所述的一种基于Transformer的海洋生物种