CN114743022B 一种基于Transformer神经网络的图像分类方法 （常州大学）_第1页
CN114743022B 一种基于Transformer神经网络的图像分类方法 （常州大学）_第2页
CN114743022B 一种基于Transformer神经网络的图像分类方法 （常州大学）_第3页
CN114743022B 一种基于Transformer神经网络的图像分类方法 （常州大学）_第4页
CN114743022B 一种基于Transformer神经网络的图像分类方法 （常州大学）_第5页
已阅读5页，还剩11页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

一种基于Transformer神经网络的图像分类种基于Transformer神经网络的图像分类方法，包括：利用大型数据集对Transformer神经网络进行预训练；使用自制的数据集对Transformer变换后的张量在通道维度上进行LayerNorm操作；将处理好的图像送入训练好的Transformer解决传统的卷积神经网络在对图像进行分类时2γ和β为每个像素点的权重和偏置；的数据；所述基于自注意力机制是使用滑动窗口多头注意力机制，在对特征图做划分操作时，所述交替使用窗口多头注意力和滑动窗口多头S6、检测：对S5步骤中所提取得到的最终特征2.根据权利要求1所述的基于Transform3[0001]本发明涉及图像分类技术领域，尤其涉及一种基于Transformer神经网络的图像一定程度的偏差，而Transformer神经网络在对图像进行检测时，可以获得图像的全局视[0005]本发明所采用的技术方案是：一种基于Transformer神经网络的图像分类方法包4[0015]S5、特征提取：将处理好的图像送入训练好的Transformer神经网络进行特征提[0018]Transformer神经网络捕获特征是基于自注意力机制对每个像素的相关性做计归一化层；再将输出送入多层感知机；多层感知机由一个全连接层、GELU激活函数和5[0038]本实施例CIFAR-100数据集，包含100个类别，每个类别有600张32×32的彩色图[0042]首先，在通道维度上对每个像素做线性变换以[0047]Transformer神经网络将会对图片进行多次特征提取，并将最后所得到的含有丰6[0048]Transformer神经网络捕获特征是基于自注意力机制对每个像素的相关性做计输出xl送入下一个含有滑动窗口多头注意力机制[0056]将本发明所提出的Transformer神经网络和传统的卷积神经网络进行对比，验证基于Transformer架构所构建的神经网络在图像分类[0060]从表1中可以看出本发明所构建的Transformer神经网络结构的准确率均优于另7[0062]故在每个使用了窗口多头注意力的模块之后跟随一个使用了滑动窗口多头注意[0065]从表2可以明显的看到，窗口多头注意力和滑动窗口多头注意力的计算量均大幅

人人文库> 全部分类> 行业资料 > 信息产业

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论