汽车行业深度报告：AI系列深度07期CNN与ViT两类视觉骨干有何差异

视觉骨干网络：机器视觉的表征底座 4视觉架构演进：从手工特征到融合骨干 4手工特征时代：依赖专家设计视觉描述子 4CNN崛起：深度网络自动学习视觉特征 4登场：注意力机制进入视觉 5CNN机制：卷积为何适合图像 5核心机制：卷积、池化与任务头 5三项设计先验：局部连接、权值共享、平移等变性 6机制：将图像patch化为token序列 6前置概念：Self-Attention机制 6核心设计：patch切分、token化与Transformer编码 6CNN与ViT：先验、数据与部署的四组分歧 7感受野：逐层扩大与首层全局交互 7归纳偏置：强先验与数据驱动 7数据效率与规模化特性 7计算复杂度与部署场景 8核心争议：架构优势与约束边界 8更强，还是数据和训练范式贡献更大 8归纳偏置：资产还是约束 9风险提示 9表1：视觉架构演进的四个时代 5表2：CNN与四组路线分歧对照 8视觉骨干网络：机器视觉的表征底座CNN是CNNtoken+视觉架构演进：从手工特征到融合骨干手工特征时代：依赖专家设计视觉描述子SIFTHOGSVM2010—2011ImageNetCNN崛起：深度网络自动学习视觉特征AlexNet是CNN2012Sutskever与HintonAlexNetImageNet分割等任务的主流视觉骨干。2014—2020年，CNNVGG3×3小通过残CNN登场：注意力机制进入视觉T将anoer020Dosvyonano，patchtokenTransformer编分类精度超过当时强CNNImageNet-1kCNNImageNet-21k、表1：视觉架构演进的四个时代时代 标志工作 表征式 主要限2012CNN 崛起，2012—20202022今

SIFT、HOG＋SVMAlexNet、VGG、ResNetViT、DeiTSwinConvNeXtCoAtNet整理

人工设计的特征算子卷积自动学习局部特征自注意力建模全局关系局部性与全局注意力融合

依赖专家经验、难以规模化感受野受限、长程依赖偏弱数据饥渴、算力开销大设计空间复杂、缺统一范式CNN机制：卷积为何适合图像核心机制：卷积、池化与任务头CNN池化负责降采样和增强局部稳定性。通过在局部区域内保留最大值或平均值，池化三项设计先验：局部连接、权值共享、平移等变性CNNCNN网络，权值共享是CNNCNNCNN机制：将图像patch化为token序列前置概念：Self-Attention机制TransformerQueryKey、三个QueryKey容动态变化。因此Transformertoken核心设计：patch切分、token化与编码patchpatch输入Transformer224×224图像若按16×16196个patchtoken，tokentoken从而可直接复用Transformer编码器。tokenpatchtokenTransformerCNNImageNetCNN与CNN感受野：逐层扩大与首层全局交互CNNpatch可直接与所有其他patchRaghu2021CNN归纳偏置：强先验与数据驱动CNNCNNpatch数据效率与规模化特性ImageNet-1k精CNNCNN局部性、权值共享和平移等变性带来的样本效率越重要。ImageNet-1k扩大ImageNet-21kCNN能ScalingLaw计算复杂度与部署场景tokenSwinTransformer等改进在GPUSoC、手机NPUTransformer量产和实时系统更多采用CNN或CNN与Transformer表2：CNN与ViT四组路线分歧对照对比维度CNNViT感受野逐层扩大，深层才全局第一层即全局

弱先验，数据驱动对数据量要求高，数据规模越大，性能提升空间越明显计算杂度 随分率性硬友好 自注力分率方长程赖 需堆度相困难 天然长部署配套工具还在持续完部署熟度 端侧具成整理

善，生态不及CNN核心争议：架构优势与约束边界更强，还是数据和训练范式贡献更大CNNCNNConvNeXt仍可训练范式同样是关键变量。CNNCNN精归纳偏置：资产还是约束SwinCoAtNetConvNeXt风险提示技术迭代不及预期的风险：数字AI、物理