深度学习模型课件

大数据PPT课件之深度学习第5章深度学习模型本章内容01.卷积神经网络(CNN)计算机视觉的利器，通过卷积层高效提取图像特征，广泛应用于图像分类与识别。02.循环神经网络(RNN)序列数据的记忆大师，引入LSTM/GRU解决长序列依赖问题，适用于语音识别与翻译。03.Transformer模型基于注意力机制的革命，并行计算能力强，是BERT、GPT等大语言模型的基石。04.生成对抗网络(GAN)AI的创造与博弈，通过生成器与判别器的对抗训练，实现高质量的图像生成与数据增强。01卷积神经网络(CNN)计算机视觉的利器CNN的核心思想：模拟人类视觉系统局部感知(LocalPerception)神经元仅对局部区域特征敏感，模拟视觉皮层的感受野机制，而非一次性处理全局信息。权值共享(WeightSharing)同一卷积核在全图滑动提取同类特征，避免参数随图像尺寸指数级增长，大幅降低计算成本。下采样(Subsampling/Pooling)通过池化操作降低特征图的空间维度，去除冗余信息，保留关键特征，提升模型鲁棒性。CNN经典模型演进LeNet-5(1998)CNN的开山之作，首次证明了卷积神经网络在手写数字识别任务上的有效性，奠定了CV基础。AlexNet(2012)深度学习革命的开端。引入ReLU激活函数与Dropout正则化，在ImageNet竞赛中大幅领先。VGGNet(2014)统一使用3x3小卷积核，加深网络结构至19层，证明了网络深度对性能的重要性。ResNet(2015)引入残差连接解决梯度消失问题，突破深层网络瓶颈，深度可达152层。02循环神经网络(RNN)序列数据的记忆大师RNN的核心：处理序列与记忆信息循环结构与记忆机制每个时间步的输出不仅取决于当前输入，还依赖于上一步的隐藏状态，形成“记忆”。链式展开与序列处理展开后的网络呈现链式结构，能够自然地处理长度可变的序列输入（如文本、语音）。核心状态更新公式h_t=f(W_hhh_{t-1}+W_xhx_t+b_h)RNN的局限与解决方案标准RNN的局限性难以处理长序列数据，容易出现梯度消失或爆炸无法有效捕捉长期依赖关系，信息传递受阻改进方案：LSTM与GRULSTM：引入细胞状态与三门控（遗忘/输入/输出），精细控制信息流GRU：LSTM简化版，合并门控结构，计算效率更高模型结构对比示意图03Transformer基于注意力机制的革命核心：自注意力机制(Self-Attention)核心定义让序列中的每个位置都能关注到序列中所有其他位置的信息，从而捕捉全局依赖关系。计算流程生成向量Q,K,V：通过线性变换，为每个输入生成三个向量。计算相似度：计算Query与所有Key的点积，得到注意力分数。Softmax归一化：将分数转化为总和为1的权重，突出重要信息。加权求和：用注意力权重对Value加权求和，得到最终输出。Transformer整体架构编码器(Encoder)堆叠N层结构，包含多头注意力和前馈网络。负责对输入序列进行编码，提取核心特征。解码器(Decoder)除了自注意力和前馈网络，额外包含编码器-解码器注意力层，负责生成目标输出序列。关键组件引入位置编码注入序列顺序信息；使用残差连接和层归一化保证训练的稳定性。Transformer的影响与应用NLP范式变革BERT、GPT等预训练模型基于Transformer架构，彻底改变了自然语言处理的研究范式，实现了机器翻译、智能对话等突破。多模态理解CLIP、Flamingo等模型结合文本与图像，实现跨模态理解与生成，开启了通用人工智能的新篇章。生成式AI应用基于Transformer的生成模型在聊天机器人、代码生成、文本摘要等领域展现出强大能力，推动AI应用落地。计算机视觉迁移(VisionTransformer)Transformer架构成功迁移至视觉领域，诞生了ViT等模型，在图像分类、目标检测等任务中取得了与CNN匹敌甚至更优的成绩，证明了该架构的通用性。04生成对抗网络(GAN)AI的创造与博弈核心思想：生成器与判别器的博弈生成器(Generator,G)接收随机噪声，生成逼真的数据样本（如图像），目标是“骗过”判别器。判别器(Discriminator,D)判断输入数据是真实的还是由生成器生成的，目标是准确区分“真”与“假”。对抗训练与纳什均衡二者通过对抗训练不断迭代优化，最终达到平衡——生成器以假乱真，判别器无法区分。GAN的经典应用案例图像生成(ImageGeneration)利用StyleGAN等模型生成逼真的人脸、风景等图像，生成效果已达到以假乱真的程度。图像风格迁移(StyleTransfer)将普通照片转换为梵高、莫奈等艺术家的绘画风格，实现艺术创作的自动化。图像超分辨率(SuperResolution)通过SRGAN等技术将低分辨率图片重建为高分辨率图像，显著提升画质清晰度。数据增强(DataAugmentation)在医疗、安防等数据稀缺领域，生成高质量的合成训练数据，辅助模型训练。模型对比与选型建议模型架构核心优势主要应用领域关键选型考量CNN局部特征提取，平移不变性，适合网格数据计算机视觉（图像分类、检测、分割）数据维度（2D/3D）、网络深度设计RNN/LSTM处理序列数据，捕捉时序依赖关系自然语言处理、时间序列预测、语音识别序列长度限制、长期依赖需求程度Transformer全局依赖建模，并行计算能力强，自注意力机制NLP、CV、多模态任务、大语言模型基座计算资源充足性、序列长度上限GAN生成逼真数据，对抗训练机制，数据增强图像生成、风格迁移、超分辨率、数据合成训练稳定性、生成样本的多样性与质量本章总结：深度学习核心模型回顾CNN卷积神经网络通过卷积和池化操作，有效提取图像的局部特征，是计算机视觉任务（如图像分类、目标检测）的基石。RNN及其变体(LSTM/GRU)利用循环结构处理序列数据，LSTM和GRU通过门控机制解决了传统RNN的长期依赖问题，适用于语音识别和机器翻译。Transf