《深度学习原理及应用》-殷丽凤(教案大纲)

《深度学习》课程教学大纲课程英文名称（DeepLearning）课程编号：学分：2学时：32开课学期：2适用学科：计算机科学与技术、软件工程、电子信息课程性质：专业课开课单位：课程的性质本课程属于计算机科学与人工智能领域，旨在提供深度学习的系统性知识和实践技能。课程将结合理论与实践，帮助学生理解深度学习的基本概念及其在计算机视觉和自然语言处理中的应用。通过该课程，学生将掌握深度学习的基本原理，熟悉相关算法和模型，并能够在实际项目中运用所学的理论知识。课程的目标掌握基础理论：理解深度学习的基本概念，包括感知机、神经网络架构、算法及其工作原理。掌握计算机视觉技术：深入了解卷积神经网络的结构及其在图像处理中的应用，包括经典与先进网络架构（YOLO系列）在物体检测和图像分割中的实现。熟悉自然语言处理方法：掌握语言模型、词嵌入技术word2vec、循环神经网络RNN、Transformers及预训练模型（ELMo、GPT和BERT）的工作原理及在各种自然语言处理任务中的应用。提升实践能力：通过理论与实践结合的学习方式，培养学生的动手能力和解决实际问题的能力，使其能够独立设计和实施深度学习项目。培养团队合作精神：通过小组讨论与项目合作，培养学生的团队合作能力和沟通技巧，促进知识的分享与交流。课程的教学内容及要求感知机：理解感知机的基本概念及其重要性，了解感知机的局限性，掌握多层感知机（MLP）的工作原理，了解其如何克服单层感知机的局限性实现更复杂的逻辑运算。神经网络：掌握神经网络的基本概念、工作原理、损失函数的类型，如均方误差和交叉熵误差，mini-batch学习。理解梯度在神经网络中的应用、误差反向传播算法及计算图的使用。了解激活函数层、Affine层和softmax层的实现。神经网络的学习方法：掌握神经网络的学习方法、参数更新策略随机梯度下降（SGD）及其缺点、Momentum、AdaGrad和Adam等优化算法。理解将权重初始化为零的影响及隐藏层激活值的分布，批量归一化（BatchNormalization）的概念及其对模型训练的影响。掌握正则化技术以应对过拟合，包括权值衰减和Dropout方法。了解超参数验证的过程，包括验证数据的使用和超参数优化的方法。卷积神经网络：掌握卷积神经网络（CNN）的基本概念与结构，神经网络与卷积神经网络的区别和联系、卷积层的意义。掌握CNN的整体结构和卷积层的工作原理，包括全连接层的问题、卷积运算的具体过程、三维数据的卷积运算及卷积层参数设置。了解池化层的作用、池化操作以及相关参数配置。经典卷积神经网络：理解经典卷积网络结构，了解LeNet的基本概念及实践分析案例；了解AlexNet的结构特点、改进及其优势，实践案例分析AlexNet的应用效果。了解VGG网络的基本概念、主要特点及VGG的案例实践分析表现。经典卷积网络结构进阶：了解先进的卷积网络结构，理解GoogLeNet的基本概念及实践分析的案例，重点理解其创新点和应用效果。掌握ResNet的基本原理，了解残差模块的设计及其在深层网络中的重要性，了解案例实践分析ResNet的应用表现。语言模型：了解语言模型的基本概念，概述语言模型的定义和应用。理解N-gram统计语言模型，包括评估词序列的方法、平滑操作及应用、缺点。掌握词嵌入的概念，区分离散分布表示和分布式表示。理解神经网络语言模型（NNLM），涵盖基本原理、输入处理、信息编码转换及模型细节，NNLM的缺点。掌握NNLM模型的应用，包括数据预处理、模型结构定义、参数设置及训练过程。word2vec模型：了解word2vec模型的基本概念、word2vec模型及其与神经网络反向传播法的关系、word2vec模型的架构，包括简易CBOW架构、CBOW架构和Skip-Gram架构。理解优化算法，重点介绍层次softmax和负采样优化。掌握word2vec模型的应用，涵盖数据预处理、模型结构定义、参数和超参数设置、模型训练以及嵌入的可视化与结果展示。循环神经网络模型：掌握循环神经网络（RNN）模型的基本概念、RNN的基本结构、与序列数据的关系及反向传播过程。理解双向RNN的工作原理、梯度消失和梯度爆炸问题。掌握长短期记忆（LSTM）模型、门控循环单元（GRU）模型的工作原理及其架构和应用。Transformer模型：掌握序列到序列（Seq2Seq）模型的基本概念、基本架构及其工作原理。理解Transformer模型，包括其Seq2Seq架构和输入处理，掌握Transformer的自注意力机制及其在编码器和解码器中的应用。掌握编码器的结构信息和解码器模块的输入与结构。位置编码：了解位置编码的概念与实现方法，包括线性归一化位置编码、整型值位置编码、二进制位置编码，以及基于周期函数（sin）和交替使用sin与cos的编码方式。掌握Transformer模型中的位置编码及其可视化效果。掌握Transformer模型的应用，涵盖数据预处理、模型结构定义、参数和超参数设置、编码器和解码器的构建、模型训练，以及嵌入的可视化与结果展示。预训练模型：了解三种重要的语言模型：ELMo、GPT和BERT。了解ELMo模型的基本概念，讨论其与BiLSTM的关系，并解析ELMo的结构。了解GPT模型的基本架构、选择和训练过程。掌握BERT模型的基本概念，涵盖其架构选择、输入信息、输出信息以及预训练任务。课程学时分配表1教学内容的学时分配教学内容理论学时实验（实践）学时备注第一章感知机10第二章神经网络10第三章神经网络的学习方法10第四章卷积神经网络20第五章经典卷积神经网络02第六章经典卷积网络结构进阶02第七章语言模型10第八章word2vec模型22第九章循环神经网络模型42第十章Transformer模型22第十一章位置编码10第十二章预训练模型10实训项目06合计学时1616五、教学环节教学环节包括：课堂讲授和上机实践。通过本课程各个教学环节的教学，重点培养学生分析问题、解决问题的能力。（一）课堂讲授1.教学方法上采用启发式和讨论式教学，课堂上积极提问，安排相关自学内容，以激发学生的主动学习兴趣，鼓励学生进行自学，培养学生独立思考、分析问题和解决问题的能力。2.在教学内容上，重点讲授神经网络、卷积神经网络、循环神经网络、Word2vec、Transformer、位置编码和预训练模型的理论和应用，注意培养学生利用各种深度学习模型解决问题的能力。3.在教学过程中采用多媒体教学，增强教学的直观性。（二）上机实践为帮助学生将理论知识应用于真实场景，增强他们计算机视觉技术和自然语言处理的理解与掌握，设计了5个实践项目和1个实训项目。具体实践项目见表2。通过实际操作，学生将获得宝贵的实践经验，提升分析和解决问题的能力。表2实践项目列表序号名称类型要求备注1利用VGGNet实现猫狗大战的图像分析实验性必做2利用GoogleNet实现花朵的分类实验性必做3利用RNN实现股票价格的预测实验性必做4利用Bert实现情感分析实验性必做5利用Transformer模型实现情感分析实验性必做6基于昇腾AI云的智能制造领域的刀具异常检测实训项目必做考核方式本课程成绩由上机作业和项目作业两部分构成，课程成绩以百分制计算，分配比例如下：（一）上机作业（成绩占比70%）：为了促使学生更好掌握本课程涉及到的深度学习各个模型的理论，本课程特设置上机作业环节，要进行五个实践项目的实验，具体内容见表2，撰写上机报告，上机作业总分70分。（二）项目作业（成绩占比30%）：为了评估学生在计算机视觉领域的原理理解和应用能力，设计了实训项目《基于昇腾AI云的智能制造领域的刀具异常检测》。该实训项目利用华为云昇腾AI云平台实施计算机视觉模型YOLOv11。项目作业内容涵盖确定业务需求、收集数据、数据清洗、数据拆分、数据上传至昇腾AI云；在云平台上搭建YOLOv11模型、训练YOLOv11模型、调优YOLOv11模型、部署和推理、评估模型等各个方面。通过这一系列实训任务，学生将全面掌握计算机视觉的基本理论知识，并提升利用昇腾AI云进行深度学习实践的能力。该项目将帮助学生理解如何将理论应用于实际问题，提高他们在智能制造领域的技术能力和创新思维。表3成绩构成方式方式说明考核方式上机作业项目作业占总成绩比例70%30%工作方式个人个人成果形式上机报告（电子文档）项目报告（电子文档