神经网络与深度学习-教学大纲

PAGEPAGE1《神经网络与深度学习》课程教学大纲课程概况课程名称神经网络与深度学习适用专业人工智能，计算机科学与技术，大数据与数据科学等理论学时36实训学时36课程简介《神经网络与深度学习》是人工智能、计算机科学与技术、大数据与数据科学等专业的专业必修课。也是很多其他专业的选修课程。本课程以神经网络和深度学习技术为主要学习内容，具体包括人工智能、机器学习和神经网络的基本概念和发展历史、感知机、多层感知机、卷积神经网络、循环神经网络、深度生成模型、注意力机制与等。通过课程学习，可以使学生了解神经网络与深度学习的发展历史，理解神经网络与深度学习的基本概念，掌握神经网络与深度学习任务的基本流程；理解主要神经网络与深度学习模型的原理，能够利用成熟的深度学习框架、选择合适的神经网络与深度学习模型，解决实际问题；并具备追踪领域发展前沿的能力，为进一步学习打下基础。教学方式理论讲授与案例实训相结合课程教学目标通过本课程的理论和实践教学，使学生具备下列能力：了解神经网络与深度学习的发展历史，理解神经网络与深度学习的基本概念，掌握神经网络与深度学习任务的基本流程。理解和掌握神经网络与深度学习中主要模型的基本原理，能够通过分析、比选，利用合适的模型解决实际问题。了解并能追踪神经网络、尤其是深度学习的最新发展动态。课程内容安排和基本要求序号理论教学案例实训教学要求内容学时内容学时11.绪论1.1人工智能简介1.2机器学习简介1.3人工神经网络简介1.4深度学习简介2案例1-1：实现逻辑与运算的感知机0.5【理解】人工智能、机器学习、人工神经网络、深度学习之间的相互关系；人工智能的社会、伦理问题【了解】人工智能、机器学习、人工神经网络、深度学习的历史、发展和相互关系；机器学习与深度学习的主要应用场景；主流的机器学习与深度学习框架【能力要求】能够明确神经网络和深度学习的研究范畴22.机器学习2.1基本概念2.2机器学习的类型2.3模型评估2.4机器学习任务的一般流程2.5机器学习任务案例4案例2-1：使用Scikit-Learn包加载鸢尾花数据集0.5【重点掌握】机器学习的基本概念、模型评估方法【掌握】机器学习的类型【理解】机器学习任务的一般流程【能力要求】能够分析机器学习任务类型，收集和处理数据，选择优化算法，选择模型评价方法；规划机器学习任务案例2-2：使用PyTorch框架加载CIFAR-10数据集0.5案例2-3：机器学习任务案例：牛奶质量预测133.人工神经网络3.1脑及其神经机制3.2人工神经网络源起的计算本质3.3人工神经网络演进的技术脉络3.4人工神经网络与脑3.5感知机模型3案例3-1：实现逻辑“或”运算的M-P模型0.5【重点掌握】感知机的应用【掌握】感知机的基本原理【理解】感知机的求解【了解】脑的工作机理；人工神经网络的发展历史【能力要求】能够利用感知机机完成简单任务案例3-2：实现逻辑“与”运算的可学习的感知机0.5案例3-3：实现鸢尾花分类的感知机1案例3-4：实现牛奶质量预测的感知机0.5案例3-5：利用感知机进行逻辑“异或”运算0.544.多层感知机4.1多层感知机的缘起4.2激活函数4.3网络结构和信息流动4.4反向传播算法4.5自动梯度计算4.6多层感知机的应用案例4案例4-1：自动微分简单示例0.5【重点掌握】反向传播算法；多层感知机的应用【掌握】多层感知机的基本原理；自动梯度计算【理解】多层感知机的求解【能力要求】能够利用多层感知机完成分类、回归任务案例4-2：自动微分与计算图示例0.5案例4-3:多层感知机实现二分类1案例4-4：多层感知机实现MNIST数据集手写数字识别155.卷积神经网络5.1感受野、卷积与汇聚5.2卷积神经网络概述5.3利用LeNet-5进行CIFAR-10数据集分类5.4利用LeNet-5进行Fashion-MNIST数据集分类4案例5-1：利用LeNet-5进行CIFAR-10分类2【重点掌握】卷积神经网络的应用【掌握】卷积神经网络的基本原理【理解】卷积神经网络的概念【了解】卷积神经网络的生物学基础【能力要求】能够利用卷积神经网络完成分类任务案例5-2：利用LeNet-5进行Fashion-MNIST分类266.深度卷积神经网络6.1VGG及其应用6.2GoogLeNet及其应用6.3ResNet及其应用5案例6-1：利用VGG-16进行CIFAR-100分类2【重点掌握】深度卷积神经网络的应用【掌握】深度卷积神经网络的基本原理【理解】深度卷积神经网络的概念和主要方法【能力要求】能够利用深度卷积神经网络完成分类任务案例6-2：利用GoogLeNet进行TinyImageNet分类2案例6-3：基于迁移学习的ResNet分类277.循环神经网络7.1循环神经网络概述7.2利用循环神经网络进行文本分类7.3长短期记忆网络7.4门控循环单元网络5案例7-1：利用循环神经网络进行姓氏分类2【重点掌握】循环神经网络的应用【掌握】循环神经网络的基本原理【理解】循环神经网络的概念和主要方法【能力要求】能够利用循环神经网络完成分类任务案例7-2：利用长短期记忆网络预测股票价格2案例7-3：利用门控循环单元网络预测股票价格288.深度生成模型8.1判别模型与生成模型8.2自编码器8.3变分自编码器8.4生成对抗网络4案例8-1：利用自编码器实现手写字符数据重构2【重点掌握】主要深度生成模型的应用【掌握】主要深度生成模型的基本原理【理解】生成模型的概念和主要方法【了解】新的生成模型及应用场景【能力要求】能够利用主要的深度生成模型完成机器学习任务案例8-2：利用变分自编码器实现手写字符数据重构2案例8-3：利用CycleGAN实现图像风格迁移：将图像中的马变换为斑马299.注意力机制与Transformer9.1注意力机制9.2利用带注意力的序列到序列模型实现机器翻译9.3Transformer9.4利用Transformer实现单词预测9.5视觉Transformer9.6大语言模型5案例9-1：利用带注意力的seq2seq模型实现机器翻译2【重点掌握】注意力机制和Transformer的应用【掌握】注意力机制的基本原理；Transformer的基本原理；大语言模型的使用【理解】注意力机制的数学表示，视觉Transformer的原理【了解】注意力机制的生物学基础；Transformer的相关应用场景【能力要求】能够利用注意力机制、Transformer以及大语言模型等解决具体问题案例9-2：利用Transform