《深度学习基础》课程教学大纲

《深度学习基础》教学大纲一、课程基本信息课程名称深度学习基础FundamentalsofDeepLearning课程编码CST521721030开课院部计算机科学与技术学院课程团队机器学习教学团队学分3.0课内学时56讲授32实验0上机24实践0课外学时56适用专业智能科学与技术授课语言中文先修课程高等数学（2-1）、线性代数、高等数学（2-2）、概率论与数理统计、离散数学、人工智能导论、机器学习课程简介（限选）深度学习源于人工神经网络，自2006年被提出后，受到学术界和工业界的高度关注，迅速成为机器学习领域最为活跃的一个分支。深度学习是一种基于对数据进行表征学习的方法，通过构建具有多个隐层的学习网络和海量的训练数据，来学习有用的特征，通过逐层特征变换，将样本在原空间的特征表示变换到新特征空间，从而实现更加准确高效的分类或预测。近年来，深度学习方法已经在计算机视觉、自然语言处理、语音识别、记忆网络等诸多领域中得到广泛应用本课程包括深度学习的基本概念、基本原理和基本方法，从数学基础、编程知识和机器学习基本知识，深度学习的主要内容，深度学习各部分的原理、技术和方法，以及相关的应用，并结合项目实战，清晰地理解和掌握深度学习技术。还以引导学生树立正确的人生观、价值观、世界观为目的，通过创新教学方法、丰富课程内涵、优化教学设计、改进课堂管理等方式，将思想政治教育有机融入课程教学活动。Deeplearningoriginatedfromartificialneuralnetwork.Sinceitwasproposedin2006,ithasreceivedhighattentionfromacademiaandindustryandhasrapidlybecomethemostactivebranchinthefieldofmachinelearning.Deeplearningisamethodbasedondatacharacterizationlearning.ByconstructingaLearningNetworkwithmultiplehiddenlayersandmassivetrainingdata,usefulfeaturesarelearned,throughlayer-by-layerfeaturetransformation,thefeaturerepresentationofthesampleintheoriginalspaceistransformedintoanewfeaturespace,thusrealizingmoreaccurateandefficientclassificationorprediction.Inrecentyears,deeplearningmethodshavebeenwidelyusedinmanyfieldssuchascomputervision,naturallanguageprocessing,speechrecognition,memorynetwork,etc.Thiscourseincludesthebasicconcepts,basicprinciplesandbasicmethodsofdeeplearning,fromthebasicknowledgeofmathematics,programmingknowledgeandmachinelearning,themaincontentsofdeeplearning,theprinciplesofdeeplearningofeachpart,technologyandmethods,aswellasrelatedapplications,combinedwithactualcombatoftheproject,clearlyunderstandandmasterin-depthlearningtechnology.Italsoaimsatguidingstudentstoestablishcorrectoutlookonlife,valuesandworldoutlook,throughinnovatingteachingmethods,enrichingcurriculumconnotation,optimizingteachingdesign,improvingclassroommanagement,etc,organicallyintegrateideologicalandpoliticaleducationintocurriculumteachingactivities.负责人大纲执笔人审核人二、课程目标序号代号课程目标OBE毕业要求指标点任务自选1M1目标1：“能通过文献调研了解深度学习的国内外研究现状，分析深度学习应用领域的复杂工程问题可行方案“是2.32M2目标2：“能够根据用户需求确定深度学习的设计目标，将卷积神经网络个模型的设计思想和设计策略并运用于深度学习模型的总体设计和实践“是3.13M3目标3：“掌握深度学习常用的卷积神经网络，循环网咯和对抗神经网络等原理和使用方法，并理解其局限性“是5.14M4目标4：“了解深度学习的国际发展趋势、研究热点，能将工程的设计和开发建设置于国际背景下“是10.25M5目标5：“充分认识终身学习的重要性，具有较强的自主学习和终身学习意识的可行方案“是12.1三、课程内容序号章节号标题课程内容/重难点支撑课程目标课内学时教学方式课外学时课外环节1第一章数学基础/4讲授6自学资料21.1数据表示——标量、向量、矩阵和张量标量、向量、矩阵和张量;向量的范数;常用的向量;常见的矩阵;矩阵的操作;张量的常用操作/讲授/自学资料31.2优化的基础——导数及其应用导数；泰勒公式；拉格朗日乘数法；/讲授/自学资料41.3概率模型的基础——概率论随机变量；概率分布；边缘概率；条件概率；独立性；期望、方差与协方差；常用的概率分布/讲授/自学资料5第二章深度学习基础/4讲授、上机12自学资料62.1深度学习发展历程介绍国内深度学习的进展和祖国深度学习领域取得的成就M1,M4,M5/讲授/自学资料72.2感知机感知机的起源；感知机的局限性M3,M4/讲授/自学资料82.3前馈神经网络神经元；网络结构；训练与预测；反向传播算法M3,M4/讲授/自学资料92.4提升神经网络训练的技巧参数更新方法；数据预处理；参数的初始化；正则化M3,M4/讲授/自学资料102.5深度学习框架深度学习框架的作用；常见深度学习框架M3,M4/讲授/自学资料112.6实践：手写数字识别数据准备；网络结构定义；网络训练；网络预测M24上机/自学资料12第三章卷积神经网络/8讲授、上机10自学资料133.1概述介绍国内学者在卷积神经网络方面有国际影响的算法M1,M4,M5/讲授/自学资料143.2整体结构/M3,M4/讲授/自学资料153.3卷积层全连接层的问题；卷积运算；卷积的导数；卷积层操作；矩阵快速卷积M3,M4/讲授/自学资料163.4池化层/M3,M4/讲授/自学资料173.5归一化层/M3,M4/讲授/自学资料183.6参数学习/M3,M4/讲授/自学资料193.7典型卷积神经网络LeNet；AlexNet；VGGNe；Inception；ResNet；DenseNet；MobileNetM3,M4/讲授/自学资料203.8实践：猫狗识别数据准备；网络配置；网络训练；网络预测M26上机/自学资料21第四章循环神经网络/6讲授、上机12自学资料224.1循环神经网络简介祖国在循环神经网络算法的应用案例；循环神经网络的结构与计算能力；参数学习；循环神经网络变种结构；深度循环神经网络；递归神经网络M1,M4,M5/讲授/自学资料234.2长期依赖和门控RNN长期依赖的挑战；循环神经网络的长期依赖问题；门控RNN；优化长期依赖M3,M4/讲授/自学资料244.3双向RNN/M3,M4/讲授/自学资料254.4序列到序列架构Seq2Seq；注意力机制；M3,M4/讲授/自学资料264.5实践：电影评论情感分析数据准备；网络结构定义；网络训练；网络预测M16上机8自学资料27第五章深度学习进阶/6讲授、上机/自学资料285.1深度生成模型变分自编码器；生成对抗网络M3,M4/讲授/自学资料295.2深度强化学习强化学习模型；强化学习分类；深度强化学习；深度Q网络；深度强化学习应用M3,M4/讲授/自学资料305.3迁移学习迁移学习的定义与分类；迁移学习的基本方法M3,M4/讲授/自学资料315.4实践：生成对抗网络数据准备；网络配置；模型训练与预测M24上机/自学资料32第六章深度学习应用：计算机视觉/4讲授、上机8自学资料336.1目标检测传统目标检测；基于区域的卷积神经网络目标检测；基于回归的卷积神经网络目标检测M3,M4/讲授/自学资料346.2语义分割传统语义分割方法；基于卷积神经网络的语义分割M3,M4/讲授/自学资料356.3实践：目标检测数据准备；网络配置；模型训练；模型预测M24上机/自学资料四、考核方式序号考核环节操作细节总评占比1平时作业1.每章布置作业二到五道题2.成绩采用百分制，根据作业完成准确性、是否按时上交、是否独立完成评分。3.考核学生对深度学习基本知识的掌握能力，学生综合运用所学知识分析问题、解决问题的能力题型主要有编程、分析和计算题。15%2上机1.本课程24个上机实验，共四次上机大作业2.成绩采用百分制，根据上机完成情况评分。3.考核学生对深度学习系统知识的应用能力，能够根据用户需求确定设计目标，从技术角度优选解决方案获得有效结论。15%3考勤随机点名、刷卡点名等5%4课堂表现随机检查学生上课精神状态、回答问题情况5%5期末考试1.闭卷考试，成绩采用百分制，卷面成绩总分100分。2.主要考核学生对深度学习基本知识的掌握能力，学生综合运用所学知识分析问题、解决问题的能力，题型主要有简答题、作图题、分析题、计算题等。60%五、评分细则序号课程目标考核环节大致占比评分等级1M1期末考试100%（见试卷评分标准）2M2上机60%A-按时提交上机报告，程序运行流畅，结论无误。B-按时提交上机报告，程序设计析基本规范，结论有一点偏差。C-数据分析过程存在问题。D-发生安全事故3M2期末考试40%（见试卷评分标准）4M3平时作业40%A-按时提交作业，各模型等基本知识点理解无误。B-按时提交作业，各模型等基本知识点理解存在少量错误。5M3期末考试60%（见试卷评分标准）6M4上机40%A-按时提交上机报告，上机中有新的深度学习模型和思想。B-按时提交上机报告，上机程序照搬