《机器学习》教学大纲

《机器学习》教学大纲课程编号：课程名称：机器学习英文名称：MachineLearning先修课程：高等数学（数学分析）、线性代数（高等代数）、概率论与数理记录、程序设计基础总课时数：54课时一、教学目的本课程可作为计算机科学与技术、智能科学与技术有关本科专业的必修课，也可作为其他本科专业的选修课，或者其他专业低年级硕士的选修课。本课程的教学目的是使学生理解机器学习的基本问题和基本算法，掌握它们的实践措施，为学生此后从事有关领域的研究工作或项目开发工作奠定坚实的基础。详细来讲，要使学生理解聚类、回归、分类、标注有关算法并掌握它们的应用措施；理解概率类模型并掌握它们的应用措施；理解神经网络类模型并掌握它们的应用措施；理解深度学习模型并掌握它们的应用措施；理解距离度量、模型评价、过拟合、最优化等机器学习基础知识；掌握特性工程、降维与超参数调优等机器学习工程应用措施。二、教学规定总体上，本课程的教学应本着理论与实践相结合的原则，深入浅出，突出重点，在重视基础理论的同步，注意培养学生独立思索和动手能力。在内容设计上，应以示例入手，逐渐推进，详尽剖析算法思想与基本原理。在实行措施上，应采用启发式教学措施，在简要简介算法思想和流程的基础上，引导学生自行运行并分析实现代码。在教学手段上，应结合板书、多媒体、网络资源等多种传授措施，提高学生爱好。在试验教学上，应增进学生对讲授知识的理解，开拓眼界，提高实践能力。三、教学内容本课程内容共分为八章。（一）绪论（1课时）【内容】机器学习的基本概念，机器学习算法及其分类，课程内容简介，编程环境及工具包。【重点】机器学习的基本概念，机器学习算法分类。（二）聚类（11课时，含4课时试验课）【内容】K均值聚类及其改善算法，聚类的任务，样本点常用距离度量，聚类算法评价指标，聚类算法分类，DBSCAN算法及其派生算法，AGNES算法。【重点】距离度量，聚类算法评价指标，K均值算法，DBSCAN算法。【难点】聚类算法评价指标，DBSCAN算法。（三）回归（8课时）【内容】回归任务与评价措施，线性回归模型，全局最优、凸优化等机器学习中的最优化理论，迭代法、梯度下降法、牛顿法等最优化措施，多项式回归，过拟合与泛化，向量有关性与岭回归，局部回归。【重点】线性回归模型，梯度下降法，多项式回归，过拟合与泛化，向量有关性与岭回归。【难点】最小二乘法求解线性回归模型，岭回归算法。（四）分类（10课时，含2课时案例讨论课）【内容】回归任务与评价措施，线性回归模型，全局最优、凸优化等机器学习中的最优化理论，迭代法、梯度下降法、牛顿法等最优化措施，多项式回归，过拟合与泛化，向量有关性与岭回归，局部回归。【重点】线性回归模型，梯度下降法，多项式回归，过拟合与泛化，向量有关性与岭回归。【难点】最小二乘法求解线性回归模型，岭回归算法。（五）特性工程、降维与超参数调优（4课时）【内容】特性工程，数据总体分析，数据可视化，数据预处理，奇异值分解降维措施，主成分分析降维措施，网格搜索超参数调优措施，随机搜索超参数调优措施。【重点】数据预处理措施，主成分分析降维措施，网格搜索超参数调优措施。【难点】数据预处理措施，主成分分析降维措施。（六）概率模型与标注（8课时）【内容】分类、聚类和标注任务的概率模型，生成模型和鉴别模型，概率模型的简化假定，逻辑回归模型的概率分析，朴素贝叶斯分类，EM算法与高斯混合聚类，隐马尔可夫模型，条件随机场模型。【重点】朴素贝叶斯分类，EM算法，隐马尔可夫模型。【难点】EM算法，隐马尔可夫模型。（七）神经网络（8课时）【内容】神经元，神经网络，分类、聚类、回归、标注任务的神经网络模型，误差反向传播学习算法，多层神经网络常用损失函数，多层神经网络常用优化算法，多层神经网络中过拟合的克制，竞争学习，自组织特性映射网络的构造与学习。【重点】神经元模型，神经网络的构造，误差反向传播学习算法，多层神经网络常用损失函数，多层神经网络常用优化算法，多层神经网络中过拟合的克制。【难点】误差反向传播学习算法，结合动量优化和步长优化的算法。（八）深度学习（4课时）【内容】卷积层，池化层，Flatten层，批原则化层，经典卷积神经网络，循环神经网络的基本构造、网络构造，长短时记忆网