机器基础及其应用 3

“第5章回归”教案一、课程基本信息课程名称：机器学习基础授课章节：第5章回归授课时长：4课时（180分钟）授课对象：计算机、人工智能、大数据相关专业本科生教学形式：理论讲授+公式推导+代码实操+案例剖析+课堂互动+习题巩固+答疑复盘前置知识：Python基础、数据统计基础、机器学习基本概念、最小二乘法基础、数据集处理与模型训练基础章节核心要点：线性回归（一元/多元）与最小二乘法、多项式回归、岭回归与Lasso回归、决策树与随机森林回归、房屋价格预测实战案例、各类回归算法的原理、差异与落地实现二、教学目标（一）知识目标掌握回归分析的核心概念、研究内容与应用场景，理解回归模型的通用结构、随机误差项的构成与古典线性回归模型的基本假设。精通最小二乘法的核心原理、公式推导与参数求解逻辑，熟练掌握一元、多元线性回归的模型形式、参数意义与求解方法。理解多项式回归的模型形式与“非线性问题线性化”的核心思想，掌握多项式回归的实现流程与适用场景。掌握岭回归、Lasso回归的正则化原理、参数更新逻辑，明晰两种回归算法的异同、优缺点及解决过拟合、共线性问题的核心作用。理解决策树回归、随机森林回归的底层原理、构建流程与核心参数，掌握集成学习在回归任务中的应用优势。掌握房屋价格预测实战的全流程，能够结合业务场景选择适配的回归算法，完成模型训练、评估与优化。（二）能力目标具备独立推导线性回归、最小二乘法核心公式的能力，能够辨析回归模型的各类假设条件，排查基础模型问题。能够基于Python实现一元/多元线性回归、多项式回归、岭回归、Lasso回归的代码落地，熟练运用sklearn相关工具库完成模型构建。具备识别数据共线性、过拟合、欠拟合问题的能力，可通过正则化、多项式阶数调整、模型集成等方法优化回归模型性能。能够独立完成决策树、随机森林回归模型的训练、调参与评估，掌握特征重要性分析方法，解读模型业务意义。具备回归实战项目落地能力，可完成数据清洗、特征处理、模型训练、性能评估、结果分析的全流程操作。（三）素养目标建立理论推导+实操落地的机器学习思维，理解回归算法“从统计理论到工程应用”的转化逻辑，养成严谨的数据分析与建模习惯。培养辩证思维，能够根据数据特征、任务场景差异化选择回归算法，精准定位模型误差、过拟合、共线性等问题并迭代优化。领悟“化繁为简、实事求是”的科研思想，理解多项式线性转化、正则化约束等优化思路，树立科学的模型迭代理念。结合民航客运量、房价预测等实战案例，理解机器学习技术服务社会、赋能行业的价值，树立学以致用的工程素养。三、教学重难点（一）教学重点回归分析核心概念、回归模型通用结构，随机误差项的组成与古典线性回归四大基本假设。最小二乘法核心原理、公式推导，一元与多元线性回归模型的构建、参数求解与模型解读。多项式回归的模型形式、线性转化思路与代码实现方法。岭回归、Lasso回归的正则化原理、参数alpha的调优逻辑，两种算法解决共线性与过拟合的方法。决策树回归、随机森林回归的构建原理、核心参数与特征重要性分析方法。房价预测实战全流程，回归模型MSE、R²等评估指标的应用与模型优化思路。（二）教学难点最小二乘法极值求解、正规方程组推导过程，多元线性回归矩阵运算逻辑。L1、L2正则化的底层差异，岭回归与Lasso回归的特征筛选、权重约束机制区别。坐标下降法求解正则化回归参数的迭代逻辑，最小角回归的核心思路。决策树特征选择（熵、条件熵、信息增益、基尼系数）的原理辨析与场景适配。不同回归算法的选型逻辑，结合数据共线性、拟合状态、特征维度完成模型优化迭代。四、教学方法与工具教学方法：理论讲授法、公式推导法、案例驱动法、代码实操演示法、对比辨析法、问题启发式教学、习题巩固法、课堂答疑复盘法教学工具：PPT课件、公式推导板书、模型原理示意图、Python代码实操演示、课堂习题、算法对比表格、案例数据集五、教学过程设计（总时长180分钟，4课时）第一课时：回归基础与线性回归、最小二乘法精讲（45分钟）1.课程导入与章节框架梳理（5分钟）回顾机器学习基础任务分类，对比分类任务与回归任务的核心差异，点明回归算法用于连续型数值预测的核心定位。展示本章知识框架，梳理线性回归、多项式回归、正则化回归、树回归、实战案例五大模块。融入思政理念，讲解回归分析“源于实践、用于实践”的发展逻辑，引导学生树立理论结合实践的学习思维。2.回归分析核心理论（15分钟）详细讲解回归分析的定义、研究对象与核心作用，阐释其挖掘变量间统计规律的核心价值。介绍回归模型通用公式，拆解因变量、自变量、确定性函数、随机误差项四大组成部分，重点解读随机误差项的四大影响因素。系统讲解古典线性回归模型的四大基本假设，结合民航客运量案例，说明假设条件对模型训练的重要意义，为后续参数估计、模型检验奠定理论基础。3.最小二乘法原理与公式推导（20分钟）聚焦回归参数求解核心方法——最小二乘法，讲解其“最小化残差平方和”的核心思想。分步推导残差平方和公式、极值求解条件、正规方程组，最终推导得出一元线性回归参数求解公式。讲解样本重心、回归拟合值、残差的核心概念与几何意义，结合示意图直观展示回归直线拟合样本数据的逻辑。简单拓展多元线性回归的矩阵表达形式，为下一课时内容铺垫。4.课时小结与课堂提问（5分钟）梳理本节课核心知识点：回归模型结构、古典回归假设、最小二乘法核心原理与公式。通过随堂提问抽查随机误差项组成、最小二乘法核心思想等重点内容，答疑解惑，预告下节课一元/多元线性回归实操与多项式回归内容。第二课时：多元线性回归与多项式回归实操（45分钟）1.复习回顾与新课导入（5分钟）快速回顾最小二乘法原理、一元线性回归模型公式，点明单变量回归的局限性，引出多变量场景下的多元线性回归模型。同时针对线性模型无法拟合非线性数据的问题，导入多项式回归算法，搭建“线性-非线性”回归算法知识体系。2.多元线性回归模型精讲（15分钟）讲解多元线性回归模型的一般形式、参数定义（回归常数、回归系数），阐释模型矩阵表达的核心逻辑与设计矩阵的意义。重申多元线性回归的高斯-马尔可夫假设、正态分布假设，结合空调销量预测案例，拆解各回归系数的业务含义，讲解多变量场景下变量相互影响的解读方式。结合民航客运量实战案例，分析多自变量对因变量的综合影响，说明多元回归的实际应用价值。3.多项式回归原理与实现（20分钟）针对非线性数据拟合难题，讲解多项式回归的一般形式，重点阐释“多项式特征转化、非线性问题线性化”的核心思路，体现化繁为简的数学思维。讲解不同阶数多项式的拟合效果差异，分析高阶多项式易引发过拟合的问题。结合Python代码实操，演示多项式特征生成、数据标准化、模型拟合的完整流程，对比一阶、二阶、二十阶多项式的拟合效果，直观展示欠拟合与过拟合现象。4.课时小结与课堂练习（5分钟）总结多元线性回归的模型特点、参数解读方法，梳理多项式回归的优势与缺陷。布置简单的多项式回归代码实操练习，巩固模型实现流程，预告下节课正则化回归算法内容。第三课时：岭回归、Lasso回归原理与代码实现（45分钟）1.复习导入与问题引出（5分钟）回顾多项式回归过拟合、多元回归变量共线性的问题，引出正则化回归的优化思路，点明岭回归、Lasso回归是解决回归模型过拟合、共线性问题的核心算法，开启本节课正则化回归知识讲解。2.岭回归与Lasso回归核心原理（15分钟）讲解正则化的核心作用：通过约束模型参数大小，降低模型复杂度，抑制过拟合。分别阐释L2正则化（岭回归）、L1正则化（Lasso回归）的公式原理，对比两者的核心差异：岭回归保留所有特征、压缩权重，Lasso回归可实现特征稀疏、自动筛选重要特征。结合公式推导，解读alpha超参数对模型拟合效果的影响，分析alpha过大、过小引发的欠拟合、过拟合问题。3.算法求解逻辑精讲（10分钟）简要介绍最小角回归算法原理，重点讲解坐标下降法的迭代逻辑：固定部分权重、单维度迭代优化最优解，循序渐进逼近最优参数。对比两种求解算法的优劣与适用场景，帮助学生理解正则化回归的参数更新机制，突破算法难点。4.正则化回归代码实操（12分钟）基于sklearn库，演示岭回归、Lasso回归的完整实现流程：数据生成、多项式特征构建、数据标准化、模型拟合、不同alpha参数效果对比。通过多组参数实验，展示alpha值变化对模型拟合曲线、均方误差的影响，让学生直观理解正则化的优化效果，掌握超参数调优的基本思路。5.课时小结（3分钟）梳理岭回归与Lasso回归的原理、差异、求解方法与实操要点，总结正则化解决过拟合、共线性的核心逻辑，预告下节课树回归与实战案例内容。第四课时：决策树、随机森林回归与房价预测实战（45分钟）1.复习导入（5分钟）回顾各类线性回归、正则化回归的优缺点，点明线性模型无法适配复杂非线性、非单调数据场景的短板，引出基于集成学习的树回归算法，构建完整的回归算法体系。2.决策树回归原理（12分钟）区分决策树分类树与回归树的核心差异，讲解决策树回归“分而治之”的构建逻辑。系统讲解特征选择核心指标：熵、条件熵、信息增益、信息增益比、基尼系数，对比ID3、C4.5、CART三大决策树算法的优劣与适用场景。阐释决策树剪枝的核心作用，解决树模型过拟合问题。3.随机森林回归与实操（13分钟）讲解集成学习核心思想，拆解随机森林回归“随机选样本、随机选特征、多树集成预测”的四大核心流程。梳理随机森林回归的优势：抗过拟合、适配非线性数据、可输出特征重要性。结合Python代码实操，演示数据加载、数据集划分、模型训练、预测评估、特征重要性可视化的完整流程，讲解n_estimators、max_depth等核心参数的调优逻辑。4.房屋价格预测实战案例（12分钟）完整复盘房价预测项目全流程：问题定义、数据收集、异常值与缺失值清洗、数据标准化与编码、特征工程、线性回归模型训练、模型评估与优化。结合实战数据，分析各类特征对房价的影响权重，对比不同回归算法的预测效果，讲解MSE、R²指标的评估逻辑，培养学生工程实战思维。5.全章复盘与习题讲解、作业布置（3分钟）串联全章知识点：线性回归→多项式回归→正则化回归→树回归→实战落地，梳理各算法的演进逻辑与场景适配规则。快速讲解章节典型习题重难点，布置分层课后作业，强化知识掌握。六、课后作业（分层作业）（一）基础巩固题简述回归分析的核心概念与随机误差项的主要组成部分。阐述最小二乘法的核心思想，写出一元线性回归参数求解的核心公式。对比岭回归与Lasso回归的原理、异同点及各自适用场景。简述决策树回归中CART算法基尼系数的计算逻辑与作用。（二）能力提升题结合公式推导，说明多项式回归产生过拟合的原因，以及正则化如何抑制过拟合。详细说明随机森林回归的核心原理、优势，以及特征重要性分析的工程价值。对比一元线性回归、多元线性回归、多项式回归的模型特点与适用数据场景。（三）拓展思考题在多元回归模型中，数据共线性会带来哪些问题？岭回归和Lasso回归分别如何解决共线性问题？结合房价预测实战案例，分析线性回归模型的局限性，思考如何通过随机森林进一步提升预测精度。对比梯度下降法与最小二乘法解析解的优劣，说明两种参数求解方法的适用场景。七、教学反思本章知识点循序渐进，从基础线性回归到正则化回归、树回归，最后结合实战案例落地，符合学生从理论到实操的认知规律，完整覆盖机器学习回归任务的核心知识体系，重难点划分清晰，公式推导与实操结合紧密。本章公式推导、算法原理难点集中，其中最小二乘法正规方程组推导、L1/L2正则化差异、决策树特征选择指标辨析、随机森林集成逻辑是学生高频易错难点。后续教学中可增加分步推导板书、算法对比表格、动态原理演示，拆解抽象知识点，降低理解难度。课程搭配大量Python实操案例，可有效解决学生“懂理论不会落地”的问题，但课堂实操时间有限，部分学生难以跟上代码节奏。后续可提前发布预习代码模