机器学习原理与应用电子教案 2.4数学基础

备课日期：年月日授课时间课时（理论+实验）周次星期:节次:授课课题数学基础教学目标1.理解数学基础知识在学习机器学习算法中的重要性。2.掌握数学基础知识：导数运算、贝叶斯定理、期望与方差、信息熵、距离、损失函数。教学重点1.信息熵；2.距离；3.损失函数。教学准备PPT、点名册等。教学方法指导阅读、案例法。教学过程设计备注课题引入导数运算、贝叶斯定理、期望与方差、信息熵等是学习机器学习算法设计中常用的数学理论，注意学习与应用。【时间】分钟。教学步骤及主要内容【主板书】§2.4数学基础一、导数【主板书】导数1.导数：函数在某一点的导数描述了这个函数在这一点附近的变化率。2.偏导数：多变量的函数的偏导数是它关于其中一个变量的导数，而保持其他变量恒定。3.方向导数：偏导数反映函数沿坐标轴方向的变化率，而方向导数可以表示任意方向的变化率。4.梯度：度量函数在点p0处沿哪个方向增加的速度最快。5.梯度与方向导数之间的关系：函数在某一点处的方向导数在其梯度方向上达到最大值；沿梯度方向，函数值增加最快。同理，方向导数的最小值在梯度的相反方向取得，沿梯度相反方向函数值的减少最快。6.求导法则。7.多元函数求极值。8.向量导数。9.常用函数及其导数：指示函数、幂函数、指数函数、对数函数、Logistic函数。【强化与拓展】SymPy库。（1）导入：importsympyassp（2）声明符号：x=sp.symbols('x')（3）声明函数：f=(5/x)*(sp.exp(x)-1)-sp.exp(x)（4）求导：y=sp.diff(f,x)（5）求方程的解：s=sp.linsolve([x+2*y-5,2*x+y-1],(x,y))〖PPT〗导数运算。【时间】分钟。【提问】。二、贝叶斯定理【主板书】贝叶斯定理1.事件交与并。2.互斥事件。3.条件概率。4.概率加法法则。5.概率乘法法则。6.贝叶斯定理。【副板书】贝叶斯公式解析。【强化与拓展】概率度量了事件发生的可能性大小，但却无法度量事件的整体影响；当需要度量事件的整体影响时，通常使用期望与方差。（1）期望：公式、含义（例1：掷筛子）。（2）方差：公式、含义。（3）期望与方差的线性变换。（4）多个独立变量的期望与方差。〖PPT〗贝叶斯公式、期望与方差。三、信息熵【主板书】信息熵1.信息量：公式、含义。例1：学生出勤（固定座位与不固定座位对应的信息量）。例2：学生考试成绩（平时不爱学习但期末成绩高的信息量、平时成绩好期末成绩高的信息量）。2.信息熵：公式、含义（信息的价值）。3.交叉熵：公式、含义（两个概率分布之间的差异性）。〖PPT〗信息量、信息熵与交叉熵。【时间】分钟。【提问】。四、距离【主板书】距离度量特征向量之间的差异。1.曼哈顿距离：公式。2.欧式距离：公式。3.切比雪夫距离：公式。4.闵可夫斯基距离：公式（p取不同值时的含义）。5.马氏距离：公式、与欧式距离之间的差异（量纲）。6.汉明距离：求取方法。7.余弦相似度：公式。8.杰卡德距离：公式。〖PPT〗距离。【时间】分钟。【提问】。五、损失函数【主板书】损失函数用于求解机器学习算法模型参数。1.0-1损失函数：公式。2.平方损失函数：公式。3.交叉熵损失函数：公式。【强化与拓展】对于二分类问题，交叉熵的简化。4.Hinge损失函数：公式。〖PPT〗损失函数形式。【时间】分钟。【提问】。课堂练习其他无小结与作业课堂小结在深入了解机器学习相关算法之前，掌握高等数学、线性代数、概率论与数理统计等必备数学知识是基础、也是关键。本课作业1.绘制指定直线L1(如斜率与截距分别为2与5)上10个点P=(x,y)。2.根据直线L1上的点P=(x,y)产生噪声点Pn=(x,y_npt)。3.从点集Pn=(x,y_npt)中随机抽取两点(变量inx保存两点的序号)。4.根据随机抽取的两点(变量inx保存两点序号)绘制直线L2；在同一