机器学习原理与应用电子教案 5.6支持向量机

备课日期：年月日授课时间课时（理论+实验）周次星期:节次:授课课题支持向量机教学目标1.理解支持向量机的基本原理。2.理解支持向量机的数学模型构建方法。3.掌握Scikit-learn支持向量机库使用方法。教学重点1.支持向量机基本思想；2.模型构建方法；3.Scikit-learn支持向量机库使用。教学准备PPT、点名册等。教学方法指导阅读、案例法。教学过程设计备注课题引入【思政】在成功构建“九章二号”两年后，中国科学家宣布已成功构建量子计算原型机“九章三号”，求解特定问题的速度比目前全球最快的超级计算机快一亿亿倍。根据公开正式发表的最优经典精确采样算法，“九章三号”处理高斯玻色取样的速度比上一代“九章二号”提升100万倍。“九章三号”在百万分之一秒时间内所处理的最高复杂度的样本，需要当前最快的超级计算机“前沿”花费超过200亿年的时间。中国科大官网称，这一成果再度刷新了光量子信息的技术水平和量子计算优越性的世界纪录，进一步巩固了中国在光量子计算领域的国际领先地位。【引入】两分类问题中，距离分类边界不同距离的样本对分类边界的影响程度。【时间】分钟。教学步骤及主要内容【主板书】§3.6.支持向量机一、基本原理【主板】基本原理1.使不同类别的样本均距离决策边界尽可能远，为此，只需保证距离分类边界最近的不同类别的样本距离尽可能大即可。例1：香港警匪片中的将两帮派分开实例。【类比】帮头：支持向量；成员：样本。2.如何度量样本距离决策边界之间的间隔？（1）假设样本线性可分，分类界线为直线。（2）分类界线两侧样本满足的基本条件。〖PPT〗支持向量、分类界线等。（3）两类中的支持向量所在直线L1与L2。（4）直线L1与L2之间的距离。（5）两侧样本满足共同的条件（即距离L1或L2越远越好）：（4）构建目标函数。（5）目标函数的转换。（6）约束条件的松驰化：允许一些样本被错分。（7）整体松驰因子的约束与目标函数转换。3.样本集线性不可分时的解决办法：核函数。（1）核函数的含义。（2）核函数的类型。（3）核函数的选择。〖PPT〗核函数。【时间】分钟。【提问】。二、Scikit-learn库的使用【主板书】Scikit-learn库的使用1.库导入fromsklearnimportsvm或fromsklearn.svmimportSVC（分类）fromsklearn.svmimportSVR（回归）2.模型构建与求解SVC(C=1.0,kernel=’rbf’,gamma=’auto’)C：错误项的惩罚系数。kernel：算法中采用的核函数类型，可选参数有linear（线性核函数）、poly（多项式核函数）、rbf（高斯核）、sigmod（sigmod核函数）。gamma：核函数系数（默认为auto），只对高斯核、多项式核函数、sigmod核函数有效。【副板书】gamma的含义。3.常用方法与属性。4.应用实例〖PPT〗。例1：线性可分。【强化与拓展】不同类别样本的显示：np.ravel(X[Y==1,1]例2：线性不可分。例3：多类分类。【强化与拓展】一对多法（one-versus-rest）：训练时依次把某个类别的样本归为一类，其他剩余的样本归为另一类，这样k个类别的样本就构造出了k个SVM；分类时将未知样本分类为具有最大分类函数值的那类。

（2）一对一法（one-versus-one）：在任意两类样本之间设计一个SVM，因此k个类别的样本就需要设计k(k-1)/2个SVM。当对一个未知样本进行分类时，最后得票最多的类别即为该未知样本的类别。例4：回归〖PPT〗。主函数：SVR(kernel=’rbf’,

gamma=’auto_deprecated’,C=1.0,

epsilon=0.1)（1）产生数据：正弦曲线。（2）采用不同的核函数进行拟合。（3）结果输出。【时间】分钟。【提问】。课堂练习其他无小结与作业课堂小结SVM是一种具有坚实理论基础的小样本学习方法，其核心在于最大划分类边界，其目标在于利用核函数将低维特征空间向高维特征空间进行非线性映射并确定特征空间划分的最优超平面。支持向量是在SVM分类决策中起决定作用的样本；SVM的最终决策函数只由少数的支持向量所确定，计算的复杂性取决于支持向量的数目，而不是样本空间的维数，这在某种意义上避免了“维数灾难”。少数支持向量决定了最终结果，这不但可以有助于把握关键样本、“剔除”大量冗余样本，而且使得该方法不但简单，而且具有较好的“鲁棒”性。本课作业利用Scikit-learn库生成make_moons数据（两类）并将数据划分为训练数据与测试数据两部分。fromsklearn.datasetsimportmake_moonsx,y=make_moons(100,noise=0.5)#产生数据fromsklearn.model_selectionimporttrain_test_split

x_train,x_test,y_train,y_test=train_test_split(x,y,test_size=0.4)#训练与测试数据划分（测试数据点40%）请完成以下实验：（1）不同核函数对预测精度的影响。将核函数分别设置为'linear'、'poly'、'rbf'，求测试数据的预测精度并画出相应的折