《机器学习Python实战》课件 16-项目8 支持向量机算法原理讲解_第1页
《机器学习Python实战》课件 16-项目8 支持向量机算法原理讲解_第2页
《机器学习Python实战》课件 16-项目8 支持向量机算法原理讲解_第3页
《机器学习Python实战》课件 16-项目8 支持向量机算法原理讲解_第4页
《机器学习Python实战》课件 16-项目8 支持向量机算法原理讲解_第5页
已阅读5页，还剩4页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

机器学习Python实战

项目8支持向量机算法实战8.1.1SVM的概念SVM是弗拉基米尔·瓦普尼克（VladimirVapnik）等人根据统计学习理论中结构风险最小化原则提出的。SVM能够尽量提高学习机的推广能力，即由有限训练集得到的判别函数对独立测试集仍能够得到较小的误差。给定一组训练样本，每个训练样本被标记为属于两个类别中的一个，SVM算法创建一个将新样本分配给两个类别之一的模型，使其成为非概率二元线性分类模型。SVM模型将样本表示为空间中的点，这样映射就使每一类别的样本被尽可能宽的、明显的间隔分开，然后将新样本映射到同一空间，并基于它们落在间隔的哪一侧来预测所属类别。8.1.1SVM的概念我们首先来看看分类示意，将黑色的点和白色的点分别看作两类二维数据点，如果现在使用图中H₁、H₂、H₃这3条直线表示3个分类模型，哪个分类模型比较好？很显然，H₃的效果是最好的。H₁没有将两个类别的数据点分开，H₂虽然将两个类别数据点分开了，但是H₂与最近的黑色数据点间隔较小，极易出现错误分类。8.1.1SVM的概念分离超平面（separatinghyperplane）:用于将不同类别的数据点分开的直线或高维空间中的平面称为。数据点到分离超平面的距离称为间隔。能够将数据点分开的超平面往往存在多个，通常选择其中一个作为合理的最优超平面，选择标准是：该超平面应使两类数据点之间的间隔最大。SVM选择的超平面能够使所有数据点与该超平面距离最小值尽可能大。线性可分示例在线性可分的情况下，训练集中与分离超平面距离最近的数据点称为支持向量（supportvector）。8.1.1SVM的概念说明：直线H₁为决策边界，其两侧H₂、H₃为间隔边界，落在H₂、H₃上的数据点即支持向量，体现最大分类间隔。在图中可以看到在直线H₁的两侧分别有H₂和H₃两条直线，那些正好在H₂和H₃上的数据点就是支持向量。中间的直线H₁（在高维空间中是一个超平面）和所有支持向量之间的距离都是最大的。理论上我们还能画出很多条不同且能够把圆形数据点和正方形数据点分开的直线，但是哪一种是最好的分类方式呢？8.1.2SVM的核函数与参数选择思考：在右图中，如何将圆形数据点和五角星形数据点分开？在二维空间中，我们往往难以找到一个线性决策边界来有效划分圆点与五角星两类数据。然而，若将数据映射到更高维的空间中，分类问题就可能变得线性可分。8.1.2SVM的核函数与参数选择将原始特征空间中的样本通过某种变换映射到高维空间的方法，被称为核技巧（kerneltrick）。通过核函数，SVM能够隐式地将数据映射到高维特征空间，并在该空间中构造最优超平面，而无须显式计算高维特征空间中的数据坐标，从而显著降低了计算复杂度。01使用一个变换将原空间的数据映射到新空间02在新空间里用线性方法从训练数据中学习得到模型8.1

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论