4.3一分类和多分类支持向量机_第1页
4.3一分类和多分类支持向量机_第2页
4.3一分类和多分类支持向量机_第3页
4.3一分类和多分类支持向量机_第4页
4.3一分类和多分类支持向量机_第5页
已阅读5页,还剩5页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

一分类/多分类支持向量机主讲人:李侃优化问题:一分类支持向量机(one-classsupportvectormachine,1-SVM)通过超球体来实现一类分类异常值检测实际上可视为一类分类问题设一个正类样本集为:找到一个以a为中心,以R为半径的包含样本点的最小超球

对偶形式:一分类支持向量机根据KKT条件,对应于样本满足:其中:给定新数据z:若,则z为正常点,否则z为异常点直接法:直接修改目标函数,将多个分类面的参数求解合并到一个最优化问题中,通过求解该最优化问题“一次性”实现多类分类。特点:简单,但计算复杂度较高,实现较困难,只适合小型问题。间接法:主要是通过组合多个二分类器来实现多分类器的构造,如:一对多(one-against-all)和一对一(one-against-one)方法。多分类支持向量机一对多法:训练时依次把某个类别的样本归为一类,其它样本归为另一类,这样k个类别的样本构造了k个SVM。分类时将未知样本分类为具有最大分类函数值的那类。多分类支持向量机优点训练k个分类器,个数较少,其分类速度相对较快缺点训练速度会随着训练样本的数量的增加而急剧减慢;样本不对称:负类样本的数据要远远大于正类样本的数据;

新的类别加入,需要对所有的模型重新训练从“一对多”的方法衍生出基于决策树的分类。解决不对称:引入不同的惩罚因子,对样本点较少的正类采用较大的惩罚因子C。一对一法:在任意两类样本之间设计一个SVM,因此k个类别的样本需要设计k(k-1)/2个SVM。当对一个未知样本进行分类时,得票最多的类别即为该未知样本的类别。多分类支持向量机当类别很多的时候,模型的个数是k(k-1)/2,代价相当大。从“一对一”的方式出发,有向无环图(directedacyclicgraph,DAG)分类方法多分类支持向量机在高维特征空间中对每一类样本求出一个超球体中心,计算待测试样本到每类中心的距离,根据最小距离来判断该点所属的类基于一分类思想的多分类支持向量机方法受到基于一类分类思想的启发训练样本为

第s类训练样本各个类别为多分类支持向量机优化问题:对偶形式:借助核映射思想多分类支持向量机根据KKT条件,对应于

样本满足:给定待识

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论