机器学习(Python版) 课件 chap2.4-支持向量机_第1页
机器学习(Python版) 课件 chap2.4-支持向量机_第2页
机器学习(Python版) 课件 chap2.4-支持向量机_第3页
机器学习(Python版) 课件 chap2.4-支持向量机_第4页
机器学习(Python版) 课件 chap2.4-支持向量机_第5页
已阅读5页，还剩22页未读， 继续免费阅读

付费下载

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

机器学习(Python版)Chap2分类Chap2.4支持向量机散打机器学习算法之SVM

属于距离派，喜欢用距离来判断一件事情。学习的规则仅仅基于过去的极少部分关键经验——免得被一些渣渣瓦瓦的事情所误导，从而更好地做到举一反三。对于新的事情，决策的规则就是看落到哪一边、距离有多大，距离越大可信度越高。散打机器学习算法之Logregvs.SVM

这俩虽然是亲兄弟，个性上还是有所不同，各有千秋。如果一件事情不是简单的黑与白、错与对，Logreg仍然可以稍加推广就能应对，SVM就没这么幸运了！核心思想?SV11-NN(最近邻)?kNN:近邻决策面由k个近邻

样本决定SVM:最大间隔决策面由少量训练样本

(支持向量)决定??7-NNSV2最小距离尽量的大！！核心思想SV1?LogReg:对率似然/损失决策面由所有训练

样本决定SVM:合页损失/最大间隔决策面由少量训练样本

(支持向量)决定??SV2?最小距离尽量的大！！核心思想从以下两点进行把握：第一，对数几率回归采用极大似然估计，仅累加分类正确样本的概率值；而SVM则基于“最大间隔”思想，会同时考虑分类正确或错误两类样本。第二，对数几率回归的决策面由所有训练样本决定，而SVM的决策面则仅由少量训练样本（称为“支持向量”）决定。二分类与决策面

二分类与决策面

二分类与决策面——点到直线距离最大间隔分类器SV1???SV2

最小距离尽量的大！！思考题0：请举例说明特征变换的作用。最大间隔分类器线性可分的例子最大间隔分类器SV1???SV2

凸二次目标函数、线性约束，凸优化问题！最小距离尽量的大！！最大间隔分类器SV1???SV2

最大间隔分类器

KKT条件(该最优化问题的充要条件)决策面间隔面间隔面最大间隔分类器

决策面间隔面间隔面思考题2：试与kNN和对率回归进行比较!!思考题1：存不存在所有样本点都是支持向量的情况？为什么？最大间隔分类器线性不可分的例子实际问题中数据往往并非线性可分！！最大间隔分类器

特别注意：画圈的样本点都是SV!!思考题3：超参C的作用？

最大间隔分类器

最大间隔分类器高效的学习算法SMO

详见李航7.4节！！

软间隔SVM的核心代码实现软间隔SVM的核心代码实现软间隔SVM的核心代码实现软间隔SVM的核心

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论