版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
机器视觉系统应用授课老师姓名目录/Contents0102核函数非线性支持向量机非线性支持向量机
非线性超平面基于Mercer
核展开定理,通过用内积函数定义的非线性变换,将输入空间映射到高维特征空间(Hilbert空间),在这个高维空间中寻找输入变量和输出变量之间的关系。核方法核函数凡是满足Mercer定理的函数都可以作为支持向量机的核函数核函数:对所有𝑥𝑖,
𝑥𝑗
∈
𝑅
𝑑𝑲
𝒙𝒊,
𝒙𝒋 =
𝝓(𝒙𝒊)
⋅
𝝓(𝒙𝒋)这里𝝓是从𝑹
𝒅
到特征空间H的映射。•核函数已知映射函数,通过内积求得核函数K,不用构造映射函数能否直接判断一个给定的函数是否是核函数K?或者说K满足什么条件才是核函数?正定核的充要条件:设
K:
R
是对称函数,则K(x,z)为正定核函m, 对应的Gram矩阵数的充要条件是对任意
xi
,i
1,
2,K
[K
(
xi
,
x
j
)]m
m是半正定矩阵。Mercer定理可以得到Mercer核,正定核比Mercer更具一般性常用的核函数核函数(1)多项式形式的核函数K(x,
y)
{(x
y)
1}d此时得到的支持向量机是一个d阶多项式分类器。常用的核函数核函数(2)径向基函数形式的核函数2 2K
(x,
y)
e
x
y
/
2
此时得到的支持向量机是一种径向基函数分类器。它与传统径向基核函数(RBF)方法的基本区别:每一个核函数的中心对应于一个支持向量,它们以及输出权值是由算法自动确定。常用的核函数核函数(3)Sigmoid函数形式的核函数K(x,
y)
tanh(kx
y
)得到的支持向量机实现的两层的多层感知器神经网络网络的权值、网络的隐层节点数目由算法自动确定。常用的核函数此时得到的支持向量机是线性的分类器。核函数(4)点积形式的核函数K(x,
y)
x
y常用的核函数判断一个支持向量机分类器性能的关键指标有两个:学习能力推广能力核函数常用的核函数学习能力:分类器从训练数据中建立正确的分类模型的能力推广能力:指这个模型对未知数据进行正确预测的能力。推广能力的强弱更能反映分类器性能的好坏,因为设计分类器的目的就是对未知数据进行分类。核函数𝜙(𝑥𝑖)
⋅
𝜙(𝑥𝑗)非线性映射
把数据从输入空间映射到高维特征空间在高维特征空间中进行线性分类,映回到原空间后就成了输入空间中的非线性分类为避免高维空间的复杂计算,支持向量机采用核函数𝐾
𝑥𝑖,
𝑥𝑗
代替高维空间约束的二次规划问题:𝟐𝑙𝐦𝐢𝐧
𝟏
‖𝒘‖𝟐+C
∑
𝜉𝑖𝑖=1𝐬.
𝐭. 𝒚𝒊(<
𝒘,
𝝋(𝒙𝒊)
>
+𝒃)
≥
𝟏−
𝝃𝒊,
𝒊
=
𝟏,
.
.
.
𝒍𝝃𝒊
≥
𝟎,
𝒊
=
𝟏,
.
.
.
𝒍𝟏𝟐构造拉格朗日函数求解:𝒍 𝒍 𝒍𝑳
=
𝟐
||𝒘|| +
𝑪
∑
𝝃𝒊
−
∑
𝑎𝒊
(𝒚𝒊(<
𝒘,
𝝋(𝒙𝒊)
>
+𝒃)
−
𝟏
+
𝝃𝒊)
−
∑
𝜸𝒊
𝝃𝒊𝒊=𝟏 𝒊=𝟏 𝒊=𝟏
i
,
i
0,i
1,
,l非线性支持向量机优化问题的对偶形式:l
0
i
yiii
12l l
1
i
1 j
1
i
j
yi
y
j
K
(xi
,
y
j
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 生活垃圾分类责任制度
- 商贸企业安全责任制度
- 安全生产三级责任制度
- 幼儿园一岗三责责任制度
- 保养实训室安全责任制度
- 污水处理人员责任制度
- 班组长责任制管理制度
- 单位关键岗位责任制度
- 点亮视界·照耀前程强力巨彩“点亮备考题库”2026届全球校园招聘144人备考题库有完整答案详解
- 五金厂安全生产责任制度
- DB5115-T 75-2021 市场监管所规范化建设指南
- 农产品溯源追溯体系的完善
- 电梯钢结构的应急预案脚本(3篇)
- 企业AI在招聘中的应用
- 国企招聘笔试题及答案-投资专员、投资经理B卷
- 口腔冠髓切断术
- 脑梗的观察与护理
- 坐校车安全教育
- 健康类直播课件
- 2025年高校教师资格证之高等教育法规题库(综合题)
- 学校食堂员工培训课件
评论
0/150
提交评论