支持向量机及其应用课件

智能算法讲座（一）支持向量机及其应用Support

Vector

Machines

and

its

Application数学与计算机学院

彭宏Page1目录uuuuuuuuuSVM的描述u

SVMBoser,Guyon,Vapnik

COLT-92uSVM的描述u目标：u解决方法：模式识别问题的一般描述uuuuSVM的描述uu一般模式识别方法的问题uuu一、线性可分的支持向量(分类)机超平面决策函数线性可分的支持向量(分类)机问题是最大间隔原则线性可分的支持向量(分类)机Lagrange乘子法Lagrange函数线性可分的支持向量(分类)机对偶问题这是一个凸二次规划问题有唯一的最优解线性可分的支持向量(分类)机支持向量：目录uuuuuuuuu二、线性支持向量(分类)机线性不可分情况线性支持向量(分类)机原始优化问题线性支持向量(分类)机线性支持向量(分类)机支持向量有下列性质：目录uuuuuuuuu三、支持向量(分类)机非线性可分情况支持向量(分类)机核技术非线性映射

输入空间Hilbert空间HHilbert空间支持向量(分类)机Hilbert空间Hilbert空间支持向量(分类)机支持向量(分类)机b*问的计算如下：支持向量(分类)机核函数先验性支持向量(分类)机目录uuuuuuuuu四、最小二乘支持向量(分类)机Suykens等人最小二乘支持向量(回归)机：最小二乘支持向量(回归)机最小二乘支持向量(回归)机例子：最小二乘支持向量(分类)机目录uuuuuuuuu五、硬-带支持向量（回归）机1、一个简单的回归例子硬-带支持向量（回归）机五、硬-带支持向量（回归）机2、不敏感损失函数Vapnik不敏感损失函数：硬-带支持向量（回归）机硬-带支持向量（回归）机回归

拟合

逼近原始优化问题硬-带支持向量（回归）机Lagrange乘子法Lagrange函数硬-带支持向量（回归）机对偶问题硬-带支持向量（回归）机支持向量：目录uuuuuuuuu软-带支持向量（回归）机回归原始优化问题软-带支持向量（回归）机Lagrange乘子法Lagrange函数软-带支持向量（回归）机对偶问题软-带支持向量（回归）机支持向量：目录uuuuuuuuu-支持向量（回归）机核技术非线性映射

输入空间Hilbert空间HHilbert空间-支持向量（回归）机Hilbert空间Hilbert空间-支持向量（回归）机目录uuuuuuuuu四、最小二乘支持向量(回归)机XY最小二乘支持向量(回归)机最小二乘支持向量回归机

LS-SVR岭回归最小二乘支持向量(回归)机：最小二乘支持向量(回归)机最小二乘支持向量(回归)机目录uuuuuuuuu九、支持向量机应用1、手写体数字识别最大间隔

软间隔高斯核

多项式核USPSNIST九、支持向量机应用2、文本分类九、支持向量机应用3、图像识别(1)视位无关的分类九、支持向量机应用(2)基于颜色的分类九、支持向量机应用(3)可视场景中的目标检测人脸检测汽车行进的可视场景中的行人检测九、支持向量机应用4、语音信号处理(1)说话人识别(2)语音情感识别(3)……九、支持向量机应用5、信息安全领域(1)入侵检测(2)病毒