武汉工业学院毕业设计学生开题报告.doc

武汉工业学院毕业设计（论文）开题报告201 2 届毕业设计(论文)题目支持向量机的分析与研究院（系） 机 械 学 院 专业名称 过程装备与控制工程 学生姓名 姚 骥 学生学号 080304122 指导教师 张 开 松 武汉工业学院毕业设计学生开题报告课题名称支持向量机的分析与研究课题类型论文课题来源横向导师张开松学生姓名姚骥学号080304122专业过程装备与控制工程对论文课题的认识支持向量机支持向量机SVM（Support Vector Machine）是一种基于统计学习理论的模式识别方法，该算法主要的目标是找到一个超平面，使得它能够尽可能多的将两类数据点正确的分开，同时使分开的两类数据点距离分类面最远。具体的解决方法为构造一个在约束条件下的优化问题，具体的说是一个受限二次规划问题(constrained quadraticprograming),求解该问题，得到分类器。它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。支持向量机方法是建立在统计学习理论的VC 维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度，Accuracy）和学习能力（即无错误地识别任意样本的能力）之间寻求最佳折衷，以期获得最好的推广能力（或称泛化能力）。 SVM方法是一种具有严密理论基础的计算机学习的新方法，它已经成为计算机学习、模式识别、计算智能、预测预报等领域的热点技术。支持向量机发展现状及趋势支持向量机是在统计学习理论基础上发展起来的一种新机器学习方法，由于其出色的学习性能，该技术已成为当前国际机器学习界的研究热点，在模式识别、回归估计、函数逼近等领域有了广泛的应用。支持向量机算法一经提出，就得到国内外学者的高度关注。学术界普遍认为它是继神经网络之后的一个新的研究方向。在短短的几年里，取得了一系列令人瞩目的研究成果。虽然支持向量机发展时间很短，但是由于它的产生是基于统计学习理论的，因此具有坚实的理论基础。近几年涌现出的大量理论研究成果，更为其应用研究奠定了坚实基础。虽然SVM 方法在理论上具有很突出的优势, 但与其理论研究相比,应用研究尚相对比较滞后, 到目前，SVM已用于数据分类、回归估计、函数逼近等领域.应用最为广泛的当属模式识别领域，在模式识别方面最突出的应用研究是贝尔实验室对美国邮政手写数字库进行的实验, 说明了SVM方法较传统方法有明显的优势, 同时也得到了不同的SVM 方法可以得到性能相近的结果.发展趋势：支持向量机SVM方法具有理论完备、适应性强、全局优化、训练时间短、泛化性能好等优点，已经成为目前国际、国内研究的热点。当前对SVM的研究方兴未艾，训练算法的研究方向主要是确定不同的优化目标, 根据KKT 约束优化条件寻找大规模训练样本下的实用算法；应用方向主要是为模式识别时的多类问题寻找好的算法和解决训练样本规模和训练速度之间的矛盾、解决支持向量树木和分类速度之间的矛盾。在此基础上进行进一步的机理分析和试验分析，探索和拓宽SVM新的应用领域，使其成为更有发展前途的新技术。支持向量机的基本原理SVM方法的基本原理是：定义最优线性超平面，并把寻找最优线性超平面的算法归结为求解一个凸规划问题。进而基于Mercer核展开定理，通过非线性映射，把样本空间映射到一个高维乃至于无穷维的特征空间（Hilbert空间），使在特征空间中可以应用线性学习机的方法解决样本空间中的高度非线性分类和回归等问题。简单地说就是升维和线性化。升维，即是把样本向高维空间做映射，一般只会增加计算的复杂性，甚至会引起“维数灾”，因而人们很少问津。但是作为分类、回归等问题来说，很可能在低维样本空间无法线性处理的样本集，在高维特征空间却可以通过一个线性超平面实现线性划分（或回归）。SVM的线性化是在变换后的高维空间中应用解线性问题的方法来进行计算。在高维特征空间中得到的是问题的线性解，但与之相对应的却是原来样本空间中问题的非线性解。一般的升维都会带来计算的复杂化。SVM方法巧妙地解决了这两个难题：由于应用了核函数的展开定理，所以根本不需要知道非线性映射的显式表达式；由于是在高维特征空间中建立线性学习机，所以与线性模型相比不但几乎不增加计算的复杂性，而且在某种程度上避免了“维数灾”。这一切要归功于核的展开和计算理论。因此人们又称SVM方法为基于核的一种方法。核方法研究是比SVM更为广泛和深刻的研究领域。支持向量机现在存在的问题支持向量机自出现以来，理论上的研究飞速发展，应用领域越来越广泛。但与理论研究相比较，应用研究相对比较滞后。相比之下，分类问题的研究较为成熟，其他方面如时间序列分析，回归，聚类等方面的研究，还有待进一步地完善。虽然到目前已经提出了多种训练算法，却依然存在一些问题亟待解决。1）支持向量机在理论上，核函数及参数的构造和选择缺乏理论指导；2）作为支持向量机基础的原始问题解和对偶问题解的关系上，当前研究存在逻辑缺陷；3）在部分情况下，支持向量机无法利用现有的公式计算决策函数的阈值；4）支持向量机中一类重要的变形方法，虽然有效，但缺乏相应的统计学习理论基础；5）LS-SVM 将 SVM 的求解从 QP 问题向线性方程组的成功转化极大地提高了 SVM 的求解效率，也降低了 SVM 的学习难度，极大地促进了 SVM 的应用。但 LS-SVM 同时也丧失SVM 的稀疏性与鲁棒性。支持向量机的应用目前支持向量机在如下几个方面获得较为成功的应用。(1)生物信息学生物信息学是近来特别受人关注的一门新学科, SVM在该领域已经获得重要成果,并有着十分广阔的应用前景。人类的遗传功能是由核酸承担的,核酸分为脱氧核糖核酸(DNA)和核糖核酸(RNA)两大类,它们由核苷酸、戊糖以及磷酸构成。DNA分子上的4种核苷酸A,G, C,T的排列组合顺序蕴含了丰富的遗传信息,其中每3个相邻的核苷酸包含一个遗传密码。基因就是指染色体所运载的DNA双螺旋链上的一段序列,该序列由这4种核苷酸通过不同的排列组合形成。针对传统SVM方法中存在的不足,提出了基于数据优化法的SVM,它通过其它统计学模型优化训练数据集,进而提高分类器的辨识精度。实验结果表明基于数据优化法的SVM分类器在翻译起始位点的辨识上可获得比其他判别方法更好的效果。近年来,生物学的信息数量已成指数增长,大量关于DNA和蛋白质序列的信息都已公开。这也大大地增强了人们对发展数据分类技术的兴趣。用分类技术自动地实现将大量的序列数据根据其结构或功能分成相应的不同类别。(2)人脸检测、识别和姿态判定人脸检测是模式识别和机器视觉领域的一个重要研究方向,其目的是判断图像中是否存在人脸,并确定所有人脸的大小和位置。Osuna等最早用SVM进行人脸检测,方法是直接取象素点的灰度值作为输入特征。由于需要大量的存储空间和较多的支持向量,速度很慢。Lyons使用图像的弹性图的某些格点上的2D2Gabor小波变换系数幅值作为特征,使用LDA进行线性判别种族、表情、性别等二值训练和分类,这种方法的缺点是2D2Gabor小波变换,很费时,再加上主成分分析计算量也大,使系统的实时性大大降低。(3)文本分类文本分类的任务是根据文本的内容自动地进行归类,应用很广泛,比如邮件过滤、网页搜索、办公自动化等领域均涉及这一问题。专业中文网页分类器,利用SVM对网页进行两类分类,找出所需专业的中文网页;然后利用向量空间模型,对分类好的专业网页进行多类分类。在构造支持向量机的过程中,为了提高分类的召回率,采用了一种偏移因子。该算法只需要计算两类SVM分类器,实验表明,它不仅具有较高的训练效率,同时能得到很高的分类精确率和召回率。 毕业论文基本内容和要求1. 借阅有关支持向量机的书籍，初步了解支持向量机的概念。2. 通过查阅资料，认识支持向量机的发展现状和未来的发展趋势，同时认识支持向量机算法现在存在的问题。3. 分析并掌握支持向量机的基本思想，研究相关的支持向量机的机器学习算法模型。4. 将支持向量机算法的基本原理简单运用于本专业，提出并解决机械工程方面的具体问题。5. 所撰写的论文语言表达准确，规范，结构严谨，版面质量好。论文步骤1. 在开始撰写毕业论文前期，充分利用图书馆、互联网等获取了支持向量机的相关知识，支持原因及其概述，加之与导师以及同组同学的讨论，确定了论文的开题报告及大体框架。在后续论文撰写过程中，我还将继续把握图书馆、互联网等这一重要知识平台获取与论文有关的知识，并加强与导师的沟通，共同解决撰写过程中遇到的问题。2. 介绍支持向量机提出的背景、发展现状和存在的问题。发展现状包括以下几个方面：(1)支持向量机的理论研究；(2)支持向量机的四种训练算法：1)分块算法（Chunking）（Cortes and Vapnik，1995）；2)子 集 选 择 算 法 （ Subset Selection algorithms ）（Osuna，1997；Joachims，1998）；3)序列最小优化算法（ SMO ，Sequential MinimalOptimization）（Platt，1998）；4）增量式算法（Cauwenberghs，2001）。3. 阐述支持向量机的基本原理及基本思想，介绍支持向量机目前在几个方面较为成功的应用，展望支持向量机未来的发展趋势：1）有限维空间的 SVM 理论发展较快，无限维空间的 SVM 理论还需深入研究和推广；2）针对 SVM 理论中优化问题的特点，如何建立简单、有效、实用的算法是迫切需要解决的问题；3）将神经网络与模糊逻辑等领域已有的研究方法与思想与 SVM 理论相结合，提出新的方法；4）训练样本中数据含有不确定性以及噪声时的 SVM 理论性能，即 SVM 理论的鲁棒性问题是值得研究的重点课题；5）进一步拓展 SVM 的应用领域，特别是 SVM在控制中的应用需要重点研究。4. 研究支持向量机在机械工程领域的应用，提出了一种基于支持向量机的机械故障诊断模型，该模型建立在VC维理论和结构风险最小原理基础上，根据有限的样本信息在模型的复杂性和学习能力之间寻求最佳折中，以期获得最好的推广能力。在选取诊断模型输入向量时，对故障信号功率谱进行小波分解，简化了故障特征向量的提取。仿真结果验证了该模型的有效性。5. 对前几部分进行梳理总结，完成论文的撰写。目的和意义：本次毕业设计是大学四年来涉及知识面最广、合作性最强、综合性最高，也是毕业前工作量最大的一次练习，它也是我们毕业后能较快适应工作的催化剂。因此，它有着举足轻重的作用：1、 它能培养我综合运用所学知识、独立分析和解决问题的能力。2、 它能培养我的创新意识和实践能力，对我进行科学研究的基本训练。3、 它能引导我运用马克思主义的基本原理和思想方法，培养理论联系实际的工作作风和严肃认真的科学态度。4、 它能进一步训练和提高我的工程设计能力、理论计算能力、实验研究能力社会调查能力、经济分析能力、外语和计算机应用能力以及提高我查阅文献资料和文字表达等基础技能。5、 它能使我学到生产技术和管理知识，巩固所学理论，获取本专业的实际知识，培养初步我的实际工作能力和专业技能。6、 它加深了我对支持向量机快速算法的认识，对我今后参加工作后从事相关工作提供了非常宝贵的经验。结束语参考文献致谢毕业设计进度安排3.64.5 毕业实习和资料收集,完成实习日记,开题报告和英文资料翻译并上交4.64.20 确定论文框架，进行论文第一部分的撰写。4.215.1 利用互联网和图书馆收集资料，进行论文第二部分的撰写。5.85.12 将前两部分交予导师审阅，提出意见并更正，着手进行第三部分的撰写。5.136.6 请教课题导师及本专业老师，完成论文第四部分及结尾的撰写。 6.66.11 完善所有毕业论文材料并准备答辩材料参考资料： 【1】 （英）克里斯特安尼（Cristianini，N）等.支持向量机导论.北京：电子工业出版社，200