2010级研究生中期选题报告.doc

北京信息科技大学硕士学位论文选题报告选题名称 基于支持向量机的说话人识别 姓 名 李 飞 专业、年级 09级信号与信息处理专业 指导教师 李红莲 协助指导教师 报告日期 2010年12月 填表说明1. 应根据表中所提出的要求作开题报告，听取意见修改后，方可填写此表。2. 封面“指导教师”一栏仅限正式指导教师，“协助指导教师”限在研究生部正式备案的协助指导教师。3. 本表一式二份，经评议组及学科（专业）所在分委会批准后，本人、各分委会各持一份，研究生部留存电子版备案。4. 选题报告（连同评分附表）在第三学期结束前，由所在学科（专业）分委员会签署意见后备案。一、选题背景和立论依据1. 选题背景（课题来源）语音是实现人们之间沟通交流的最直接与方便的手段，而实现计算机与人之间畅通无阻的语音交流一直是人类不懈追求的一个梦想，语音识别则是实现这一梦想的关键性技术1。说话人识别技术（Speaker recognition，SR）也称声纹识别技术是语音识别技术中的一种。语音波形可以反映说话人生理和行为特征，我们称之为的语音参数。说话人识别技术可以提取这些语音参数，并根据这些参数自动识别说话人的身份。与指纹识别、虹膜识别等一样，说话人识别可以被广泛应用于各种需要身份认证的领域当中，如防盗门的开启认证、银行系统的身份认证、犯罪嫌疑人的查证、网络信息检索等。说话人识别的过程分为两个阶段。首先是学习阶段，需要一种手段处理来自不同说话人的语音参数，按一定方法“找到”并“记住”每个说话人之间的不同之处。然后是识别阶段，当得到一段未知身份的语音时可以凭借学习阶段的“记忆”来识别说话人的身份。支持向量机正是一种建立在统计学习理论基础上的一种通用学习方法。它具有保持经验风险固定而最小化置信范围的特点，相比其它学习手段（如基于贝叶斯判决的分类器或者神经网络分类器，）支持向量机可以解决局部极小点和过学习等问题，以便于正确地将每个说话人的语音特征进行分类。因此，研究基于支持向量机的说话人识别将具有较高的理论价值和广泛的应用前景。来源：预研项目课题名称：基于支持向量机的说话人识别2.文献综述（包括选题依据和国内外研究现状、发展动态、课题研究目的、意义等，可加附页，应不少于3000字）见附页3.所查阅的与选题有关的中外文献名称、作者、期刊及所用查阅手段1 徐波.语音识别技术与应用的发展趋势J.中国计算机学会通讯，2008,2:54572 L.R.拉宾纳，R.W.谢弗，朱雪龙等译.语音信号处理M.科学出版社.3 张军英.说话人识别的现代方法与技术D.陕西：西北大学,1994.4 雷震春,支持向量机算法的研究及在说话人识别上的应用D,浙江：浙江大学,2002.5 吴朝晖,杨莹春,说话人识别模型与方法M,北京：清华大学出版社,2009.6 杜娟,基于支持向量机的说话人识别D,吉林：吉林大学,2007.7 Yu H., Yang J., and Han J., Classifying Large Data Sets Using SVMs with Hierarchical ClustersJ, Proc. of the 9th ACM SIGKDD 2003,Washington, DC,USA,2003.8 Dong J-X., Krzyzak A. and Suen C.Y., Fast SVM Training Algorithm with Decomposition on Very Large Data SetsJ, IEEE Trans. Pattern Analysis and Machine Intelligence, Vol.27, No.4,pp.603-618, 20059 Mavroforakis M.E. and Teodoridis S., A Geometric Approach to Support Vector Machine(SVM)ClassificationJ, IEEE Trans. Neural Networks, Vol.17, No.3, 671-682, 200610 李红莲，基于Internet的为文本口语检索的研究D.北京：北京交通大学，2003.11 王书诏,邱天爽，说话人识别研究综述J.电声技术，2007,31（1）：51-56.12 杨铁建,基于支持向量机的数据挖掘技术研究D,西安：西安电子科技大学，2005.13 Boyang Li, Qiangwei Wang, Jinglu Hu. A Fast SVM Training Method for Very Large Dates J. Proceedings of International Joint Conference on Neural Networks, Atlanta, Georgia, USA, June 14-19, 2009.14 David M.J. Tax, Robert P.W. Duin, Data Domain Description using Support VectorsJ. European Symposium on Artificial Neural Networks Bruges (Belgium), 21-23 April 1999, D-Facto public., ISBN 2-600049-9-X, pp. 251-256.15 范欣炜，支持向量机算法的研究及其应用D，浙江：浙江大学，2003.16 Jian Luo, Bo Li, Chang-qing Wu, Yinghui Pan, A Fast SVDD Algorithm Based on Decomposition and Combination for Fault DetectionJ. 2010 8th IEEE International Conference on Control and Automation Xiamen, China, June 9-11, 2010.17 Chi-Kai Wang, Yung Ting, Yi-Hung Liu, and Gunawan Hariyanto, A Novel Approach to Generate Artificial Outliers forSupport Vector Data DescriptionJ. IEEE International Symposium on Industrial Electronics Seoul Olympic Parktel, 2009.18 Tao Xin-min, Chen Wan-Hai, Du Bao-Xiang, Xu Yong, Dong Han-Guang, Novel Model of one-class Bearing Fault Detection using SVDD and Genetic AlgorithmJ.Second IEEE Conference on Industrial Electronics and Applications,2007.19 Daesung Kang, Jooyoung Park, and Jose C. Principe, Binary Classification Based on SVDD Projection and Nearest NeighborsJ. IEEE Conference.20 Yuhuan Zhou1, Yong Gong2, Jinming Wang1, Jian Sun1, Xiongwei Zhang2, Tao Zhu1, Speaker Verification based on SVDDJ. 3rd International Congress on Image and Signal Processing ,2010.21 Nir Krause, Ran Gazit, SVM-based Speaker Classification in the GMM Models SpaceJ. IEEE Odyssey. 2006.22 Minghui Liu , Zhongwei Huang , Evaluation of GMM-based Features for SVM Speaker VerificationJ. Proceedings of the 7th World Congress on Intelligent Control and Automation June 25 - 27, 2008.23 Chang Huai You, Kong Aik Lee, Haizhou Li, An SVM Kernel With GMM-Supervector Based on the Bhattacharyya Distance for Speaker RecognitionJ. IEEE SIGNAL PROCESSING LETTERS, VOL. 16, NO. 1, 2009.24 Daniel J. Mashao, A hybrid GMM-SVM speaker identification system J. IEEE AFRICON, 2004.25 Minqiang Xu, Beiqian Dai, Dongxing Xu, Shiqing Yang, Qingsong Liu, SVM-based Text-independent Speaker Verification using Derivative Kernel in the Reference GMM Space J. International Symposiums on Information Processing, 2008.27 刘明辉，基于GMM和SVM的文本无关的说话人确认方法研究D.安徽：中国科学技术大学,2007.28 张亚芬，支持向量机在说话人识别系统中的应用D.兰州：兰州理工大学,2007.29 忻栋，支持向量机算法的研究及在说话人识别上的应用D.浙江：浙江大学,2002.30 Chen P.H. ,Fan R.E. and Lin C.J., A Study on SMO-Type Decomposition Methods for Support Vector Machines J, IEEE Trans.Networks, Vol.17, No.4, 893-908, 2006.31 陈卫，基于支持向量机的说话人识别系统研究D.北京：华北电力大学,2004.32 张耿，多分类支持向量机的研究及在说话人识别中的应用D.南京：东南大学,2007.33 林升梁,刘志, 基于RBF核函数的支持向量机参数选择J. 浙江工业大学学报. 第35卷第2期2007年4月.164-167.34 赵力, 语音信号处理M, 机械工业出版社,2009.35 韩纪庆，语音信号处理M.清华大学出版社，2005.所用查阅手段：1、通过本校电子图书馆查询相关电子期刊以及优秀论文；2、通过EI文献检索；3、通过国家图书馆查阅相关电子期刊。二、研究内容1.学术构想与思路、主要研究内容及创新点本课题研究以支持向量机算法作为主要手段，设计与实现说话人识别系统。在该系统中将分别采用标准支持向量机算法（C-SVM）、非标准支持向量机如超球面支持向量机（SVDD）等作为机器学习算法。使用来自多个说话人的语音作为样本。研究内容：建立一个快速高效的说话人识别系统，本系统设计所需的具体工作有以下几个方面：1） 掌握说话人识别的理论与其实现方法。主要包括以下两大部分：语音预处理与特征提取、说话人模型的训练与匹配计算。2） 建立一个语音预处理与特征提取的系统，通过对语音的去噪处理、预加重、端点检测对语音进行预处理；通过对语音提取Mel倒谱系数得到语音的MFCC特征参数。3） 通过掌握支持向量机的基本理论与算法，建立一个说话人模型的训练与匹配计算的系统。它可以通过语音的MFCC特征参数进行训练，在MFCC特征空间中划出一个超平面，使来自不同说话人的语音得以区分。4） 最后，就支持向量机训练速度较慢以及多分类等问题，针对特征提取与支持向量机的算法进行改进。使该系统可以更快速、更准确地进行说话人识别工作。创新点：（1） 利用支持向量机算法的优点，使得说话人识别系统在非线性、高维度或有限样本的情况下可以进行高准确率识别工作；（2） 通过使用聚类等手段处理、优化训练样本，在保证识别准确率的情况下，提高训练速度；（3） 尝试使用各种非标准支持向量机算法，利用其特性提高训练与识别的效率与准确性。2.可行性分析及论证说话人识别属于生物特征识别技术的一种，是一项根据语音波形中反映说话人生理和行为特征的语音参数自动识别说话人身份的技术。它利用语音信号中说话人信息，强调说话人的个性，而不会考虑语音字词意义。说话人识别技术依赖于信号检测与处理、模式识别、人工智能、机器学习等理论与技术的发展。因此我们可以处理每个说话人的语音信号，对其进行训练与识别，最终可以实现人与机器的信息乃至情感的交流。【5】支持向量机是一种在统计学习理论基础上构造的一种通用学习机器，它对于有限样本下的模式识别中的一些根本性问题进行了系统的理论研究，并在此基础上建立了一种较好的通用学习算法。使得以往很多困扰机器学习等方法的问题，比如模型选择和过学习问题、非线性和维数灾难问题、局部极小点问题等，在该算法中都得到了很大程度上的解决。【6】因此使用支持向量机作为说话人识别中的模型训练工具是非常适合的。支持向量机在使用上也存在着很多不足与缺陷。例如由于二次规划问题使得支持向量机对输入训练样本数量比较敏感，从而大规模样本的训练速度比较慢；支持向量机的基本算法并不支持多分类问题，而只能区分两类样本等。这些都需要进行解决，以便支持向量机可以被应用于更广泛的空间，同样也使说话人识别的产品可以更加快速而准确。而通过某些非标准支持向量机的算法，某些缺陷与不足便可得以解决，使支持向量机算法在实际应用中可以取得更好的效果。三、研究手段及条件1. 拟采取的研究方法、技术路线、实施方案及所需研究条件和实验条件研究方法:1） 在充分参考国内外相关资料后，了解支持向量机算法的工作原理与实际应用方法，在此基础上研究一种适用于说话人识别的设计方法。2） 在总结前人工作的基础上，设计出一套基本的说话人识别系统。3） 在基本系统之上进行改进，增强其训练与识别的效率，使其便于在实际应用中推广。4） 将设计出的系统进行多个说话人的训练与识别检验，以得到预期的满意结果。技术路线：在深入研究支持向量机算法的基础上，采用语音信号的MFCC特征作为样本进行训练与识别。通过支持向量机进行训练，得到训练网络。再通过该网络对来自于不同说话人的语音信号进行识别。最后通过多分类的手段实现多人的说话人识别。在大规模训练样本点的情况下，可以利用聚类算法可以将样本的集合分成由类似的对象组成的多个类的功能，减小训练规模、降低训练成本、保持训练准确度。在使用了某些非标准支持向量机算法的情况下，由于其某些特殊的性质，可以调节训练模型的精度、节省多分类运算的步骤。SVM训练算法NETMFCC聚类语音训练部分示意图SVM分类算法识别结果NET语音的MFCC特征识别部分示意图实施方案：1）深入研究各种支持向量机算法，领会其分类思想；2）标准支持向量机说话人识别系统的构建；3）分析并编写改进算法的程序，对标准支持向量机的系统进行改进；4）对来自于不同说话人的语音对该系统进行说话人识别测试，得到算法最优参数；5）进一步优化系统，为以后的研究做好铺垫工作。实验条件：1）PC计算机2）MATLAB仿真环境3）cooledit音频处理软件软件配套设备：1）降噪耳麦2.所需经费，包括经费来源及开支预算 年 度项 目2010 年2011 年合计（元）资料印刷费150020003500调研，会议费50040004500总计（元）200060008000经费来源：北京市教育委员会科技计划面上项目四、拟解决的主要难点、问题1.研究过程中预计可能遇到的困难或问题1）各环节之间的匹配,如特征提取的维数、聚类的多少等；2）缺乏某些数学理论方面的知识，对算法改进会有一定影响；3）算法中常有一些没有物理意义的参数，这些参数值的确定将比较困难；4）语音资料比较缺乏，不利于测试实验。2.解决的方法和措施1）在查阅国内外论著及文献的基础上，全面了解说话人识别系统的原理和发展现状；2）根据当前硬件平台条件，合理选择各个环节的数据规模，以达到质量与效率的协调；3)积极与指导老师和本课题组同学进行沟通与交流，密切关注本领域国内外研究进展，不断学习；4)更多地查阅相关资料，反复试验。五、工作计划及工作量序号阶段及内容工作量估计（时数）起迄日期阶段成果形式1）2）3）4）5）6）7）8）9)资料收集阶段系统总体设计方案论证比较实验环境的搭建基础程序设计与调试 程序算法的改进、调试程序仿真与结果统计总体分析，检验方案的实用性准备毕业论文答辩500小时400小时100小时500小时400小时400小时300小时600小时2010.72010.92010.102010.112010.1220011.120011.220011.420011.520011.620011.620011.720011.820011.920011.102011.122011.12收集相关资料研究算法改进的方案搭建标准方法的支持向量机说话人识别系统将改进算法融入系统中得到改进后的性能数据总体评价改进结果六、硕士学位论文选题报告评分表（见附表）七、评审小组组成：组成姓名职称研究方向签字组长成员八、评审意见评议组对选题报告的评价（包括选题、采用的科研手段及路线是否合理，难度是否适当，其理论及实践意义评价等）评议组审查结论（包括选题报告最后得分，以及选题是否通过等）评议组组长签字： 年 月 日学科（专业）所在分委会意见： 负责人签名：年 月 日附表: 硕士学位论文选题报告评分表评审项目权重评 分 标 准得分（百分制）一、选题依据（A）30%80100分选题有较强的理论意义、实用价值，深刻的学术研究内涵6079分选题有一定的理论意义、实用价值，有一定的学术研究内涵60分以下选题缺乏理论意义和实用价值二、理论基础和专门知识(B)20%80100分较好的掌握坚实宽广的理论基础和系统专业知识6079分基本的掌握坚实宽广的理论基础和系统专业知识60分以下未能掌握坚实宽广的理论基础和系统知识三、选题难度及先进性(C)30%80100分研究课题属本学科发展方向并居前沿位置，具有自己独特的思考、研究课题具有较强的先进性6079分研究课题属本学科的发展方向，并具有先进性60分以下研究课题与本学科的发展方向先进性不明显，难度欠佳四、文字表达（D）10%80100分条理清晰，分析严谨，文笔流畅6079分条理较好，层次分明，文笔较流畅60分以下写作能力较差五、口头报告(E)10%80100分报告严密、逻辑性强、表达清楚6079分基本概念清晰、层次分明。表达较清楚60分以下表达较差总分总分=0.3A+0.2B+0.3C+0.1D+0.1E备注：1.每位评审专家一张表格，只对五项指标每一项的最后一栏内打分（百分制），不必计算总分。2.开题报告最后得分根据每位评审专家打分的平均值计算，60分（含）以上为合格。附，文献综述：一、 选题依据：语音是实现人们之间沟通交流的最直接与方便的手段，语言作为人与外界交换信息的最方便最有效的工具，在人们日益扩大的交流中占据越来越重要的地位。而实现计算机与人之间畅通无阻的语音交流一直是人类不懈追求的一个梦想，语音信号处理则是实现这一梦想的关键性技术1。语音信号处理研究大体上可分为语音压缩编码、语音合成、语音识别和说话人识别四大分支2。其中，语音压缩编码是对语音信号进行压缩以便于语音的传输通信和保密；语音合成是模仿和代替人口的发音功能；语音识别系统则是模仿或代替人耳的听觉功能；说话人识别（Speaker recognition，SR）系统属于生物识别技术的一种，是一项根据语音波形中反映说话人生理和行为特征的语音参数，自动识别说话人身份的技术。与语音识别不同的是，说话人识别利用的是语音信号中的说话人信息，而不考虑语音中的字词意思，它强调说话人的个性；而语音识别的目的是识别出语音信号中的言语内容，并不考虑说话人是谁，它强调共性。现代数字通讯、多媒体系统、信息高速公路等技术的应用和发展，己经越来越深入地影响并改变着我们每个人地生活和工作方式，这同时也对语音信号处理的研究工作提出的更高的要求。说话人识别技术始于60年代。近40多年来，在这一领域取得了重大的进展。商用系统已经在很多领域得到应用。说话人识别可以分为两个范畴，即说话人辨认和说话人确认。前者是判断待识别语音是多个参考说话人中哪一个人所说，是一个多者择一的问题。而后者是判定待识别语音是否与某参考人相符，它只是一个肯定与否定的问题。说话人辨认系统在司法领域中可帮助对嫌疑人的查证。日本警方研究人员经过长期研究表明说话人识别可以作为可信的法庭证据来使用。说话人确认系统则更多地用在保安领域，如机密场所的进人控制，合法使用通信线路、机要设备的身份核查及电子银行转账业务的安全检查等。说话人识别是一个涉及多学科领域的技术，相信随着计算机、数学等领域的不断发展，一些高性能的说话人识别系统，必将出现在现实生活中。由于语音波形可以反映说话人生理和行为特征，我们称之为的语音参数。说话人识别技术可以提取这些语音参数，并根据这些参数自动识别说话人的身份。与指纹识别、虹膜识别等一样，说话人识别可以被广泛应用于各种需要身份认证的领域当中，如防盗门的开启认证、银行系统的身份认证、犯罪嫌疑人的查证、网络信息检索等。说话人识别的过程分为两个阶段。首先是学习阶段，需要一种手段处理来自不同说话人的语音参数，按一定方法“找到”并“记住”每个说话人之间的不同之处。然后是识别阶段，当得到一段未知身份的语音时可以凭借学习阶段的“记忆”来识别说话人的身份。支持向量机正是一种建立在统计学习理论基础上的一种通用学习方法。它具有保持经验风险固定而最小化置信范围的特点，相比其它学习手段（如基于贝叶斯判决的分类器或者神经网络分类器，）支持向量机可以解决局部极小点和过学习等问题，以便于正确地将每个说话人的语音特征进行分类。然而现在的说话人识别系统的正确识别率还不是很高，模型的训练速度也不尽人意。这都是当前说话人识别技术产品难以普及的重要原因。因此，本论文着眼于研究一种研究基于支持向量机的，能高速又能准确进行说话人识别的系统，这将具有较高的理论价值和广泛的应用前景。二、国内外研究概况：到今天语音信号处理已经有了几十年的历史，说话人识别方面也已取得了相当大的进展，而且在某些方面还有了重大的突破。但也存在着一些问题，需要在以后的研究中进一步深入研究。当前国内外的说话人识别主要有如下几种方法：1.模板匹配法： 即在训练过程中从每个说话人发出的训练语句中提取出能充分描述各说话人特性的特征矢量， 以此作为模板识别时， 对待识别语音用同样的处理方法提取识别摸板， 并且按一定匹配规则与所有的参考模板进行比较。其中最常用的方法是动态时间规整(DTW)法， 在动态时间规整的过程中，同时计算两个模板的距离测度并且形成判决函数。2.概率模型法：即训练过程中，在从某人的一次或多次发音中提取出有效的特征矢量的基础上，为其建立相应的模型，最后依靠得到的模型进行匹配，从而达到识别的目的。其中最常用的模型是隐马尔可夫模型(HMM)，它能根好的描述语音信号的平稳性和可变性， 能将人的声道特性用HMM比较准确描述出来。后来又发展出了混合高斯马尔科夫模型（GMM）它相当于多个但状态的HMM模型，可以忽略时间顺序直接对语音进行概率描述，所以适合用于说话人识别中。3.人工神经网络法：人工神经网络以类比于生物神经系统处理信息的方式用大量简单的处理单元并行连接而构成一种独具特点的信息处理系统。这种系统具有自组织、自学习的能力。它可以随着经验的积累而改善自身的性能。正是利用这一点人们能对它的训练， 更好地提取语音样本中所包含的关于说话人的特征。虽然这种方法具有较好的效果，但是该方法处理的硬件成本是非常高的，在当前条件下难以进行普及使用。4.支持向量机法：支持向量机是一种在统计学习理论基础上构造的一种通用学习机器，它对于有限样本下的模式识别中的一些根本性问题进行了系统的理论研究，并在此基础上建立了一种较好的通用学习算法。使得以往很多困扰机器学习等方法的问题，比如模型选择和过学习问题、非线性和维数灾难问题、局部极小点问题等，在该算法中都得到了很大程度上的解决。通过支持向量机训练算法可以对输入的语音特征样本进行学习，得到支持向量。以支持向量作为识别的依据，对待分类的语音特征样本进行分类。支持向量机的出色之处在于，其根据有限的样本信息在模型的复杂性(即对特定训练样本的学习精度，Accuracy)和学习能力(即无错误地识别任意样本的能力)之间寻求最佳折衷，以期获得最好的推广能力(Generalization Ability)。三、发展动态：如今，说话人识别技术己逐渐走入实际应用，AT&T应用说话人识别技术研制出了智慧卡(smart card)，已应用于自动提款机。欧洲电信联盟在电信与金融结合领域应用说话人识别技术，于1998年完成了CAVE(Caller Verification in Banking and Telecommunication)计划，并于同年又启动了PICASSO(Pioneering Call Authentication for Secure Service Operation)计划，在电信网上完成了说话人识别。同时，Motorola和Visa等公司成立了V-commerce联盟，希望实现电子交易的自助化，其中通过声音确定人的身份是此项目的重要组成部分。其他的一些商用系统还包括ITT公司的Speaker Key, Key ware公司的Voice Guardian .TNETIX公司的Speak EZ等。3国内开展说话人识别研究比较早的机构有北京大学、中科院声学所、中科院自动化所、清华大学等，并先后得到了国家自然科学基金重大和重点项目、攀登计划等基金的支持，取得了丰硕的研究成果。尽管说话人识别技术已取得了相当大的进展，但是也有着很多问题使得说话人识别技术在走入实际应用的路上还有很多荆棘。例如：目前尚未找到简单可靠的说话人语音特征参数，语音信号中既包含了讲话内容的语义信息，又包含了说话人发声特征的个性信息，是语音特征和说话人特征的混合体，到目前为止，还没有很好的方法将说话人的个体特征从语音特征中分离出来，也没有找到简单的声学参数够可靠地识别说话人。还有语音信号的变异性，即使对同一说话人和同一文本，语音信号也有很大的变异性。说话人的语音特征不是静态的、固定不变的。它具有时变特性，并常常与说话人所处的环境、情绪、健康状况有密切关系，会随着时间的推移和年龄的变化而变化。另外传输语音的通信信道的时变效