特征提取与模型训练.doc

特征提取与模型训练模块文档概述声学模型的好坏与识别结果好坏密切相关，本文简单介绍声学模型训练模块的核心技术。包括（1）特征提取和（2）模型训练两部分。特征提取采用美尔频率听感线性预测系数（MF-PLP），模型训练采用嵌入式BawnWelch重估和基于决策树分裂的聚类方法。第一部分 美尔（Mel）频率听感线性预测特征MF-PLPMF-PLP是综合了Mel频率，听感响度，线性预测三种技术的混合特征。今日的MFCC在语音识别领域已经无人不知无人不晓，采用MFCC+MFCC+MFCC特征参数已经成为语音识别领域的通用模式。它的成功在于它采用了Mel刻度，这种刻度更加符合人耳对音高的感知。人耳对Hz刻度的感知不是线性的，而是近似的对数曲线，音乐上每升高8度音，频谱大概翻一番，人们很容易控制和感知频率的翻倍，但是却很难把握频率到底增减多少个Hz。Mel刻度是对Hz刻度的一种弯折，经过Mel弯折之后，人耳感知的音高变化量，和Mel刻度的变化量是一致的。因此MFCC具有比其他系数更好的性能。图一左图给出的是Mel刻度和Hz刻度的对应关系，右图给出的是Mel刻度上的等距离滤波窗对应于Hz刻度的非线性滤波窗。图一 Mel刻度和Hz刻度的关系图二 听感响度曲线（北京大学、沈炯 教授制作）声学特征与听感相一致是非常重要的，MFCC考虑了听感音高与人耳的感知的非线性关系，实际上人耳对音强的感知也是非线性的。早在1933年，Zwicker等人就研究了白噪音掩蔽现象，并用大量数据测量描绘出人耳对音强感知的听阈曲线和痛阈曲线。图二给出了人耳对不同频率不同音量的感知关系，可以看出，听感强度和实际强度是非常不一致的，这就为特征的进一步优化提供了可能。中科院自动化研究所所采用的MF-PLP特征，结合了这两者的优点，既考虑到听感音高的非线性性，又考虑到听感音强的非线性，对频率轴和振幅轴经过非线性变换，得到更加接近人耳听觉的特征，从而具有更好的性能。美尔频率听感线性预测特征提取算法如下：第一步、对频谱进行美尔频率非线性压缩，得到各个滤波器组其中b表示第b个美尔频段。Hb(k)是根据听感响度设计的滤波窗，如图：第二步、对各个滤波器组输出求三次方根，得到响度Y(b) = S(b)0.33第三步、对响度进行福利叶反变换，得到听感自相关曲线第四步、提取线性预测系数第五步、由线性预测系数计算预测倒谱这样提取出来的倒谱称为MF-PLP，比MFCC有更好的性能。第二部分 基于决策树分裂的聚类和BawnWelch重估协同发音是非常普遍的发音现象，同一个音素受到不同上下文影响，会产生不同的变异，因此单音子建模是不够精细的，通常需要加上上下文信息，形成三音子，这样模型个数迅速增多，一方面，识别的时候需要很大的语料库来训练，另一方面，识别的时候拖慢识别速度。L.R.Bahl等人提取决策树理论和语音学知识相结合的方法进行声学建模，至今已经成为语境相关的声学建模的主要技术之一。它的思想是比较接近的音放在一起，希望这些音可以共享同一个模型。决策树把所有可能共享的音放在同一个共享池中，通过问题集一个个提问，如果分裂带来的增益高于给定的阈值，才按照问题把共享池一分为二，不断轮询直到没有任何共享池能够分裂为止，此时同个共享池中的模型将共享同一批训练数据，训练结果也共享同一个模型，如果阈值设置合理，不但能减少训练数据量，同时还能提高识别率。图三 决策树示意图Bawn Welch重估算法是非常经典的声学模型训练方法。为了计算方便通常假设语音特征的分布是高斯混合模型，于是模型观测到Ot的概率密度可以采用如下公式计算：其中bj(Ot)表示t时刻模型处在j状态的概率密度，每个状态都是高斯混合模型，需要混合权重c，均值和协方差矩阵三个参数来确定，重估方法如下：其中为了计算j(t) 通常采用下面的前向-后向算法：则：上面重估了单个模型的参数，模型间的转移关系，可以用下面方法重估：重任何一个初始值出发，经过若干次叠代之后，模型收敛到一个不动点，此时重估模型完毕，得到最终的声学模型。参考文献：1 Florian etc., Revising Perceptual Linear Prediction (PLP), InterSpeech 20052 Zwicker & Fastl, Psychoacoustics, Springer, 19993 吴宗济等，实验语音学概要，高等教育出版社4 Young etc., HTK book, Revised for HTK Version 3.3 April 20055