（控制理论与控制工程专业论文）基于kalman滤波去噪的语音盲分离的研究.pdf

武汉科技大学 研究生学位论文创新性声明 本人郑重声明：所呈交的学位论文是本人在导师指导下，独立进行研 究所取得的成果。除了文中已经注明引用的内容或属合作研究共同完成的 工作外，本论文不包含任何其他个人或集体已经发表或撰写过的作品成果。 对本文的研究做出重要贡献的个人和集体，均已在文中以明确方式标明。 申请学位论文与资料若有不实之处，本人承担一切相关责任。 论文作者签名：乏丝荦 日期：盈垒望! 墨国 研究生学位论文版权使用授权书 本论文的研究成果归武汉科技大学所有，其研究内容不得以其它单位 的名义发表。本人完全了解武汉科技大学有关保留、使用学位论文的规定， 同意学校保留并向有关部门( 按照武汉科技大学关于研究生学位论文收录 工作的规定执行) 送交论文的复印件和电子版本，允许论文被查阅和借阅， 同意学校将本论文的全部或部分内容编入有关数据库进行检索。 论文作者签 指导教师签 日 武汉科技大学硕士学位论文 第1 页 摘要 盲源分离( b l i n ds o u r c es e p a r a t i o n ，b s s ) 属于信号处理中需要解决的一个问题，是2 0 世纪9 0 年代兴起的一个研究热点，它指的是在对源信号和传输通道几乎没有可以利用的 信息的情况下，仅从观测到的混合信号中提取或恢复源信号的过程。由于先验信息没有或 者很少，使得它在很多用传统的信号处理方法无法解决的领域中应用广泛，比如：生物医 学，雷达与通信，数据挖掘，语音与图像分析，气象分析，地震勘探等。 由于实际应用中源信号中还会或多或少地存在各种各样的噪声，因此解决噪声环境下 信号的盲源分离，将人大扩展盲源分离的应用范围。本文正是基于这一思想，研究了噪声 环境下语音信号的自源分离。 本文的主要方法是在进行盲源分离之前进行一次滤波，以达到增强语音信号，削弱噪 声的目的，滤波采用的是k a l m a n 滤波方法；再分别使用j a d e 算法( 联合近似对角化算法) ， f a s t i c a 算法( 快速独立分量分析算法) 分离混合信号，这两种算法属于目前比较成熟的算 法，已经j “为使用并得到了认可。然后使用m a t l a b 设计了一个g u i ( g r a p h i c a lu s e r i n t e r f a c e s ，图形用户界面) 以直观地演示整个过程。并对分离后的语音信号进行了鲁棒特征 提取( 主要为m f c c 特征) ，根据结果比较了两种算法的分离性能。 通过对整个系统的设计与仿真，较为精确地研究了噪声存在环境下的语音信号的盲源 分离，对盲源分离以后的应用与研究有重要的意义。 关键字：盲源分离，语音信号，滤波，g u i ，鲁棒特征 第1 i 页武汉科技大学硕士学位论文 a b s t r a c t b s s ( b l i n ds o u r c es e p a r a t i o n ，b s s ) i sa nu n s o l v e dp r o b l e mo fs i g n a lp r o c e s s i n gw h i c ho n l y r i s ei n19 9 0 s i tm e a n st h ep r o c e s so f e x t r a c t i n go rr e c o v e r i n gs o u r c e sf r o mt h eo b s e r v e dm i x e d s i g n a l sw i t h o u ta n yp r i o rk n o w l e d g eo fs o u r c e so rt h ec h a n n e l d u et ot h a t ，i ti sw i d e l ya p p l i e di n t h ef i e l d sw h i c hc o u l d n th a v eag o o ds o l u t i o ni ft h et r a d i t i o n a ls i g n a lp r o c e s s i n gm e t h o d sa r e u s e d ，s u c ha sb i o m e d i c i n e ，r a d a ra n dc o m m u n i c a t i o n ，d a t am i n i n g ，s p e e c hs i g n a la n a l y s i sa n d i m a g ea n a l y s i s ，m e t e o r o l o g i c a la n a l y s i s ，s e i s m i ce x p l o r a t i o n ，e t c b e c a u s es o u r c es i g n a l sm a yc o n s i s to fv a r i o u sn o i s e sm o r eo rl e s si nt h e p r a c t i c a l a p p l i c a t i o n , i tw i l le x t e n dt h er a n g eo ft h ea p p l i c a t i o ni fb s sc a nw o r kw e l lu n d e rt h en o i s y e n v i r o n m e n t b a s e do nt h i s s i t u a t i o n ，t h et h e s i s d i ds o m er e s e a r c ho n s p e e c hs i g n a l s b l i n d s e p a r a t i o nu n d e rt h en o i s ye n v i r o n m e n t t h et h e s i s sm a i nm e t h o dw a st h a t ：t h es i g n a l sw e r ef i l t e r e db e f o r eb s s ，f o rt h ep u r p o s eo f e n h a n c i n gt h es p e e c hs i g n a l sa n dw e a k e n i n gt h en o i s e s ，t h ef i l t e rw a sak a i m a nf i l t e r t h e nj a d e a l g o r i t h m ，f a s t i c aa l g o r i t h mw e r eu s e dt os e p a r a t et h em i x e d s i g n a l s t h et w oa l g o r i t h m sa r e r e l a t i v e l y m a t u r e a l g o r i t h m sw h i c ha r eu s e dw i d e l ya n da c k n o w l e d g e d a f t e rt h a t , a g u l ( g r a p h i c a lu s e ri n t e r f a c e s ) w i t hm a t l a bw a sd e s i g n e dt op e r f o r mt h ep r o c e s sd i r e c t l y a t l a s t ，r o b u s tf e a t u r e sw e r ee x t r a c t e df r o mt h eu n m i x e d s i g n a l s ，t h e nt h et h e s i sc o m p a r e dt h et w o a l g o r i t h m s ss e p a r a t i o np e r f o r m a n c ea c c o r d i n gt ot h er e s u l t s t h et h e s i sd i ds o m ea c c u r a t er e s e a r c ho ns p e e c h s i g n a l sb l i n ds e p a r a t i o nu n d e rn o i s y e n v i r o n m e n tb ym e a n so f d e s i g n i n ga n ds i m u l a t i n gt h es y s t e m ，w h i c hw o u l db ev e r yu s e f u lt ot h e l a t ea p p l i c a t i o na n dr e s e a r c ho fb s s k e y w o r d s ：b l i n ds o u r c es e p a r a t i o n ，s p e e c hs i g n a l ，k a l m a nf i l t e r ，g r a p h i c a lu s e ri n t e r f a c e s ( g u l ) ， r o b u s tf e a t u r e 武汉科技大学硕士学位论文第1 i i 页 目录 摘要i a b s t r a c t i i 第一章绪论1 1 1 本文研究背景及意义1 1 2 盲源分离的研究现状l 1 3 语音信号盲源分离的应用2 1 4 本文主要内容及结构安排2 第二章语音特性及盲源分离基础4 2 1 语音信号的特性4 2 2 盲源分离和独立分量分析的数学模型和原理6 2 3 盲源分离的各种思想与方法8 2 3 1j a d e 算法9 2 3 2f a s t i c a 算法9 2 3 3i n f o m a x 算法1 0 2 4 本章小结1 0 第三章k a l m a n 滤波作为盲源分离预处理过程的研究l l 3 1 噪声特性l l 3 2 语音增强理论1 1 3 3k a l m a n 滤波理论1 l 3 4 语音的动力学建模1 3 3 5 基于k a l m a n 滤波使语音增强的盲源分离的研究1 4 3 6 本章小结1 5 第四章实验系统的设计与实现1 6 4 1 软件部分1 6 4 1 1 噪声的生成1 6 4 1 2 语音k a l m a n 滤波器的m a t l a b 实现1 6 4 1 3 两种算法的m a t l a b 实现( j a d e ，f a s t i c a 算法) 1 9 4 2 硬件部分2 0 4 3 本章小结2 2 第五章实验结果的分析2 4 5 1 实验及结果分析2 7 5 2 实验二及结果分析2 8 5 3 实验三及结果分析2 8 5 4 实验四及结果分析2 9 5 5 实验五及结果分析2 9 第1 v 页武汉科技大学硕士学位论文 5 6 本章小结3 0 第六章总结与展望3 1 6 1 总结3 1 6 2 展望3 l 参考文献3 2 致谢3 5 附录攻读硕上期间发表的论文3 6 武汉科技大学硕士学位 沦文第1 页 1 1 本文研究背景及意义 第一章绪论 从事信号处理研究工作的人员经常会遇到这样的一种情况，即需要从多个源信号的混 合信号中提取出有用的某一个或某几个源信号，这是一个信号混合的逆过程。在很长一段 时间内，人们只是停留于传统的信号处理方法而无能为力。直到2 0 世纪9 0 年代出现了“盲 源分离”嘲嘲 4 的技术，它指的是在对源信号和传输通道的先验信息没有或很少的情况 下，仅仅由观测到的混合信号来提取或恢复源信号的过程。盲源分离最典型的一个例子是 “鸡尾酒会问题”：在一场热闹非凡的鸡尾酒会 ：，每个人都夸夸其谈，各种声音混合在 一起，人们似乎总能不受其它声音的影响而与自己的朋友交谈。这是盲源分离问题在语音 信号领域的一个体现，也说明人耳和大脑在分辨和提取有用信息上存在某种特殊机理而不 为人知，语音信号的盲源分离止是实现这一机理的技术。 盲源分离这一技术到现在有了十几年的历史，人们对盲源分离的研究也只趋深入，方 法多种多样，包括人工神经网络，统计信号处理，信息理论等，目的都是为了更好地实现 盲源分离。并且已经衍生出了像盲辨识( b l i n di d e n t i f i c a t i o n ，b i ) ，盲均衡( b l i n d e q u a l i z a t i o n ，b e ) ，盲源分离( b l i n ds o u r c es e p a r a t i o n b s s ) ，盲抽取( b l i n de x t r a c t i o n ，b e ) ，独 立分量分析( i n d e p e n d e n tc o m p o n e n ta n a l y s i s ，i c a ) 等分支。然而在实际应用中对于一些噪 声环境下的盲源分离问题，仍然没有取得很好的效果，原因是盲源分离依赖于一些算法， 这些算法在纯语音模型并且没有t 扰的环境下可能效果还好，但如果加入噪声，将影响这 些算法的鲁棒性，从i m 降低性能。那么如果解决了这一问题，将对语音信号的盲源分离产 生巨大的作用，极大地拓展它的应用前景和范同。本文正是基于此，对于噪声环境下的语 音信号的肓源分离做了一些研究。 1 2 盲源分离的研究现状 1 9 8 6 年4 月1 3 日1 6 日，法国学者j e a n n yh e r a u i t 和c h r i s t i a nj u t t e n 在美国犹他州举 行的n e u r a ln e t w o r kf o rc o m p u t i n g 会议上作了一篇题为s p a c eo rt i m ea d a p t i v es i g n a l p r o c e s s i n gb yn e u r a ln e t w o r km o d e l s ) ) 的研究报告，这一开创性的论文揭开了盲源分离问题 研究的序幕。接着19 91 年，j h e r a u l t 和c j u t t e n ，e s o r o u c h y a r i ，p c o m o n 在s i g n a lp r o c e s s i n g 卜发表了关丁肓信号分离的三篇经典文葶，标志着肓源分离研究取得了重大进展。从那以 后，盲源分离进入了百家争鸣的时期。1 9 9 2 年，g b u r e l 得出了用b p 神经恻络实现线性和 非线性混合信号盲分离方法。1 9 9 4 年，p c o m o n 将主分晕分析p c a ( p r i n c i p l ec o m p o n e n t a n a l y s i s ) 加以扩展变为i c a ，以提取线性混合量中的独立成分。1 9 9 5 年，a j b e l l 和 t j s e j n o w s k i 发表了i c a 发展史中的里程碑文献，他们用神经网络的非线性特性) k 消除观 测信号中的高阶统计关联，并将盲分离问题归入信息论的框架卜，用信息最人化准则建立 目标函数。1 9 9 6 年，c a r d o s o 和l a h e l d 提出了i c a 学习算法中的“相对梯度”，“等变化性” 和有关“稳定性”及“分离精度”等的重要思路和方法。1 9 9 9 年在法国的a u s s o i s 成功召 第2 页武汉科技大学硕士学位论文 开了第一届“独立分量分析与盲信号分离”国际学术会议( i n t e r n a t i o n a ls y m p o s i u mo n i n d e p e n d e n tc o m p o n e n ta n a l y s i sa n db l i n ds i g n a ls e p a r a t i o n ) ，此后在芬兰的赫尔辛基，美国 加洲圣迭戈，日本奈良，西班牙的格拉纳达相继召开。目前活跃在国际上的盲源分离问题专 家有：美国的s a l ki n s t i t u t e s 神经实验室的s e j n o w s k i 和b e l l ，t - i 本学者a m a r i 和c i c h o w s k i ， 芬兰学者o j a ，法国学者c o m o n 和c a r d o s o 等。 国内的研究则相对较晚，关于盲源分离的专家与著作有：周宗潭，董国华，徐昕，胡 德文等的译作独寺分量分析( 原作者为芬兰的h y v a r i n e n ，k a r h u n e n ，o j a ) ，马建仓，牛奕 龙，陈海洋的盲信号处理，张发启，张斌，张喜斌的盲信号处理及应用，以及清华 大学的张贤达教授和杨富生教授的一些著作。 总的来说，按照研究的信号的平稳性，先后经历了以平稳信号为研究对象的盲分离和 以非平稳信号为研究对象的盲分离的阶段。按照信号的混合方式不同，又分为瞬时混合的 盲分离和卷积混合的盲分离。本文的研究对象为语音信号( 非平稳的信号) 的瞬时混合。 1 3 语音信号盲源分离的应用 盲源分离可以应用于心电图( e c g ) 分析，脑电图( e e g ) 分析，机械故障检测等。 而语音信号的盲源分离可以使手机在噪声下增强通话质量( 因为。口j 以把噪声当成一个源信 号，而在分离后屏蔽掉) ；可以运用理论设计语音硬件芯片；在军事通信，语音识别，语 音增强中均可应用；由于盲源分离可以分离信号，故可用，r 语音滤波；还可以用。j ：语音密 码的解密。 1 4 本文主要内容及结构安排 本文丰要对噪声环境下的盲源分离进行了深入的探讨，并进行了实验。实验流程如图 1 1 所示。 ll 棍竺人、? 一囊藿卜 d t u b s s 口 n f c c i 一障， ， 持筵 ld t 提取 图1 1 实验流程图 首先是混合了信号，再对混合信号进行了滤波。接着用两种不同的肓源分离算法进行肓 分离，分离后进行了鲁棒特征提取( 主要为m f c c 特征) ，并用d t w 算法对特征进行了定 量的分析，最后得出结论。 全文共分为五个部分，内容如下： 第一章：绪论部分，介绍了旨源分离的研究和应用情况。 第二章：前面介绍了语音信号特性，后面介绍了盲源分离的原理和数学模型，以及常用 武汉科技大学硕士学位论文 第3 页 的3 种算法。 第三章：介绍了k a i m a n 滤波用于语音去噪的卡目关理论。 第四章：实验系统的设计与实现，包括软件部分和硬件部分，然后分别进行了5 组实验， 得到了实验数据，并且编写了程序。 第五章：实验结果的分析，对实验数据进行了定量的分析。 第六章：总结了全文，并对卣源分离的发展进行了展望，提出了设想。 第4 页武汉科技大学硕士学位论文 2 1 语音信号的特性 第二章语音特性及盲源分离基础 语音 5 】 6 】 7 是语言的声学表现。是由人类发音器官发出的带有意义的声音。语音有它的 规则性，也有它的不规则性，它是一种特殊的声音。从它的物理属性来看，它与其它的声 音都有音质，音调，音强，音长等特性。从频域来看，人类的听域频率在2 0 - 2 0 0 0 0 h z 范 围内，而发音频率在3 0 0 3 4 0 0 h z 范围内，其中男性的发音频率低，女性的发音频率高。从时 域来看，是一段杂乱的正弦波，如图2 1 。幅频图如图2 2 所示。 网2 1 一段语音的波形图 图2 2 一段语晋的幅频图 从它的统计特性来看，语音可以看做是一个遍历性随机过程的样本函数，可以 j 它的 幅度的概率密度函数和一些其它量来描述，较好的是修正伽玛概率密度分布和拉普拉斯分 布，高斯分布的近似性较差。从语音的内容来看，分为清音和浊音，由声，特振动产生的音 统称为浊音，不由声带振动产乍的音统称为清音，浊音包括所有的元音和一些辅音，清音 则包括另一部分辅音。 武汉科技大学硕士学位论文第5 页 0 0 l 0 臼。磅o l h删搿 羁蒸轻黪托二。曼 孝。 繇寝凑：囊 图2 3 三种概率密度分布 以垆券前修正伽玛概率密魔 汜。， 忍( 力= 0 5 a e - “7 ( z 印肠硼布) ( 2 2 ) 同时语音也有它的不规则性，这是由它的产生机理决定的，因为它是由人类的发音器 官发出，发音器官的构造不是机械的，不变的，而是有很人的随机性，不稳定性，可以说语 音信号是一种非平稳，时变的信号。为了分析语音这种复杂信号，人们往往采集- - d , 段语 音，时间约为l o 3 0 m s ，人的肌肉运动的惯性使语音在这段时间内能够保持稳定，即短时 平稳。对这段信号我们可以进行短时能量分析，短时过零率分析，短时相关分析等，这些分 析都具有很好的可计算性。2 0 世纪4 0 年代美国贝尔实验室还发明了一种语谱图( 分析语 音的短时谱) ，如图2 4 所示，纵坐标为频率，横坐标为时间，相当于一种动态的频谱。 图2 4 一段语音的语谱图 语音过程可以看成是一个时间序列，用a r 模型来农示1 8 1 1 9 1 1 1 0 1 ，但是两个语音的混合模 型有些变动，现分析如下： 设有两个独立的语音过程，a r ( p 1 ) 和a r ( p 2 ) ，它们的和般不为a r 模型了，而是 a r m a 模型。现证明如下： 对于语音序列1 ，其谱密度为： 肿) - 鲁南 汜3 ) 第6 页武汉科技大学硕士学位论文 对于语音序列2 ，其谱密度为： 则两者的混合信号的谱密度为： 可以写成石0 2 1 2 矿枞i 。矿胤f 2 删5 瓦0 2 2 阿1 ( 2 4 ) ( 2 5 ) 的形式。而这是a r m a 形式的谱密度，所以混合序列一般为a r m a ( p ，q ) 序歹0 。p = p l + p 2 ，q - - m a x p l ，p 2 。 但是在特殊情况下，若x ( n ) 和y ( n ) 协方差函数b 满足， 嚷忍仞一后) = o ，刀l ，么毋( | 7 一句= o ，j ，7 l k = ok = o 则z ( n ) = x ( n ) + y ( n ) 的协方差函数满足： 吒屡( 刀一后) = o ，厅l ( 2 6 ) ( 2 7 ) 此时混合序列仍为a r 序列。对于实际情况下，可以用更高阶数的a r 序列来近似a r m a 序列。 2 2 盲源分离和独立分量分析的数学模型和原理 考虑房问内的两个人聊天的情形( 人数可以任意) ，用两个不同位置的麦克风记录的信号 x i ( t ) ( i = l ，2 ) 为两个语音信号s 。( t ) ( i _ l ，2 ) 的线性加权和，即 l ( 力= q l 戈( ，) + a j 2 是( ，) 【吒( ) = a 2 1 玉( ) + 呸2 墨( ) ( 2 8 ) 式中，a u ( i , j - - 1 ，2 ) 为权系数，它取决于麦克风位置及其与说话者之问的距离。理论上源信号 与混合信号还有一个时延r ( 卷积混合) ，但是如果测距很小使得时延r 近似为0 时，可以 当成是“瞬时混合”的情形。盲源分离就是在不知道s i ( t ) ( i = l ，2 ) 的情况下，仅由观测到的 x i ( t ) ( i = l ，2 ) 来估计s i ( t ) ( i _ l ，2 ) 的过程。而我们通常所说的i c a ( 独立分量分析) 与盲源分离 有所区别也有所相似。相似的地方在它们都有相似的原理和相似的算法 1 1 1 2 ，在很多情 况下是通用的；区别在于i c a 有它的假设条件，即： ( 1 ) 各个源信号s i ( t ) ( 1 ，2 ) 都是0 均值的实随机信号，且在任意时刻均相白：统计独立。 商 ：上万一一勿 齑 2。一万1 3 2 武汉科技大学硕士学位论文 第7 页 ( 2 ) 源信号数目与观测信号数目( 即，f 冬感器个数) 相等，混合阵a 是 阶未知方阵。 彳= 畿 个实际可实现的n * n ( 2 9 ) ( 3 ) 只允许一个源信号s 服从高斯分布。 ( 4 ) 各传感器引入的噪声很少，可以忽略不计。 只有满足卜面4 个条件的b s s 才足i c a 。i c a 只足实现b s s 的其中一种，而b s s 比i c a 的适用范围更宽。 求解整个i c a 的示意图如下图2 5 所示，即经历了两个阶段，左边的混合与右边的分 离。信号波形变化如图2 6 所示。 图2 5i c a 示意图 嬲搿黼删楠神删v 撕 喇肿蝴v 帆- - u m 叫- - i 图2 6i c a 波形示意图 很明显混合过程是x = a s ，而分离过程是找剑w 使得u = w x ，其中u 为s 的估计。能够 实现盲源分离的一般是一些预处理过程和一些后续算法。预处理是盲源分离获得成功的重 要一环，预处理的方法一般有白化( w h i t e n ) ，中心化( c e n t e r i n g ) 等。 白化是一个在旨分离算法中经常用到的预处理方法，对于某些算法，白化还是一个必 须的过程。白化的过程是进行一个线性变换z = w x ( 其巾w 为白化矩阵) ，使所得的新向 量z 之间1 i 相关，即z 的协方差矩阵为单位阵，r ：= e z 宰z t = i 。白化后的信号去除了各个 分量之间的相关性，分量之间二阶统计独讧。 而中心化可以去除信号的均值。设x 为均值非0 的随机变量，只需要用 第8 页武汉科技大学硕士学位沦文 z = z 一以力 ( 2 1 0 ) 来计算i p - j 。在实际中，通常用算术平均值来代替e ( x ) 进行运算。 然而本文针对实际的实验环境，提m 用卡尔曼滤波器来进行预处理的大部分工作。本 文的实验条件是噪声环境卜的语音盲源分离，而且噪声的强度不小。此时模型变为， x = a ( s + n ) = h s + h n ，其中n 为和源信号同时输入的噪声分量( 噪声选为0 均值的高斯白噪声) 现在预处理工作变为了滤掉a n 分量，使得x 得到增强，并最大近似为a s 。 2 3 盲源分离的各种思想与方法 盲源分离算法的基本思想是建立日标函数以寻优来实现逼近，因此算法主要包括两个 方面：建立目标函数( 优化判据) 和寻优算法。优化判据函数可以是对比函数( c o n t r a s t f u n c t i o n ) ，代价函数( c o s tf u n c t i o n ) ，目标函数( o b j e c t i v ef u n c t i o n ) ，损失函数( l o s s f u n c t i o n ) ，以及风险函数( r i s kf u n c t i o n ) 等。这几种函数紧密相关，甚至可以相互替代 目前的盲源分离方法丰要是基于高阶统计和信息理论的方法。 现在的大多数信号处理方法都是基于二阶统计的，对高斯信号来说，不相关和独立是 等价的；但对于非高斯信号来说，独立比不相关更强，它意味着包含二阶统计在内的所有 更高阶统计上相互独立。为了解决b s s ，人们发展了高阶统计的方法【1 3 】1 1 4 】( 一般是四阶) ， 代表算法是c a r d o s o 得出的基于四阶累积量的联合对角化( j o i n ta p p r o x i m a t e d i a g o n a l i s a t i o no fe i g e n - m a t r i c e s ，j a d e ) 算法。 同时，人们也开始使朋人工神经网络的方法( 即信息理论) 来研究b s s ，并主要分为 三个方向：最大信息传输( i n f o r m a t i o nm a x i m i z a t i o n , i n f o r m a x ) ，最大似然估计( m a x i m u m l i k e l i h o o de s t i m a t i o n , ，m l e ) ，输出互信息最小化( m i n i m u mm u t u a li n f o r m a t i o n ，m m i ) b s l 1 6 1 b r i 。 ( 1 ) 信息最大化算法 利用信息最大化原理进行盲源分离就是最大化输出熵，所以又称最大熵( m a x i m u m e n t r o p y , m e ) 。对一单层线性前馈神经网络，简单的最大化将使输卅熵发敞至无穷。实际中 是最大化经过非线性结点输出u ( t ) = g ( y ( t ) ) = g ( w x ( t ) ) 的熵。因此准则函数定义为， 饥( i 1 ) = 职功= 川反蚴) ( 2 1 1 ) 式中，h ( u ) 为微分熵。 g ( y ) 】, - g ( y i ) 为非线性函数，它将一实数映射到区间【0 ，l 】，并且为 单调升函数。当源分离得以完全实现时，它就应该是源分量的概率分布函数。对w 最大化， 可得权系数( 分离阵) 的更新规则： a w o c ( ) 一咖( 力】 ( 91 9 ) 其中，中( y ) 为一梯度欠量。 ( 2 ) 最大似然估计算法 利用已经获得的观测样本来估计样本的真实概率密度p ( x ) ，给定参数欠量0 ，通过某一 武汉科技大学硕士学位论文第9 页 准则获得的估计密度p ( x ，0 ) 充分逼近真实密度p ( x ) 。可以用测度两个概率密度之间距离 的k u l l b a c k l e i b l e r 散度k ( i | ) 作为优化准则。考虑到x ( t ) = w - l y ( t ) ，这一准则可以用 如下似然函数表示： n ，( 彬p ) = - l g i 吲一i g 触；9 ) 一i( 2 1 3 ) 该准则与最大熵准则有类似的形式，所不同的是最大似然准则的出发点是已知的观测样本， 而且作为输出概率密度函数的估计。 ( 3 ) 基于最小互信息算法 a m a r i 等将网络输出各个分量的互信息作为盲源分离的判据，得到一种自适应训练规 则。算法巾利用概率密度的g r a m c h a r l i e r 展开来逼近各输出分量的边缘概率密度函数，并 引入了自然梯度( 相对梯度) 以提高训练效率和改善算法收敛性能。 根据香农信息理论关于互信息的定义，考虑到线性关系y ( t ) = w x ( t ) ，可得基于最小互信 息的准则函数： n 锄( 叨= h ( y , ) - l gl d e t ( 歹) i - h ( x ) ，_ i ( 2 1 4 ) 该式的最小化得到分离矩阵w ，使y ( t ) 趋于独立。 从意义上分析，上述三种方法没有本质的区别，可以在信息理论的框架下进行统一。 2 3 1 , j a d e 算法 j a d e 盲分离算法 1 8 1 1 1 9 1 1 2 0 是c a r d o s o 于1 9 9 3 年提出的，该算法是根据四阶累积量的代 数性质而来。网阶累积晕相比j ：阶累积晕有一些重要的性质，比如四阶累积晕对加性高斯 噪声不敏感；四阶累积量能够提供信号的相位信息，而二阶累积量只能提供幅度信息。其 算法的原理足先通过白化处理变换信号，利用变换后的信号的网阶累积量的性质求出分离 矩阵w 。该算法的好处是不存在收敛问题，缺点是运算量大，因为需要计算四阶累积量。j a d e 算法实质是一个h e r m i t e r 矩阵的联合近似对角化问题。算法的步骤为： 1 求出观察信号的协方差r x ，并计算一个白化矩阵w ； 2 求出白化信号的四阶累积量，并计算两个特征值； 3 用一个酉矩阵u 把特征值集合联合对角化； 4 计算a 的估计值a = w * u 。 2 3 2f a s f i c a 算法 f a s t i c a 算法，又称为固定点算法，是由芬兰赫尔辛基大学h y v a r i n e n 等人提出米的， 是一种快速的寻优迭代法，具有被称为日前最快的收敛速度，它本质上是一种神经网络算 法。它有很多形式，比如基于峭度，基于似然最大，基于负熵最大等等。这些形式上的差 第1 0 页武汉科技大学硕士学位论文 异体现在对比函数的不同。f a s t i c a 算法的学习规则是找到一个方向使得w r x 有最大的非 高斯性，其过程是通过优化一个目标函数得到的。f a s t i c a 的一个特点是能够在算法中用紧 缩办法一次提取一个源信号。同时f a s t i c a 算法在迭代中存在收敛问题。算法的步骤为： 1 将数据中心化： 2 白化信号； 3 估计源信号个数m ； 4 选择一个初始权向量w p ； 5 迭代至收敛。 2 3 3l a f o m a x 算法 i n f o m a x 算法是基于信息论的一种典型算法，由b e l l 和s e j n o w s k i 于1 9 9 5 年首先提出， 又称为最人熵( m a x i m u me n t r o p y - m e ) 算法。该算法是一种最大化信息学习算法，主要思 想是神经处理器的最大化输出熵能够使输出分量的互信息最小。选择不同的对比函数有不 同的学习规则，它也是一种迭代算法，存在收敛性的问题。算法的步骤为： 1 给出一个初始值w 0 ； 2 对x 进行白化处理； 3 迭代处理计算w 直到收敛； 4 计算w 0 + w 。 2 4 本章小结 本章首先阐述了语音信号的各种特性，包括语音信号的时域特性，频域特性，语音信 号的数学模型，然后介绍了盲源分离的原理和模型 2 1 2 2 | ，再说明了实现盲源分离的一些 预处理方法和算法，为后面的实验提供了理论基础。 武汉科技大学硕士学位论文第11 页 3 1 噪声特性 第三章k ai m a n 滤波作为盲源分离预处理过程的研究 噪声看似杂乱无章，但是也有一定的规律。在实际中应用较多且比较好处理的噪声有 如下几种： ( 1 ) 高斯噪声：所谓高斯噪卢是指它的概率密度函数服从高斯分布( 即正态分布) 的一类 噪声。 ( 2 ) 白噪声( w h i t en o i s e ) ：白噪声是指功率谱密度在整个频域内均匀分布的噪声，即对于 所有频率具有相同能鼍。用数学的观点来说就足谱密度函数为常数的一个随机序列。实际 中是不可能存在的，只能近似地处理。证明如下： 对于谱密度函数为r 的序列，其协方差函数为： d f ) = i “r d t = 2 a m ( t ) ( 3 1 ) j 而方差为c ( o ) ，可以看出方差为无穷大。这在现实中是不可能的。 ( 3 ) 高斯白噪声：如果一个噪声，它的幅度分布服从高斯分布，而它的功率谱密度又足均 匀分布的，则称它为高斯白噪声。高斯白噪声中的高斯是指概率分布是止态函数，而白噪 声是指它的二阶矩不卡甘关，一阶矩为常数。这是它的两个方面。 本文选择的噪声为0 均值的高斯白噪声。 3 2 语音增强理论 语音增强 2 剐 是解决噪声污染的一种有效方法，现在已经成为了一个专门的理 论。语音增强就足从带噪语音中提取出尽可能纯净的语音以供后续的处理。设 y ( n ) = x ( n ) + d ( n ) ( 3 2 ) 即从y ( n ) 中滤除d ( n ) 。然而对于不同的噪声d ( n ) ，不同的混合方法难以找到一种万能 的方法来增强语音。目前存在的增强方法有：滤波器法( 1 9 7 8 年l i m 和o p p e n h e i m 提出 了基于维纳滤波的语音增强的方法，随后1 9 8 7 年p a l i w a l 将卡尔曼滤波方法用于语音增 强) ，减谱法等等。其巾滤波器法可以滤除的噪声主要为周期噪声，而减谱法可以滤除的 噪声主要为宽带噪声，对于带有乘性噪声等的情况则比较困难。本文实验中的噪声与语音 是一个相加的过程。 3 3k a l m a n 滤波理论 语音信号是一种非平稳时变的信号，因此针对语音信号巾的噪声去除，滤波器的选择是 一个很重要的问题。 滤波器的种类很多，有数字滤波器( 主要为软件) 和模拟滤波器( 主要为硬件) ；低 通滤波器，高通滤波器，带通滤波器，带阻滤波器；经典滤波器，现代滤波器之分。还有 第1 2 页武汉科技大学硕士学位论文 其它类型的滤波器，比如线性相位滤波器，时延滤波器等 3 0 l 。根据语音信号的非平稳时变 特性，自适应滤波器是最优选择，但是考虑到滤波时间较短，本文选择矗尔曼滤波器 ( k a l m a nf i l t e r ) 2 7 1 【2 8 儿2 9 1 。 时 更新 ( 预测)( 修正) 弋 图3 1k a l m a n 滤波原理 卡尔曼滤波是一种对离散线性系统状念的线性最小均方估计，其本质是一个最优化自 回归数据处理算法。1 9 6 0 年美国学者卡尔曼发表了他著名的用递归方法解决离散数据线性 滤波问题的论文。从那以后，卡尔曼滤波得到了飞速的发展。它不像维纳滤波那样需要知 道输入过程的统计特性，对信号的平稳性也没有要求。因此卡尔曼滤波器的优点是显而易 见的。使用k a l m a n 滤波首先需要对系统进行建模。建模川到的理论是状态卒问法，一般 的模型如下所示： x ( k + 1 ) = f x ( k ) + g u ( k ) ( 3 3 ) y ( k ) = h x ( k ) + v ( k ) ( 3 4 ) 其中，u ( k ) 为系统的扰动噪声，g 为系统的扰动矩阵，f 是状态转移矩阵，v ( k ) 足测量噪声 矢量，h 是测量矩阵。k a l m a n 滤波就是从观测值y ( k ) 中求出x ( k ) 的精确估计值。 对于系统的建模一般需要知道f ，g ，h ，以及u ，v 的均值或方差等，这些建模参数将 影响滤波效果的好坏。f ，g 一般南系统的状态决定，h 由观测方式决定。 由于采用的是状态空问法建模，使得k a l m a n 滤波有和状态空间法的一样的优势。状态 空间法可以当状态变量，输入变量，输出变量增加时，而不增加描述系统的复杂性；能够 完全描述系统的运动；能够揭示系统内部变量和外部变量之问的关系等。一时也决定了 k a l m a n 滤波是一种时域滤波方法。 下面介绍一下k a l m a n 滤波的计算： 经典k a l m a n 滤波的计算由5 个方程组成： x ( k k - 1 ) = f x ( k - l l k - i ) ( 3 5 ) p ( k l k - 1 ) = f p ( k 一1 i k - 1 ) f t + g q ( k - 1 ) g t ( 3 6 ) k ( k ) = p ( k l k - 1 ) h t ( h p ( k l k 一1 ) h t + r ( k ) ) 。1 ( 3 7 ) x ( k l k ) = x ( k l k 1 ) + k ( k ) ( y ( k ) - h x ( k l k - 1 ) ) ( 3 8 ) p ( k l k ) = ( i k ( k ) h ) p ( k l k n ( 3 9 ) 第一个方程是预测，第一一个方程是预测误芹方差阵，笫三个方程足卡尔曼增益，第四个 方程是滤波，第五个方程是滤波误差方差阵。起始值为x ( o l o ) 和p ( 0 1 0 ) 。 很显然这足一种递推算法，其实质足一个“预测+ 修正”的过程，可以根据前一状态 的值估计出f 一状态的值来，在些武器制导系统中应用广泛。 武汉科技大学硕士学位论文 第1 3 页 根据上面5 个方程可以得出以下一些结论： 1 增益k 和滤波误差协方差矩阵是一个与观测数据无关的量，可以离线计算，并推导 得剑： k ( k ) = p ( k l k ) h t r - 1 ( 3 10 ) p ( k l k ) - - - p ( k l k - 1 ) 1 + h t r 1 h ( 3 11 ) 2 k 与q 成正比，与r 成反比。当q 较小时，说明系统的扰动噪声小，预测精度高， k 也较小：当r 较大时，说明测量噪声较大，k 就较小以减小误差。实际应用中，q ，r 的 取值对滤波误差的影响较大。 3 4 语音的动