（信号与信息处理专业论文）源信号数目未知的水声信号盲源分离算法研究.pdf

- 0 卜 c l a s s i f i e di n d e x ： u d c ： ad i s s e r t a t i o nf o rt h ed e g r e eo f m e n g s t u d yo nu n d e r w a t e r a c o u s t i cs i g n a lb l i n ds o u r c e s e p a r a t i o nw i t h u n k n o w ns o u r c en u m b e r c a n d i d a t e：h eh a i m i n s u p e r v i s o r：p r o f l iw a n c h e n a c a d e m i cd e g r e ea p p li e df o r ：m a s t e r o fe n g i n e e r i n g s p e c i a l i t y ： s i g n a la n di n f o r m a t i o np r o c e s s d a t eo fs u b m is s i o n ：d e c e m b e r ，2 0 0 9 d a t eo fo r a le x a m i n a ti o n ：m a r c h ，2 0 1 0 u n i v e r s i t y ：h a r b i ne n g i n e e r i n gu n i v e r s i t y 。 哈尔滨工程大学 学位论文原创性声明 本人郑重声明：本论文的所有工作，是在导师的指导下，由 作者本人独立完成的。有关观点、方法、数据和文献的引用己在 文中指出，并与参考文献相对应。除文中已注明引用的内容外， 本论文不包含任何其他个人或集体已经公开发表的作品成果。对 本文的研究做出重要贡献的个人和集体，均已在文中以明确方式 标明。本人完全意识到本声明的法律结果由本人承担生k ，7 。 作者( 签字) ：彳力捌恍 日期：加( o 年岁月形日 哈尔滨工程大学 学位论文授权使用声明 本人完全了解学校保护知识产权的有关规定，即研究生在校 攻读学位期间论文工作的知识产权属于哈尔滨工程大学。哈尔滨 工程大学有权保留并向国家有关部门或机构送交论文的复印件。 本人允许哈尔滨工程大学将论文的部分或全部内容编入有关数据 库进行检索，可采用影印、缩印或扫描等复制手段保存和汇编本 学位论文，可以公布论文的全部内容。同时本人保证毕业后结合 学位论文研究课题再撰写的论文一律注明作者第一署名单位为哈 尔滨工程大学。涉密学位论文待解密后适用本声明。 本论文( 口在授予学位后即可口在授予学位1 2 个月后 口 解密后) 由哈尔滨工程大学送交有关部门进行保存、汇编等。 。广79oo 作者( 签字) ：f 弓砌锄导师( 签字) ：爹万笆 ， 日期：加f d 年；月i 日沙，r o 年雩月r6 日 哈尔滨丁程大学硕十学佗论文 摘要 盲源分离算法是指在不知道源信号和传输信道参数的情况下，根据输入 信号的统计特性，仅由观测信号恢复出源信号各个独立成分的过程。当信源 数目未知或者动态变化时，盲源分离算法很难对源信号分离出各个独立分量。 以前的算法都是假设信源数目已知，以此为依据，确定算法的维数。然而， 这样的假设在实际中是很难成立的。针对这一问题，本文对信源数目动态变 化时信号的盲源分离算法进行了深入研究。论文的主要工作集中在以下几个 方面： 第一，总结了盲源分离算法的原理。详细研究了信号盲源分离问题的描 述以及相关的假设条件。重点分析了信息论的相关知识，讨论了它们之间的 相互关系。同时着重讨论了信号的预处理过程，分析了信号的零均值过程以 及信号的白化过程。最后详尽的介绍了如何计算盲源分离算法的对照函数并 分析了几种常见的对照函数。 第二，研究了信源数目未知的盲源分离算法。信源数目的正确估计是随 后准确分离接收信号的基础。利用方差极大化的p c a 算法预先对接收信号的 主特征值进行提取，利用信息论准则设定特征值的阈值，从而估计出信源数 目。在此基础上，i n f o m a x 算法对接收信号进行盲源分离。设计了多组仿真 实验，分析并对比了不同的信息论准则以及不同的接收传感器在不同的信噪 比的情况下盲源分离算法的效果。该算法是一种非在线算法，不适合信源数 目动态变化的情况。 第三，研究了信源数目动态变化时，信号的自适应神经网络的盲源分离 算法。它涉及了多种自调节参数，是对先前的盲源分离算法的一个挑战。首 先是在线信源数目估计器，它是通过改进交叉验证算法来实现的。其次是自 适应神经网络结构算法，它是将自组织原则与基于向前反馈式神经网络结构 相结合得到的一种新算法。最后为了获得较好的学习效率引入的自适应学习 调节速率。计算机的仿真验证了算法的有效性、实用性和良好的稳定性。仿 真结果表明，所提出的自适应神经网络的盲源分离算法能够比其它的静态盲 f 哈尔滨t 程大学硕士学位论文 a b s t r a c t t h eb l i n ds o u r c es e p a r a t i o n ( b s s ) i st os e p a r a t e e a c hi n d e p e n d e n t c o m p o n e n to ft h e s o u r c es i g n a lo n l yb yt h es t a t i s t i c a lc h a r a c t e r so fo b j e c t e d s i g n a l ，w i t h o u ta n yi n f o r m a t i o na b o u tt h ec h a n n e lp a r a m e t e r s a n dt h es o u r c e s i g n a l s w h e nt h es o u r c en u m b e r s i su n k n o w no rd y n a m i c ，i ti sh a r df o rb b st o d e a lw i t ht h i sc a s e i nt h ep a s t ，t h ea s s u m p t i o ni so f t e nh e l dt h a tt h es o u r c e n u m b e r sa l ek n o w na n dt h es o u r c es i g n a l sa r em u t u a l l yi n d e p e n d e n t h o w e v e r , s u c ha s s u m p t i o nc a nn o tb eh e l di nm a n ya d v a n c e da p p l i c a t i o n s t h u sa i m i n ga t t h i sp o i n t ，t h eb b sa l g o r i t h mi ss t u d i e dd e e p l yw h e nt h es o u r c en u m b e r sa r e d y n a m i c t h ek e yp a r t so f t h es t u d ya r ed e s c r i b e da sf o l l o w ： f i r s t l y , t h eb b sa l g o r i t h mi ss u m m a r i z e d b o t ht h ea s s u m p t i o nc o n d i t i o n s a i l dt h em o d e lo ft h eb b sa r ea l s os t u d i e di nd e t a i l t h ek n o w l e d g eo ft h e i n f o r m a t i o nt h e o r yi se m p h a s i z e d a n dt h ep r e t r e a t m e n tp r o c e d u r eo ft h e o b j e c t e ds i g n a l i sa l s od i s c u s s e dd e e p l y , i n c l u d i n gt h es i g n a lz e r o 。m e a n p r o c e s s i n ga n dt h es i g n a lw h i t e n i n gp r o c e d u r e a tt h ee n d ，h o w t oc a l c u l a t et h e c o s tf u n c t i o no ft h eb s sa l g o r i t h mi se x p l a i n e df u l l yd e t a i l e d s e c o n d l y , w h e nt h es o u r c en u m b e r sa r eu n k n o w n ，t h eb b sa l g o r i t h m i s s t u d i e d t h er i g h te s t i m a t i o no ft h es o u rn u m b e r si st h eb a s e m e n tt h ef o l l o w i n g s e p a r a t i o no ft h es o u r c es i g n a l sc o r r e c t l y t h em a x i m i z e dt h ec o v a r i a n c ep e a a p p r o a c h i su s e dt o f i n dt h ep r i n c i p a lc o m p o n e n t su s i n g t h e e i g e n v a l u e d e c o m p o s i o nm e t h o d t oe s t i m a t et h es o u r c en u m b e r s ，t h e nt h ec r i t e r i o no f i n f o n n a t i o ni su s e dt os e tt h et h r e s h o l do ft h ee i g e n v a l u e o nt h a tb a s i s ，i n f o m a x i su s e dt oa c h i e v et h es o u r c es i g n a ls e p a r a t i o n an u m b e ro fs i m u l a t i o n sa r e d e s i g n e dt oa n a l y z et h ee f f e c t i o no f t h ed i f f e r e n ts e n s o r ss i g n a ls e p a r a u o n ，u n d e r d i 彘r e n ti n f o r m a t i o nc r i t e r i o na n ds i g n a ln o i s er a t i o h o w e v e r , i ti s n o ta n o n 1 i n ea l g o r i t h m ，a n di ti sn o tf i r e dt h ed y n a m i cs o u r c en u m b e r c a s e s t h i r d l y , w h e nt h e s o u r c en u m b e r sa r ed y n a m i c ，t h ea d a p t i v en e u r a l a l g o r i t h mi sp r o p o s e d ，w h i c hd e s i g n sa n dw h i c hd e s i g n sa n da s s o c i a t e ss e v e r a l 哈尔滨下程大学硕十学位论文 a u t o a 由u s tm e c h a n i s m st oc h a l l e n g et h e s ea d v a n c e db s sp r o b l e m s t h ef i r s t i m p l e m e n t a t i o ni st h eo n 1 i n ee s t i m a t o ro fs o u r c en u m b e r si m p r o v e df r o mt h e c r o s s v a l i d a t i o nt e c h n i q u e t h es e c o n di st h ea d a p t i v es t r u c t u r en e u r a ln e t w o r k t h a tc o m b i n e sf e e d f o r w a r da r c h i t e c t u r ea n dt h es e l f - o r g a n i z e dc r i t e r i o n t h e l a s ti st h el e a r n i n gr a t ea d j u s t m e n ti no r d e rt oe n h a n c ee f f i c i e n c yo fl e a r n i n g t h ev a l i d i t ya n dp e r f o r m a n c eo ft h ep r o p o s e da l g o r i t h ma r ed e m o n s t r a t e db y c o m p u t e rs i m u l a t i o n s ，a n da r ec o m p a r e dt oo t h e rs t a t i ca l g o r i t h m s f r o mt h e s i m u l a t i o nr e s u l t s ，t h e s eh a v eb e e nc o n f i r m e dt h a tt h ep r o p o s e da l g o r i t h m p e r f o r m e db e t t e rs e p a r a t i o nt h a no t h e r si ns t a t i cb s sc a s e sa n di sf e a s i b l ef o r d y n a m i cb s sc a s e s k e yw o r d s ：b l i n ds o u r c es e p a r a t i o na l g o r i t h m ；d y n a m i cs o u r c en u m b e rs o u r c e ； n u m b e re s t i m a t i o n ；a d a p t i v el e a r n i n gr a t e ；a d a p t i v en e u r a la l g o r i t h m 哈尔滨丁程大学硕十学位论文 目录 第1 章绪论1 1 1 论文研究目的和意义1 1 2 国内外研究和发展现状2 1 2 1 国外研究发展现状2 1 2 3 国内研究发展现状4 1 3 论文的研究内容及结构安排5 第2 章盲源分离算法原理：6 2 1 信号源盲分离6 2 1 1 问题描述6 2 1 2 基本假设7 2 2 信息论的相关知识9 2 2 1 微分熵及其性质9 2 2 2k u l l b a c k l e i b l e r 散度9 2 2 3 互信息1 1 2 3 本章小结1 2 第3 章信源数目未知的盲源分离算法1 3 3 1 信源数目的估计1 3 3 1 1 方差极大化的p c a 一1 3 3 1 2 信息论准则l5 3 1 3 仿真实验1 6 3 2 信息极大( i n f o m a x ) 法2 0 3 2 1i n f o m a x 算法2 0 3 2 2 仿真实验2 2 3 3 本章小结2 6 第4 章源信号个数动态变化的盲源分离算法2 7 4 1 动态变化时信源数目的估计2 7 4 1 1 基于标准p c a 算法的预白化处理2 7 哈尔滨丁程大学硕十学位论文 4 1 2 颁白化算法的改进算法2 8 4 1 3 源数目的估计2 9 4 2 源数目动态变化的盲源分离算法31 4 2 1 自组织准则3 3 4 2 2 学习速率的调节3 3 4 3 仿真验证3 4 4 3 1 源数目不变化时盲源分离算法的仿真验证3 6 4 3 2 源数目动态变化时盲源分离算法的仿真验证4 0 4 3 3 仿真结果分析4 4 4 4 本章小结4 4 结论4 5 参考文献4 6 攻读硕士学位期间发表的论文和取得的科研成果5 2 致谢5 3 哈尔滨t 程大学硕十学位论文 第1 章绪论 1 1 论文研究目的和意义 海洋是地球上一块蓝色的宝石，水声信号处理是未来水声对抗和反潜 战装备发展中的关键技术。只要掌握了先进的水声信号与信息处理技术， 就能赢得战斗的胜利。面对核潜艇迅速壮大发展的这一现状，水声工程技 术和声呐系统必须在技术上有所突破，远程被动目标探测、识别和多目标 跟踪是隐蔽方式下进一步实现战术行动的关键，也是水声信号处理急需解 决的难题。盲源分离技术是一种对信号源知识、信道先验知识具有很好宽 容性的自适应阵列信号处理方法，即使在未知信号源信息和信道信息的情 况下，仅满足极有限的条件也能实现多源信号的分离和恢复。因此，盲信 号处理特别适合被动声纳信号的检测和目标识别，具有非常重要的军事意 义。 在通常的盲源分离算法中，首先假设目标源信号数目己知，并且一般 要求信号源数目小于传感器阵元数目，但在实际上前者是不可能做到的。 因此，在处理过程中假定传感器阵元数目与源信号数目相等( 即：将解混 合矩阵初始化为与接收阵元数目相等的方阵) 。然而，在水声阵列信号处理 中，传感器阵元数目远大于实际目标个数，这虽然有利于加性噪声的分离， 但若将源信号数目按阵元数目相等处理，势必造成实现盲分离算法复杂、 运算量大，以及算法不易收敛等问题。另外，即使算法收敛，但是算法收 敛后分离输出的信号数目也会比较多。在这些输出信号中，一部分与源信 号对应，但另一部分是没有任何意义的输出，也可能是某些源信号的另一 种估计。这样，就导致了一个现实而棘手的问题，即哪些输出通道盲分离 技术及其在水声信号中的应用研究与源信号对应( 或源信号的估计) ，由于 事先没有源信号的先验知识，因此要确定这一问题比较困难，特别是当源 信号数目远小于阵元数目时，这一问题将变得更加严重。因此在未知源信 号数目情况下的盲源分离技术在工程应用中首先对源信号的数目进行估 计，作为盲信号分离的预处理。而后再用盲源分离算法输出分离估计的信 哈尔滨丁程大学硕+ 学位论文 号。在源信号固定不变的时候，这样的研究方法是有意义的。但实际中， 源信号的数目往往是未知的( 比如，在探测区域隐藏敌方潜艇的数目) ，因 此源数目未知时的水声信号的盲源分离算法的研究具有非常重要的工程应 用意义。 本课题拟采用了相关学科新的优化策略和方法，开展盲源分离算法的对 比函数设计和实现研究，为源数目未知时的水声信号的盲源分离算法处理问 题提供一套实用方法，对被动声纳信号的在线检测和识别具有重要的指导意 义和参考价值。 - 、 1 2 国内外研究和发展现状 国内外对盲信号处理技术研究主要集中在三个方面：盲源分离，或者独 立分量分析( i c a ，i n d e p e n d e n tc o m p o n e n ta n a l y s i s ) ，盲信道均衡( 辨识) ， 以及盲波束形成。盲均衡在通信领域研究比较深入，用于抵消有限带宽信道 失真引起的码间干扰i s i ( i n e r ts y m b o li n t e r f e r e n c e ) 和信道间的干扰，在 1 9 7 5 年y s a t o 首次提出了应用于多幅度调制数据传输中的自恢复均衡一“盲 均衡 这一新概念之后，关于盲均衡算法的研究成为国际通信界的一个研究 热点。盲均衡可分为三大类：( 1 ) 平稳信号盲均衡( 传统的盲均衡) ；( 2 ) 循环平 稳信号盲均衡：( 3 ) 基于神经网络和模糊理论的盲均衡。所取得的成果已在无 线通信领域得以初步应用。盲源分离的研究比盲均衡起步晚，但近几年得到 飞速发展，在地震勘探、语音识别与增强、生物医学信号处理( 女a e e g 、e g g 、 m e g 和f m r i ) 和无线通信等方面取得初步应用成果，并具有广泛而诱人的前景。 1 2 1 国外研究发展现状 自从1 9 7 5 年以来，盲源分离技术已经公开发表的i e e e 文献就多达二 千六百多篇，仅2 0 0 8 年一年发表的文章二百二十九篇，2 0 0 7 年发表三百四 十一篇，2 0 0 6 年发表三百零二篇，由此可以看出盲源分离技术研究的仍然 是目前研究的一个热点。但是应用在声学中的有1 6 3 篇，但是在水声信号 中的盲源分离技术公开发表的文章仅有1 1 篇，从这个侧面也可以反映出盲 源分离算法在水声信号中的应用仍然具有很强的创新性。 哈尔滨t 稗大学硕+ 学位论文 盲分离的研究是在2 0 世纪8 0 年代木才真正的发展起来的。法国学者 j e a n n yh e r a u l t 和c h r i s t i a n h u t t e n 在计算机神经网络的国际会议中发表了 s p a c eo rt i m ea d a p t i v es i g n a lp r o c e s s i n gb yn e u r a ln e t w o k em o d e l s 的研究报告，该报告提出了一种新的学习算法，它将神经网络递归模型和h e b b 准则相结合，从而实现了两个相互独立的混和源信号的分离。该研究报告揭 开了盲源分离问题研究的新篇章。 1 9 8 7 年，g i a n n a k i s i l l 将引入了三阶累积量引入到盲源分离问题中，但是 算法的速度因为穷举的搜索计算而不太理想。 1 9 9 1 年，法国学者c h r i s t i a nj u t t e n 、j e a n n yh e r a u l t 比1 和p i e r r e c o m m o n h l 以及p c o m o n 口1 在s i g n a l p r o c e s s i n g _ l 发表了关于盲信号分离的经 典文章，标志着盲分离研究的重大进展。他们不但提出了盲分离中著名的h - j 算法，而且设计了专用的c m o s 集成芯片来实现他们的算法。 随后的十几年中，大批的学者为盲源分离的研究工作做出了巨大的贡献。 如g b u r e l 碡3 利用神经解决了非线性和线性信号的盲源分离问题；p c o m o n 3 界定了盲源分离问题的独立分量分析方法的基本假设条件，并引入了对比函 数的概念。指出可以通过求解某个对比函数的目标函数，使其达到极大值来 消除观测信号中的高阶统计相关，从而实现了线型混和信号的盲源分离。 c i c h o c k i n 3 提出了著名的梯度算法；o j a 随3 和k a h u n e n t t 3 提出了高阶统计量的 非线性主分量的分析方法。 自从1 9 9 9 年1 月召开了第一次“独立分量分析与盲信号分离”的国际学术 会以后，每年的i c a 和b s s 会议都会有各国的科学家发表大量的科学论文。2 0 0 1 年，k i s e o kc h o 和s o o y o u n gl e e 幂l j 用c m o s 芯片实现了四路输入输出的经典的 基于i n f o m a x 的理论的自然梯度算法。2 0 0 3 年，c a r d o s o 提出将独立分析方法 应用于天文图像，并取得了非常理想的效果。2 0 0 4 年，z h i j i a ny u a n 和e r k k i o j a 提出了一种用于非负独立分量分析的快速i c a 算法n 伽，并给出了该算法 的应用条件。随着盲源分离的各种算法的研究，其应用范围也越来越广泛了， 可用于无损图像编码，自动控制工程、数据挖掘以及文件检索等。 研究盲源分离技术的实验室也非常多，其中具有代表性的有美国加州 大学生物系计算神经生物学实验室、日本r i k e n 的数量神经科学实验室、 芬兰赫尔辛基工业大学神经网络研究中心等等。 3 哈尔滨丁稃大学硕十学位论文 1 2 3 国内研究发展现状 国内盲源分离技术研究的文献有2 2 0 篇，其中期刊文献1 7 7 篇，优秀 硕士学位论文3 8 篇，博士论文仅5 篇。2 0 0 8 年公开发表的文献仅为5 篇， 从另一个侧面反映出国内盲源分离算法的研究与国外存在着很大的差距。 而盲源分离技术在水声信号处理方面的应用仅为5 篇，其中有2 篇是博士 论文，分别发表于2 0 0 2 年和2 0 0 6 年，均为基础研究。而对于源数目未知 条件下的水声信号盲源分离技术的研究国内未见报道。 国内对于盲信号分离技术的研究相对较晚1 。清华大学的张贤达在其 1 9 9 6 年出版的时间序列分析一高阶统计量方法一书中，介绍了有关盲 分离的基本理论，并给出了相关的算法。直到近两三年，国内关于盲分离 技术的研究才渐渐多起来。西安交通大学的冯大政、史维祥提出了一种有 效自适应学习算法，具有良好的抑制噪声作用，并深入研究了该算法成立 的稳定条件和有界条件，但是算法的分离效果仍然取决于的非线性函数的 选择。上海交通大学的胡光锐、虞晓等研究了盲信号处理在语音分离与识 别领域的应用，在分析最大熵法与最小互信息量法( m m i ) 的基础上，提出了 一种利用反馈结构的输出信号概率密度函数估计的增强m e 算法。通过计算 机模拟表明，新算法比传统m e 算法在解决卷积混合输人的盲信号分离问题 时，具有更好的分离性能，但如何采用非线性滤波器结构来实现现实条件 下的语音分离问题，还有待进一步探索。在无线通信领域，东南大学的何 振亚、汪军提出基于高阶谱的信号盲分离，利用三阶和四阶累计量研究了 瞬时混叠信号盲分离的问题，并提出了两种分离算法，模拟实验证实了其 有效性，但该算法只适用于高信噪比和长观察数据的盲辨识与信号分离场 合。 已有的盲分离算法可以大致归纳为三类。在第一类方法中，信号经过 变换后，使不同信号分量之间的相依性( d e p e n d e n c y ) 最小化。这类方法称 为独立分量分析，由p i e r r e c o m o n 于1 9 9 4 年提出。当信号之间的独立性采 用不同的准则测度时，即得到不同的算法。第二类方法是用非线性传递函 数对输出进行变换，使得输出分布包含在一个有限的超立方体中，然后熵 的量大化将迫使输出分量尽可能在超立方体中均匀散布。这类方法称为熵 4 哈尔滨丁程大学硕十学位论文 最大化，是b e l l 和s e j n o w s k i 于1 9 9 5 年提出的。熵最大化最终也得到信 号分量独立性的类似测度。第三类方法为非线性主分量分析，由o j a 和 k a r h u n e n 等人于1 9 9 4 年提出，它是线性主分量分析方法的推广。目前，前 两类方法已逐渐趋于成熟，对第三类方法的研究也已初步开展起来。 近几年，盲信号处理技术在国内的研究主要体现在盲信号处理的机理 研究，应用领域涉及到语音信号增强与处理、雷达信号处理和无线通信等 方面。然而，将盲信号处理应用于水声阵列信号处理的文献很少，且主要 针对水声通信信道的盲均衡问题。水声信号的盲处理研究国内从2 0 0 0 3 年 左右开始，逐渐称为研究的热点。国内的研究单位有西北工业大学n3 | 、海 军大连舰艇学院、大连理工大学n 2 1 和东南大学、哈尔滨工程大学h 1 等单位。 西北工业大学的马远良、倪晋平进行了早期的水声信号的盲源分离算法的 研究工作，并且倪晋平提出的水声信号盲源分离算法性能评价准则已经被 众多研究学者认可；大连舰艇学院的章新华和张安清研究了盲源分离算法 在水声信号处理中的基本应用，并取得可喜的研究成果；此外，东南大学 的陆佶人在噪声环境下对时延混合系统的盲信号分离算法也取得了满意的 成果。但这些研究成果只是探索性的，未能充分考虑水声信号的时变非平 稳性和海洋环境的复杂性。因此，结合盲源分离技术的发展，以及实际水 声阵列信号处理的军事需求，研究阵列水声信号盲分离适用技术，以提高 目标检测、定位与识别，还有许多问题需要深入研究，并且迫切地需要展 开水声信号盲处理技术的探索和研究。 1 3 论文的研究内容及结构安排 本文的主要研究内容是信源数目未知或者动态变化时，如何利用盲源分 离算法将接收信号中各个分量提取出来。本文以下各章节的内容安排如下： 第1 章，绪论部分，详细地介绍了论文的研究目的意义和国内外发展现状。 第2 章详细介绍了盲源分离算法的原理，包括盲源分离问题的描述以及基 本的假设条件。信息论的相关知识和有关信号预处理的内容。 第3 章介绍了信源数目未知的盲源分离算法。 第4 章介绍了信源数目动态变化的盲源分离算法。 哈尔滨t 稃大学硕+ 学位论文 第2 章盲源分离算法原理 盲源分离( b l i n ds o u r c es e p a r a t i o n ，b s s ) 是指在不知道源信号和传输 通道参数的情况下，根据输入源信号的统计特性，仅由观测信号恢复出源信 号各个独立成分的过程。现在所指的盲源分离通常是对观测到的源信号在线 性瞬时混叠条件下进行的盲源分离。当考虑时间延迟时，观测到的信号应该 是源信号和信道传输特性函数的卷积，对卷积混叠信号进行盲分离通常称为 盲反卷积( b l i n dd e c o n v o l u t i o n ，b d ) 。盲源分离和盲反卷积方法的研究在 语音、通信、生物医学工程和地震探测等各个领域中都具有非常重要的理论 价值和实际意义。 2 1 信号源盲分离 2 1 1 问题描述 信号源盲分离是从若干观测到的多个信号的混合信号中恢复出无法直 接观测到的原始信号的方法。文献 1 1 中给出了盲源分离问题的描述模型。 通常，观测信号来自一组传感器的输出，其中每一个传感器接收到多个原 始信号的一组混合，如图2 1 所示。 嘎毛毛& ooo o 图2 1 信号混合过程示意图 6 哈尔溟t 释大学硕十学何论文 在图2 1 中，n 个信号源s i ，s ：，s n 所发出的信号被m 个传感器接收 到后得到输出五，x 2 ，。这里假设传输是瞬间的，即不同信号到达各 个传感器的时间差别可以忽略不计，并且传感器接收到的是各个信号源信 号的线性混合，即认为第f 个传感器的输出为 薯= a v s j ( t ) + n j ( t ) ( 2 一1 ) j = l 其中，江1 , 2 ，o ra l , m ，为混合系数，臻( f ) 为第f 个传感器的观测噪声。可 以用矢量和矩阵表示为 石( ，) = a s ( t ) + ，2 ( ，) ( 2 - 2 ) 其中，s ( f ) = b ( f ) ，s 2 ( t ) ，毛( f ) ，】7 是刀1 的源信号列矢量。类似的，x ( ，) 为m x l 的混合信号矢量，挖( f ) 为m x l 的噪声矢量，而矩阵彳为m x n 的混合 矩阵，其个元素为混合系数口护 目前在讨论信号源盲分离问题时通常不考虑观测噪声，即认为不存在噪 声或噪声在进行盲分离之前已经通过其他方法降低到了可以忽略的程度， 此时，( 2 - 2 ) 式可以写成 x ( f ) = a s ( t ) ( 2 - 3 ) 信号源盲分离就是指在源信号波形未知，并且混合系数口j ，也未知的情 况下，仅仅根据传感器所接收到的混合信号x ( t ) 对源信号矢量s ( t ) 或混合 矩阵彳进行估计。信号源盲分离问题也可以表述为：在混合矩阵么和源信 号矢量s ( t ) 均未知的条件下，求一个，m 的矩阵形。使得对混合信号矢 量x ( r ) 的线性变换为： 】，( f ) = w x ( t ) ( 2 4 ) 为对源信号矢量s ( t ) 或其某些分量的一个可靠的估计。通常将矩阵称为 分离矩阵。 将式( 2 - 3 ) 和式( 2 4 ) 合并可以得到 y ( t ) = w x ( t ) = w a s ( t ) = c s ( t ) ( 2 5 ) 其中，c = w a 为，m 的矩阵，称为混合一分离复合矩阵。 2 1 2 基本假设 盲分离问题实际上是一个多解问题，即对于一组观测信号x ( ，) ，可能 哈尔滨下稃大学硕十学佗论文 存在无穷多组1 i 同混合矩阵a 和源信号矢量s ( ，) 都满足式( 2 - 2 ) 或式 ( 2 - 3 ) ，因此为了使盲分离问题有意义，必须做出一些基本的假设。文献 1 1 中对这些假设进行了如下的描述。 由于源信号来自不同的信号源，所以一个合理的假设是认为各个源信 号& ，是，之间是统计独立的。用f ( s ) 表示源信号矢量s ( f ) 的联合概 率密度函数，而用f , c s 。) ，l ( s ：) ，z ( ) 分别表示源信号的边缘概率密 度函数，则源信号矢量各个分量之间的统计独立性假设可以用下式描述： 打 厂( s ) = z ( _ ) 以( s ：) ( ) = 兀z ( t ) ( 2 6 ) j = i 。 即源信号矢量s ( t ) 的联合概率密度函数为其各分量的边缘概率密度函数的 乘积。这一源信号的统计独立性假设，是已有的绝大多数信号源盲分离算 法的基本出发点。 除了对源信号矢量s ( f ) 各个分量之间的统计独立性假设之外，还需要对 混合矩阵彳作出合理的假设。显然，如果能求出矩阵么的广义逆矩阵彳， 则由式( 2 - 2 ) 有 s ( f ) = a 叫x ( t ) 一a _ 1 n ( t ) ( 2 - 7 ) 或者在噪声可以忽略的情况下，即门( r ) = 0 时有 s ( t ) = a 。x ( t ) ( 2 8 ) 为了使盲分离问题可解，必须保证混合矩阵彳的左逆存在，因此盲分离 问题总假设混合矩阵彳是列满秩的。另外，目前的信号源盲分离研究中， 一般都不考虑噪声的影响。在考虑噪声的时候则总假设力( f ) 的各个分量是与 信号源独立的白噪声随机过程。 综上所述，对信号源盲分离问题一般有如下假设条件： ( 1 ) 混合矩阵a 如。为列满秩的矩阵，即r a n k ( a ) = 甩； ( 2 ) 源信号矢量s ( t ) 是零均值的平稳随机矢量过程，各个分量之间相 互统计独立，并且s ( t ) 的分量中，服从高斯分布的分量不超过一个； ( 3 ) 噪声矢量珂( ，) 为零均值的随机矢量，并且与源信号矢量s ( f ) 相互 统计独立，或者假设噪声矢量可以忽略不计，即n ( t ) = 0 。 在无噪声的情况下，混合模型x ( t ) = a s ( t ) 实际上是对源信号矢量s ( t ) 的 线性变换，假设( 1 ) 保证了变换a 是可逆的。当随机变量的均值不为零时， 8 哈尔滨t 程大学硕十学何论文 总可以预先将均值减去而得到均值为零的随机变量，因此假设( 2 ) 并不影响 在此基础上得到的盲分离算法的适用范围。由于高斯随机变量的线性混合仍 然是高斯分布的，而高斯分布是完全对称的，不包含混合矩阵么的列方向的 任何信息，当源信号中服从高斯分布的分量多于一个时，盲分离算法不可能 求解，因此需要假设( 2 ) 对此做出限制。假设( 3 ) 中对噪声的前一个假设 是大多数统计信号处理方法所采用的，但在盲分离算法的现有研究阶段，习 惯的做法还是假设噪声可以忽略不计。 2 2 信息论的相关知识 在信号源盲分离问题中，经常要用到随机变量的微分熵和互信息的概念 及其基本性质。本节对这些概念作一个简短的介绍，同时也将讨论它们的性 质【1 1 2 0 1 。 2 2 1 微分熵及其性质 设一组随机变量五五以的联合概率密度函数为 厂( 而x 2 毛) 则这组随机变量的微分熵由下式定义： h ( x l ，x 2 ，x 。) = 一i o oj f ( x l ，x 2 ，x 。) l g f ( x l ，x 2 ，x 。) 出l d x 2 d x 。 ( 2 9 ) 微分熵日( 五置。以) 满足如下不等式： 日( 五。五以) 日( 置) ( 2 1 0 ) i = l 当且仅当五置以相互统计独立时等式成立。 设x 为疗1 的随机矢量，fd e t ( a ) i 为n x 疗矩阵a 的行列式的绝对值， 则有 h ( a x ) = 日( x ) + l gd e t ( a ) i ( 2 1 1 ) 2 2 2k uilb a c k - l eibie r 散度 k u l l b a c k l e i b l e r 散度也叫k l 熵【2 0 】，它是两个概率密度函数间相似程度 的度量。其定义如下： 设p ( x ) 、q ( x ) 是随机变量x 的两种概率密度函数，则两者间的k l 散度 9 哈尔滨t 程大学硕+ 学位论文 是： k l p ( x ) ，g ( x ) 】= k ( x ) l o g 掣 ( 2 12 ) q t x ) k l p ( x ) ，g ( x ) 】有时也简记为k l ( p ，q ) 。 推广到多变量的情况，有 k l p ( x ) , q ( 冽= p ( 柳l o g 祭 ( 2 _ 1 3 ) 碰散度最主要的特性：其值必定0 ，当且仅当p ( x ) = q ( x ) 时其值= 0 ， 这是因为 p ( x ) p ( x ) d x f p ( x ) q ( x ) d x 。正是由于这一特性使得可以认为 k z ( p ，q ) 反映着p ( x ) 与q ( x ) 间在某种意义下的“距离。只是由于根据定义 式( k l 的定义) 可见k l ( p ，q ) k z ( q ，p ) 不满足对称性的要求，所以不宜称 之为碰距离。 根据k z ( p ，q ) 0 不难证明它的如下性质： ( 1 ) 在取值范围固定的概率密度函数中均匀分布的熵值最大； ( 2 ) 在协方差阵相等的概率密度函数中高斯分布的熵值最大。 碰散度也可以推广到条件概率情况，得到条件碰散度： k z p ( x 2 伽( x 2 协肛( ) l o g 【粼】幽如 ( 2 _ 1 4 ) 碰散度也有其链形规则：设p ( x ) ，q ( x ) r ：n 维矢量x = 葺，x 2 ，x 】的 联合概率密度函数。则有： k l p ( x ) ，g ( x ) 】= k l p ( x , r i l ，而) ，g ( 薯一l ，而) 】 ( 2 1 5 ) 碰散度具有比例不变性。即当随机变量x 发生比例变化( 由石变成) 时，其碰散度不变。 推广而之，不难证明：对于可逆的线性系统( 也就是y = b x 中i b i 0 的 系统) ，其处理前后碰散度具有不变性。即： k l p ( x ) ，g ( x ) 】= k l p ( y ) ，g ( y ) 】 ( 2 16 ) l o 哈尔滨t 程大学硕十学位论文 2 2 3 互信息 在盲源分离问题中碰散度的重要应用是来度量任意多变量概率密度 函数中各个分量相互独立的程度。在文献【2 0 】中，p ( x ) 为多变量 x = 【西，x 2 ，x n 】的联合p d f ，p ( ) ( f = 1 ) 是其各分量的边缘p d f 。当各 分量相互独立时p ( x ) = 兀p ( 薯) ；一般情况下，两者不相等。l r l l t - - p