（计算机应用技术专业论文）盲源分离算法及应用研究.pdf

盲源分离算法及应用研究 摘要 盲源分离是近年来在信号处理领域中出现的一个热点课题。它是指在未 知源信号数目、位置和混合过程等先验信息的情况下，仅根据一组传感器信 号来估计原始信号。盲源分离是数据分析及信号处理强有力的工具，在许多 领域都有很好的应用，如生物医学信号处理、数据挖掘、语音信号处理、模 式识别及无线通信等。 二十几年来，由于广泛的应用和有效的数据处理能力，盲源分离算法吸 引了大量学者的研究，并取得了很大进展。本文从语音信号的分离入手，对 盲源分离算法进行了深入研究。论文首先对盲源分离算法的发展历史和研究 现状进行了概括，并介绍了其在几个重要领域中的应用，接着介绍了盲源分 离问题的几类主要算法。 本文对盲源分离的理论和算法进行了探讨，重点研究了欠定情况下的盲 分离问题。主要研究内容有以下几个方面： 研究了频域盲分离算法中的排序不确定性问题。利用同一个语音信号相 邻频点相关性大于两个不同语音信号相邻频点相关性的特点，提出了一个基 于相邻频点幅度相关性的排序不确定性消除算法，使得在每个频点进行独立 分量分析和排序同步进行。 研究了欠定情况下的时频域盲分离算法。利用双耳的听觉机理，提出了 一个基于听觉场景分析的盲分离算法，通过对听觉特征耳间时间差和耳问强 度差的聚类，完成对多个源信号混合而成的两个传感器信号的分离。另外， 本文还提出了一种用于卷积混合的语音盲分离算法。通过在混合信号时频域 的聚类，实现了欠定情况下的卷积盲分离。 研究了源信号在时频域不充分稀疏情况下的欠定盲分离问题。提出一个 新的二阶段式欠定盲分离算法，利用网格和密度聚类的方法，可以更好地估 计混合系数矩阵。在源信号恢复时，使用简化的方法求最小范数解，网格 的使用有效地减少了计算量。 哈尔滨t 程大学博十学何论文 提出了一种基于匹配追踪的稀疏源信号恢复算法。针对匹配追踪算法在 盲源分离的稀疏源信号恢复问题中的具体应用，将匹配追踪算法加以改进， 有效地提高了算法的性能。提出的算法在病态混合矩阵的情况下，可以减少 匹配失败时所带来误差，具有良好的鲁棒性。 关键词：盲源分离；排序不确定性；欠定盲分离；听觉场景分析；稀疏分量 分析；匹配追踪 肓源分离算法及应用研究 a bs t r a c t b 1 i n ds o u r c es e p a r a t i o n ( b s s ) i san e w l yp r e s e n t e da n dl i v e l ya r e a o fs i g n a lp r o c e s s i n gd o m a i ni nr e c e n ty e a r s ， w h i c he s t i m a t e ss o u r c e s g i v e nm i x e ds i g n a l sw i t h o u tp r i o rk n o w l e d g es u c ha ss o u r c e sn u m b e r ， l o c a t i o na n dm i x i n gp r o c e s s b s si sap o w e r f u lt o o l o fd a t aa n a l y s i s a n ds i g n a lp r o c e s s i n g ，a n di th a sb e e na p p l i e di nm a n ya r e a ss u c ha s b i o l o g i c a la n dm e d i c i n es i g n a lp r o c e s s i n g ，d a t am i n i n g ，s p e e c hs i g n a l p r o c e s s i n g ，p a t t e r nr e c o g n i t i o n ，w i r e l e s sc o m m u n i c a t i o na n ds oo n c o n s i d e r i n gi t sw i d ea p p l i c a t i o na n da b i l i t yo fd a t ap r o c e s s i n g ， r e s e a r c h e r sh a v ep a idag r e a td e a lo fa t t e n ti o nt ob s sa n dm a d eag r e a t p r o g r e s s i nt h e p a s tt w e n t yy e a r s t h i st h e s i sr e s e a r c h e st h e s e p a r a t i o na l g o r i t h m so fs p e e c hs i g n a l s f i r s t l y ，ab r i e fi n t r o d u c t i o n o ft h ed e v e l o p m e n th i s t o r ya n dc u r r e n tr e s e a r c hs t a t u sa r es u m m a r i z e d ， a n ds e v e r a la p p l i c a t i o n so ft h e b s sa r eg i v e n t h e n ，t h i st h e s i s i n t r o d u c e ss e v e r a lk i n d so fi m p o r t a n ta l g o r it h i n so fb s s t h i st h e s i sd i s c u s s e st h et h e o r i e sa n da l g o r i t h m so f b s s ，a n d e s p e c i a l l yr e s e a r c h e st h eu n d e r d e t e r m i n e db l i n ds o u r c es e p a r a t i o n p r o b l e m t h er e s e a r c h e sc o n c e n t r a t eo nt h ef o l l o w i n gt o p i c s ： t h eb l i n ds e p a r a t i o np r o b l e mo fc o n v o l u t i v em i x t u r e sa n dd e l a y e d m i x t u r e si sd i s c u s s e di nt h i st h e s i s t h es e p a r a t i o nw h e nt h e r ea r e m o r es o u r c e st h a nm i x t u r e si sr e s e a r c h e de m p h a t i c a l l y t h em a i nw o r k s o ft h i st h e s i sa r ea sf o l l o w s ： t h ep e r m u t a t i o ni n d e t e r m i n a t i o np r o b l e mi nt h ef r e q u e n c yd o m a i n b l i n ds o u r c es e p a r a t i o ni sd i s c u s s e d b yu t i l i z i n gt h ec h a r a c t e r i s t i c t h a ta m p l i t u d ec o r r e l a t i o nb e t w e e nn e i g h b o rb i n so ft h es a m es i g n a l i sb e t t e rt h a nt h a to fd i f f e r e n ts i g n a l s ，a ni m p r o v e dm e t h o db a s e do n t h ea m p l i t u d ec o r r e l a t i o nb e t w e e nn e i g h b o rb i n st oe l i m i n a t et h e p e r m u t a t i o ni n d e t e r m i n a t i o ni sp r o p o s e d i ti sf e a s i b l et oi m p l e m e n t 哈尔滨t 程大学博十学位论文 i c aa l g o r i t h ma n dp e r m u t a t i o nm e t h o ds i m u l t a n e o u s l y t h eu n d e r d e t e r m i n e db li n ds o u r c e s e p a r a t i o na l g o r i t h m si n t i m e f r e q u e n c yd o m a i na r er e s e a r c h e d an o v e lb l i n ds o u r c es e p a r a t i o n a l g o r i t h mb a s e do nc o m p u t a t i o n a la u d i t o r ys c e n ea n a l y s i s ( c a s a ) i s p r o p o s e d ，w h i c hc a ns e p a r a t es e v e r a ls o u r c e sf r o mt w os e n s o rs i g n a l s b yc l u s t e r in gt oin t e r a u r a lti m ed if f e r e n c e s ( i t d ) a n di n t e r a u r a l i n t e n s i t yd i f f e r e n c e s ( 1 i d ) as p e e c hb l i n ds e p a r a t i o na l g o r i t h mf o r c o n v o l u t em i x t u r ei sp r o p o s e d ，w h i c hc a ns e p a r a t ec o n v o l v e dm i x t u r e s i nu n d e r d e t e r m i n e dc a s eb yc l u s t e r i n gi n t i m e f r e q u e n c yd o m a i no f m i x t u r e s t h eb l i n d s e p a r a t i o np r o b l e mf o rs o u r c e st h a ta r es p a r s e i n s u f f i c i e n t l yi sr e s e a r c h e d an o v e lt w o s t e pu n d e r d e t e r m i n e db l i n d s o u r c es e p a r a t i o na l g o r i t h mi sp r e s e n t e d ，w h i c he s t i m a t e s m i x i n g c o e f f i c i e n tm o r ee f f i c i e n t l yu s i n gc l u s t e r i n ga l g o r i t h mb a s e do ng r i d a n d d e n s i t y ， a n di te s t i m a t e st h e m i x i n gm a t r i xb e t t e r w h e n r e c o v e r i n gs o u r c es i g n a l s ，as i m p l e rm e t h o di su s e dt og e t n o r m m i n i m i z a t i o ns o l u t i o n a na l g o r i t h mo fs p a r s es o u r c e sr e c o v e r yb a s e do nm a t c h i n gp u r s u i t ( m p ) i sp r o p o s e d c o n s i d e r i n gt h ea p p li c a t i o no fm pi ns p a r s es o u r c e s r e c o v e r yi nb l i n ds o u r c es e p a r a t i o n ，t h i sp a p e ri m p r o v e sc l a s s i c a l m pa l g o r i t h ma n dh a so b t a i n e dab e t t e rp e r f o r m a n c e p r o p o s e dm e t h o d w o r k sw e l le v e nt h em i x i n gm a t r i xi si l l c o n d i t i o n e db yr e d u c et h e e r r o rw h e nm a t c hf a ，j e d k e y w o r d s ： b l i n ds o u r c e s e p a r a t i o n ：p e r m u t a t i o ni n d e t e r m i n a t i o n ： u n d e t e r m i n e db l i n ds e p a r a t i o n ：a u d i t o r ys c e n ea n a l y s i s ： s p a r s ec o m p o n e n ta n a l y s i s ：m a t c h i n gp u r s u i t 哈尔滨工程大学 学位论文原创性声明 本人郑重声明：本论文的所有工作，是在导师的指导下，由 作者本人独立完成的。有关观点、方法、数据和文献的引用己在 文中指出，并与参考文献相对应。除文中已注明引用的内容外， 本论文不包含任何其他个人或集体已经公开发表的作品成果。对 本文的研究做出重要贡献的个人和集体，均己在文中以明确方式 标明。本人完全意识到本声明的法律结果由本人承担。 作者( 签字) ： 日期：砂歹 哈尔滨工程大学 学位论文授权使用声明 | 旧 本人完全了解学校保护知识产权的有关规定，即研究生在校攻 读学位期间论文工作的知识产权属于哈尔滨工程大学。哈尔滨工 程大学有权保留并向国家有关部门或机构送交论文的复印件。本 人允许哈尔滨工程大学将论文的部分或全部内容编入有关数据库 进行检索，可采用影印、缩印或扫描等复制手段保存和汇编本学 位论文，可以公布论文的全部内容。同时本人保证毕业后结合学 位论文研究课题再撰写的论文一律注明作者第一署名单位为哈尔 滨工程大学。涉密学位论文待解密后适用本声明。 本论文( 口在授予学位后即可口在授予学位1 2 个月后 口 解密后) 由哈尔滨 作者( 签字) 日期： 砂7 工程大学送交有关部门进行保存、汇编等。 苌嬲砻风荀 汐降6 月伊。 第1 章绪论 1 1 课题背景及意义 第l 章绪论 随着科学的进步以及通信技术的飞速发展，各种通信电子设备的大量使 用，信号在传播的过程中容易受到外界的干扰和污染。这种复杂的情况使得 人们对信号处理技术的要求也越来越高。当传输信道不可知或难以预测时， 如何让计算机从接收到的信号中筛选出感兴趣的信号以及需要的信息，是目 前信号处理领域中亟待解决的问题。盲源分离( b 1 i n ds o u r c es e p a r a t i o n ， b s s ) 就是用来解决此类问题的一个途径。盲源分离是现代信号处理领域的一 个崭新方向，它要处理的对象是一组传感器接收到的信号，通常称之为传感 器信号( s e n s o rs i g n a l s ) ，也称混合信号( m i x e ds i g n a l s ) ；盲源分离的目的 是在对源信号的数目、位置及传输信道参数等信息未知的情况下，仅利用传 感器信号和源信号的统计特性，寻找一种合适的滤波器或逆系统，使得输出 的信号尽可能地接近源信号。 盲源分离的最初模型是“鸡尾酒会 问题：在嘈杂的鸡尾酒会场，有许 多人同时说话，四周还混杂着背景音乐和其他噪声。但是当人们对某个人的 谈话感兴趣时，仍然可以听到这个人的说话声，而忽略其它干扰。在这种情 况下，每个人的说话声相当于一个源信号，人的耳朵相当于两个麦克风，人 的大脑就是一台精密的语音信号处理器，可以提取出感兴趣的语音。多年来， 人们一直致力于对人耳听觉机理的研究，并希望机器也具有这种选择性地提 取信号的能力。 目前，盲源分离算法虽然远未达到人耳那样的精确度和抗干扰性，但是 由于它在许多领域的潜在应用，已经引起了越来越多的学者关注，并得到迅 速发展。它的主要算法包括独立分量分析( i n d e p e n d e n tc o m p o n e n ta n a l y s i s ， i c a ) 、多通道盲解卷积( m u l t i c h a n n e lb 1 i n dd e c o n v 0 1 u t i o n ，m b d ) 、盲提取 哈尔滨丁程大学博士学位论文 ( b 1 i n ds o u r c ee x t r a c t i o n ，b s e ) 等。这里所谓的“盲 有两重含义：( 1 ) 源信号不能被观测；( 2 ) 传输信道不可知或难以估计。盲源分离对系统的先验 知识要求甚少，因此具有广阔的应用前景。尤其是在语音信号处理、无线通 信、模式识别及图像处理、生物医学信号处理、地球物理数据处理、数据挖 掘等方面。下面给出盲源分离的几个重要应用： 1 图象处理n _ 羽。图象中的大部分重要特征信息( 如图象的边缘特征和纹 理特征等) 都包含在图象象素的高阶统计量中。而独立分量分析在提取高阶信 息中表现出色，因此常被用于图象特征的提取。在人脸识别中，用独立分量 分析提取的高阶信息能够比二阶信息更好地反映人脸的特征，因此具有更好 的性能。另外，盲源分离还被广泛地应用于图象复原、图象去噪等领域。 2 语音信号处理和无线通信。在“鸡尾酒会”问题中，麦克风接收到的 语音信号是多种声音的混合。盲源分离可以做为语音识别等语音信号处理的 前端净化处理方法，为进一步的处理提供高质量的语音信号h 3 。在无线通信 中，由于信号源的移动性和气候条件的变化无常，使得传输信道等参数难以 估计，加大了信号处理的难度。因此需要采用合适的盲源分离算法从干扰噪 声中提取有用的信号。独立分量分析还经常被用于c d m a 通信的多用户检测技 术。c d m a 是近年来数字移动通信中的一种无线扩频通信技术。在c d m a 系统中， 多个用户共享一个频带，各个用户通过不同的编码序列来区分。由于编码之 间不是严格的正交，具有一定的相关性。这就导致了多个用户之间存在着多 址干扰( m u l t i p l ea c c e s si n t e r f e r e n c e ，m a i ) 。多用户检测是克服这种干扰 的关键技术。独立分量分析应用于多用户检测可以充分利用各用户编码之间 的独立性，最大程度地减少多址干扰哺刮。 3 生物医学信号处理。在现代医学中，非侵入式的方法在对疾病进行诊 断和预测中有着广泛的应用，例如心电图( e c g ) 、肌电图( e m g ) 、脑电图( e e g ) 等。这些医疗手段所采集的源信号往往都很微弱，不稳定，且容易受外界的 干扰。例如，在脑电信号的记录中往往包含着心电、肌电、眨眼等非脑电信 号产生的伪差，这些干扰使得对脑电信号的分析产生误差。利用盲源分离技 术可以对信号进行预处理、消噪，以及抑制干扰信号，提取有用信号等阳1 训。 第1 章绪论 1 2 盲源分离的数学模型 盲源分离处理的对象是从传感器得到的一组混合信号，目的是在缺乏传 输信道和源信号特性的情况下重构或恢复出源信号，如图1 1 所示。其中 $ - - ( 墨( 尼) ，是( 七) ，知( 尼) ) 2 表示个未知源信号组成的向量， ，= ( v l ( 七) ，v 2 ( j | ) ，v ( 尼) ) r 表示噪声向量，x - ( x i ( j ) ，屯( 尼) ，( 七) ) 7 。表 示由m 个传感器信号组成的向量，j ，= ( 咒( 尼) ，儿( 尼) ，蛳( 七) ) 。是待求的分离 信号向量。 源 毒譬 厂， 、 巧 “ s 一 晚声 厂， 弋 v 1 琵舟i 青； 厂卜 r r 彳 兰! - 乙2 解混合 乏 襄统 图1 1 盲源分离框图 f i g1 1 a r c h i t e c t u r eo fb l i n ds o u r c es e p a r a t i o n 在盲源分离问题中，除混合信号以外没有任何先验知识可以利用。但事 实上，在完全“盲”的情况下分离信号几乎不可能。人们通常对源信号或传 输信道加以适当的假设来弥补先验知识的不足。根据这些假设，可以将盲源 分离问题按照不同的标准分类： 1 按照源信号与混合信号的数目分为：超定盲源分离、正定盲源分离和 欠定盲源分离。它们依次指的是源信号数目小于、等于、大于观测信号数目 3 哈尔溟t 程大学博七学位论文 的情况。 2 根据源信号的混合方式可分为：线性混合、卷积混合和非线性混合。 3 根据源信号的统计特性，如果假设源信号是统计独立的、至多一个高 斯源、无时序结构，则主要采用高阶统计量的方法；如果假设源信号是时间 相关的，具有时序结构，则可采取二阶统计量的方法。 最简单的盲源分离模型是线性混合，每个传感器信号都是源信号的线性 组合。如果噪声忽略不计，那么线性混合模型表示为： ， 蕾( 七) = 嘞_ ( k ) ，( i = l ，2 ，m ) ( 1 1 ) j = l 写成矩阵形式： x ( k ) = a s ( k ) ( 卜2 ) 其中a 是m x n 阶的混合矩阵。对瞬时混合模型的分离可表示为： y ( k ) = w x ( k ) ( 卜3 ) 其中是n x m 阶分离矩阵。 非线性混合模型表示为： x ( 后) = f ( a s ( k ) 1 ( 卜4 ) 其中，厂是未知的可逆实值非线性函数。对非线性混合进行解混的目的是要 找到一个非线性映射g ，使得j ，( 七) = g ( x ( 七) ) 尽可能地接近源信号n 。 卷积混合模型表示为： x ( 七) = a p s ( k - p ) ( 1 5 ) p “ 其中，a 。为时延p 的混合系数矩阵。卷积混合模型的盲分离也称为多通道盲 解卷积，它的输出信号表示为： ，( 七) = wx ( k - p ) ( 1 6 ) j 口= 一 其中睨是与a p 对应的解混合矩阵。 4 第l 章绪论 1 3 盲源分离的研究现状 盲源分离问题的研究开始于八十年代中后期。当时的研究热点是神经网 络，法国学者j u t t e n 等人在进行生物医学研究工作时发现了这个问题，当时 只是在小范围的研究者中受到关注。1 9 8 6 年h e r a u l t 和j u t t e n 提出了一种 基于神经模拟结构的递推算法。该算法仅使用了二阶统计特性，且存在收敛 性不够好的问题。1 9 9 1 年j u t t e n ，h e r a u l t 和c o m o n 在s i g n a lp r o c e s s i n g 上发表了三篇关于盲源分离的经典文章，为盲源分离的研究开辟了一个新阶 段。其中h e r a u l t 和j u t t e n 提出一种基于反馈神经网络的盲源分离算法，即， h j 网络，通过选取奇次非线性函数进行h e b 训练，成功地分离了两个非高 斯的随机信号n 2 叫鲥。同年，t o n g 和l i u 等人给出了完善的盲分离问题的数学 框架，并分析了盲源分离问题的可分离性和不确定性，给出了一类基于高阶 统计量的矩阵代数特征分解方法，即联合对角化方法n 引。1 9 9 2 年，b u r e l 提 出了一个分离线性和非线性混合信号的b p 神经网络算法n 引。 1 9 9 4 年c o m o n 进一步明确了独立分量分析的概念，指出i c a 是扩展的主 分量分析( p r i n c i p a lc o m p o n e n ta n a l y s i s ，p c a ) ，充分利用信号的高阶统计 信息，给出了k u l l b a c k - l e i b l e r 准则的对比函数，成为日后研究盲分离的主 流算法7 1 。同年，c i c h o c k i 等人提出了著名的自然梯度学习算法。后来， 由a m a r i 等人证明了由分离矩阵形成的参数空间的最速下降方向是自然梯度 方向而不是随机梯度方向n 引。 1 9 9 5 年，b e l l 和s e j n o w s k i 用信息理论观点来解释盲源分离问题，并把 信息理论应用到盲源分离和盲解卷积问题中去，用神经网络的非线性特性消 除观测信号的高阶相关性，建立了基于信息最大化的目标函数啪1 。同年， m a t s u o k a 和k a w a m o t o 等人以源信号的时间相关性作为代价函数，通过最小 化这个代价函数，实现了非平稳信号的盲分离。由于在实际环境中多数信号 是非平稳的，这种算法使盲源分离的研究工作从理论向实际应用迈进了一大 止 2 1 ，2 2 少 o 1 9 9 7 年，h y v a r i n e n 和o j a 基于源信号非高斯性测度，给出了一类定点 训练学习算法，使用峭度做为代价函数，对源信号进行提取乜引。o j a 等人还 5 哈尔滨1 二程大学博士学位论文 _ - - 从信息论的角度提出了非线性主分量分析的方法堙卜踟。同年，c a r d o s o 证明 了信息最大化方法和最大似然估计方法的等价性瞳 。最大似然估计方法最早 由g a e t a 和l a c o u m e 于1 9 9 0 年提出滔删。1 9 9 9 年，l e e ，g i r o l a m i 和s e j n o w s k i 提出了适合于同时分离出超高斯信号和亚高斯信号的算法啪1 。2 0 0 3 年，l e e 等人建立了基于信息理论独立分量分析方法的统一框架口。 国内对于盲源分离问题的研究开始于九十年代。清华大学的张贤达在他 1 9 9 6 年出版的时间序列分析高阶统计量方法一书中，介绍了盲分离 的理论基础，并给出了相关算法。2 0 0 1 年，张贤达和保铮在电子学报发表了 一篇关于盲分离的综述性文章，对盲分离的理论、方法和应用进行了概括， 并作出展望刳。2 0 0 5 年，冶继民等人研究了源信号数目未知或动态变化情况 下的盲信号分离问题。国内较早进行盲分离研究的还有东南大学的何振亚、 复旦大学凌燮亭、上海交通大学的胡光锐、虞晓及山东大学的刘琚等。 随着越来越多的学者对盲源分离算法的关注，国际上关于盲源分离专题 的会议也相继出现。1 9 9 9 年，在法国召开的首届“独立分量分析与盲信号分 离”国际学术会议，为盲信号处理算法及应用的发展起到了极大的推动作用。 在之后的几年里，各国都发表了大量关于盲分离方面的论文。v a l p o l a 等人 在2 0 0 0 年的i c a 国际会议上发表了关于非线性独立分量分析( n i c a ) 的论文 3 3 , 3 4 用多层感知器网络来模拟源信号与混合信号的映射，用贝叶斯学习规则 来进行n i c a 。2 0 0 1 年，c h o 等人利用c m o s 芯片实现了四输入四输出的基于 信息理论的自然梯度算法n 胡。另外，最近几年的国际声学、语音和信号处理 大会( i e e ei c a s s p ) 上，每年都有关于盲信号处理的专题。权威刊物s i g n a l p r o c e s s i n g 和n e r o c o m p u t i n g 的论文中，也频繁出现关于b s s 领域的文章。 国际上盲源分离算法的研究机构和学者主要有：以s e j n o w s k i 和b e l1 为代表的美国加州大学生物系s u l kt n s t i t u t e s 神经生物学计算实验室 ( c o m p u t a t i o n a ln e u r o b i o l o g yl a b ) 。他们提出的算法主要有信息最大化盲 分离方法( i n f o r m a t i o nm a x i m i z a t i o n ，i n f o m a x ) ；日本数量神经科学实验室 的学者c i c h o c k i 和a m a r i ，他们的工作主要采用了互信息最小化方法及人工 神经网络的优化方法；以o j a 为首的芬兰赫尔辛基工业大学神经网络研究中 6 第1 章绪论 心和以h y v a r i n e n 为首的赫尔辛基大学计算机科学系神经信息研究组，他们 早期的工作主要围绕非线性主分量分析进行。另外，还有法国的学者c o m o n ， c a r d o s o ，英国格拉斯哥大学计算机科学系的g i r o l a m i 等。 1 4 论文主要工作 从独立分量分析问题被提出以来，不断涌现出大量优秀的算法。但是盲 源分离问题还有很多问题有待解决。无论是在适用范围，算法性能等方面都 存在很多问题。本文主要从以下几个方面做了一些工作： 首先，分析了卷积混合信号的盲分离算法，并提出了一个基于相邻频点 幅度相关性的去除排序不确定性的算法。通过构造相邻频点的幅度相关矩阵， 来确定几个输出信号在频域中的顺序。这样做的好处在于，可以在线地对卷 积信号的频域盲分离算法的排序进行确定，使得每个频点的瞬时解混合与顺 序的确定同步进行。 对欠定情况下的时频域盲分离算法进行探讨。首先利用人耳听觉模型和 听觉掩蔽效应对感兴趣语音的提取能力，提出了一个基于听觉场景分析的盲 分离方法，可以对多个源信号混合而成的两个传感器信号进行分离。以耳间 时间差( i n t e r a u a lt i m ed if f e r e n c e si t d ) 和耳间强度差( i n t e r a u a l i n t e n s i t yd i f f e r e n c e s ，i i d ) 为特征，对混合信号的频域表示进行聚类，得 到源信号的频域表示。由于i i d 和i t d 分别在高低频段起主要作用，聚类时 对高低频段采取了不同的分类准则。又提出了一种欠定卷积混合语音盲分离 算法。构造源信号的幅度衰减和时间延迟向量，对传感器信号进行聚类。 提出一个新的欠定盲源分离算法，用于源信号在时频域不充分稀疏情况 下的盲分离。分离过程分为两个步骤：估计混合矩阵和恢复源信号。估计混 合矩阵时，利用网格和密度聚类的算法，估计出幅度衰减和时间延迟这两个 特征的聚类中心，做为混合参数；对源信号进行恢复时，网格的使用可以减 少求最小j i 范数解时的计算量。 提出了一种基于匹配追踪的稀疏源信号恢复算法。针对匹配追踪算法应 用于稀疏源信号恢复问题中时，所产生的不收敛及鲁棒性差的问题，将匹配 哈尔滨工程大学博士学位论文 追踪算法加以改进，有效地提高了算法的性能，在病态矩阵情况下也可以取 得很好的效果。 1 5 论文组织结构 全文共分5 章，各章节内容安排如下： 第1 章为绪论，给出了课题的研究意义和背景，对国内外研究现状进行 了简要的叙述，并介绍了论文的研究内容和主要工作。 第2 章介绍了盲源分离算法的理论基础，包括盲源分离的分类以及主要 算法等。 第3 章研究了频域卷积信号的盲分离算法中的排序不确定问题，提出了 一个基于相邻频点幅度相关的排序不确定性去除算法。 第4 ，5 章主要对源信号数目大于传感器数目情况下的盲分离算法进行探 讨。其中： 第4 章研究了源信号在时频域充分稀疏的盲分离算法。介绍了人耳听觉 模型在盲分离算法中的应用，提出了利用听觉特征进行聚类的盲源分离算法。 并给出一个欠定情况下的卷积混合盲分离算法。 第5 章研究了基于稀疏分量分析的盲源分离问题。首先给出了一个利用 网格和密度聚类的的盲分离算法。又提出了一个利用匹配追踪进行源信号恢 复的盲源分离算法。 最后，在论文的结论部分，作者对全文进行了总结，并对以后进一步的 研究进行了展望。 8 第2 章盲源分离的理论基础和主要算法 第2 章盲源分离的理论基础和主要算法 盲源分离具有十分广泛的理论基础。为了更好地理解盲源分离算法的原 理，本章对涉及到的概率统计学和信息论基础知识进行简要的介绍，并给出 了盲源分离的几个典型算法。 2 1 概率与统计理论 2 1 1 随机变量的统计独立性 简单地说，如果一个随机变量不包含另一个随机变量的任何信息，那么 可以认为这两个随机变量是相互独立的。对于两个随机变量工和y ，它们是 相互独立的，当且仅当它们满足： p ( x ，y ) = p ( x ) p ( y ) ( 2 1 ) 其中，p ( x ) 和p ( y ) 分别是随机变量工和y 的概率密度，p ( x ，y ) 是它们的联 合概率密度函数。 对于一个随机向量x - ( x l , 恐，吒) ，它们各个分量的相互独立性条件可 定义为： p ( x l ，x 2 ，x n ) = p ( 五) p ( x 2 ) p ( 吒) ( 2 2 ) 式中，p ( x l ，x 29 19 k ) 是联合概率密度函数，p ( x i ) 是第f 个信号的边缘概率密 度函数。 相互独立的随机变量有下面的性质： e e g ( x ) ( 少) = e g ( x ) e 乃( y ) ( 2 3 ) 其中g ( x ) 和办( y ) 是可积函数。 在概率统计理论中还有一个与独立性相似的概念，即不相关性。如果有 e x y 】- e x e y 】 ( 2 4 ) 9 哈尔溟t 程大学博士学何论文 则称随机变量是互不相关的。如果信号相互独立，那么它们肯定是互不相关的； 但是如果随机变量是互不相关的，并不能说明它们的相互独立性。因此，不相 关是比相互独立弱的一个条件。 2 1 2 高阶累积量和峭度 随机变量石的特征函数定义为： 妒( 缈) = e e x p ( j 国x ) j = e e x p ( 织) p ( x ) 出( 2 - 5 ) 其中，= 厅。通常称妒( 缈) 为第一特征函数。 随机变量x 的k 阶矩m 。定义为： m 。- e l ， ( 2 - 6 ) 对特征函数进行泰勒展开，有： 件e 陲掣扣出= 鼢1 譬浯7 ， 上述展开的系数项e x 。 称为随机变量的原点矩，因此，第一特征函数又称 矩产生函数。 对式( 2 - 5 ) 取自然对数，得到 妒( 缈) = l i l 缈( 缈) = h e e x p ( _ 僦) ) ( 2 8 ) 这里妒( 缈) 称为第二特征函数。再对上式进行泰勒级数展开： 妒( 缈) = 薹砭百( j c o ) k ( 2 _ 9 ) 其中，系数项瓦= ( 一，) 就称为随机变量x 的k 阶累积量，妒( 缈) 也 称为累积量产生函数。一般情况下，常用的有前4 阶累积量。根据式( 2 9 ) ， 1 0 第2 苹百源分离的理论基础和土婴算法 前4 阶累积量分别为： 葺= m 砭= e i x 2 h 工】) 2 玛：e x ， 一3 x ： e l x 卜2 ( e l x 】) 2 ( 2 - 1 0 ) 砭= x 4 一3 e x 2 ) 2 - 4 e e x 3 e x 】+ 1 2 e x ：弘啪2 6 e 工】) 4 如果假设随机变量的均值为零，即，e 工】：0 ，那么前4 阶累积量变为： k = 0 砭= 工2 巧- e l 工3 砭= 工4 卜3 e l y 2 ) 2 ( 2 - 1 1 ) 在式( 2 一1 1 ) 中，4 阶累积量砭又称峭度，记为k u r t ( x ) 。它是用来度量随 机变量非高斯性的一个指标。当k u r t ( x 1 = 0 时，随机变量服从高斯分布；当 k u r t ( x ) 0 时，随机变量服从超高斯分布；当k u r t ( x ) 0 。n z _ , ，白化矩阵可表示为： 哈尔滨 = ：程大学博十学位论文 q = 4 啦嘭= a i a s 击，丽1 ，击 曙 ( 2 - s 2 ， 将式( 2 - 8 2 ) 代入( 2 - 8 0 ) ，有： 足= 飒q7 = a = 2 t 屹a x 嘭圪4 v 2 = ， ( 2 8 3 ) 令u = o _ a ，a = q u ，根据式( 2 8 0 ) 有： m z z ：) 2 掣蛳7 q 丁冲 姒幽7 q 7 ) ( 2 - 8 4 ) = 幽e f 姆r l 彳r q r = u u r 、。 带时滞的协方差矩阵为： 置( f ) = z ( 尼) z ( 七一f ) ) = 9 _ r x ( f ) q r = u r , ( f ) u r ( 2 8 5 ) 由上式可以看出，矩阵彳的盲辨识可以通过对白化后的信号的相关矩阵 进行对角化，即特征值分解来实现。但是，对某一个时滞的相关矩阵进行特 征值分解并不能保证很好的分离信号。因此，可以采取多个时滞相关矩阵的 联合近似对角化方法晦h 朝。 2 4 4 基于源信号稀疏性的盲源分离 当源信号数目大于传感器信号数目时，利用一般的独立分量分析算法不 能对混合信号进行分离。此时的混合矩阵是不可逆的，不能简单地通过对混 合矩阵求逆的方法得到源信号。通常把这种情况称为欠定盲源分离。解决这 类问题常用的方法是利用源信号的稀疏性假设。 稀疏性是指，信号中非零值的采样点数目较少。从概率统计的角度来说， 稀疏信号具有超高斯分布，即概率密度函数在零处有很高的尖峰。稀疏分量 分析是一种利用源信号稀疏性来进行欠定盲分离的方法。近几年来，很多学 者对欠定盲分离进行了大量的研究。目前信号的稀疏性有两种情况：一种是 信号在时域是稀疏的，另一种是信号在变换域的稀疏性优于时域。这两种算 法都受到了研究者的关注。1 9 9 9 年l e e 等人利用信号的超完备表示，提出了 一个用于源信号数目大于混合信号数目情况的盲分离算法。2 0 0 0 年， a l e x a n d e r 等利用源信号在变换域的稀疏性，提出了一个无回响情况下从两 第2 章盲源分离的理论基础和主要算法 个混合信号分离出多个源信号的算法，即，d u e t ( d e g e n e r a t eu n m i x i n g e s t i m a t i o nt e c h n i q u e ) 算法3 。在此后的时间里，由此派生出许多利用时频 域稀疏性的盲分离算法嫡5 删。 b o f i l l 和z i b u l e v s k y 利用聚类的方法来估计混和矩阵，用最短路径分解 ( s h o r t e s tp a t hd e c o m p o s i t i o n ) 方法来估计源信号。以后的很多稀疏分量分 析盲分离方法都采用这种二阶段的分离模式。在第一阶段，有基于势函数 ( p o t e n t i a lf u n c t i o n ) 的方法畸引、k 一均值聚类法旧3 、w i n n e r t a k e s a l l 算法 和基于时频点比率聚类法等障朝；第二阶段有最小厶范数解算法、短路径分解 0 士盘莹 s 9 ，6 4 【的】 i 1 目o 2 5 本章小结 本章对盲源分离的理论基础和主要算法做了简要介绍。盲源分离的理论 基础包括概率统计学和信息理论的基本知识，如统计独立性，高阶统计量， 熵等。介绍了独立分量分析的基本模型，幅度不确定性，排序不确定性和评 价准则。独立分量分析的原理是根据概率统计学和信息理论的有关知识，构 造一个合适的代价函数，再利用某种优化方法，搜索代价函数的极值点，从 而得到一组相互独立的分量。本文重点介绍了盲源分离的几个典型算法：基 于各种准则的独立分量分析，基于二阶统计量的盲源分离和基于源信号稀疏 性的盲源分离。 哈尔滨工程大学博士学位论文 第3 章频域盲分离算法中的排序不确定问题 3 1 引言 本章研究了时频域卷积混合信号的盲分离问题。卷积混合是指传感器接 收到的信号不仅是源信号直接到达的部分，还包括通过各种途径的反射信号 到达传感器的部分。这种混合方式最为接近实际情况，解决这类问题的方法 称为多通道盲解卷积。较早的盲解卷积方法是由s a t o ，g a n d a r d 和b e n v e n i s t e 等提出的b u s s g a n g 类算法嘲1 ，他们的算法主要是针对单通道情况进行源信 号的恢复。p l a i t ，f a g g i n 等人将h j 算法推广到具有时间延迟和卷积混叠 的情况汹】。y e l l i n 和w e i n s t e i n 给出了基于高阶累积量和高阶谱的多通道盲 解卷积方法，他们通过递归特征分解，可以同时进行盲系统参数辨识和盲反 卷积哺7 1 。上述的方法由于用到了高阶累积量，运算量极大。t o r k k o l a 提出了 一个反馈网络结构，将