（应用数学专业论文）非平稳源盲分离算法研究.pdf

摘要 盲源分离就是根据观测到的未知源信号的混合信号来分离或恢复出源信号。 若对于混合没有任何先验知识，该混合就必须被盲处理。本文详细阐述了盲源分 离的基本理论，研究了非平稳源的盲分离问题，主要内容概括如下： 考虑源信号为非平稳的情形，本文提出了一种新颖的利用二阶统计量的非 平稳源信号的盲分离方法。为充分利用源信号的非平稳性和时间相关特性，本文 对观测数据用滑窗的方法得到不同的时延相关矩阵，然后利用联合对角化方法来 估计源信号和混合矩阵，仿真结果说明该方法具有良好的性能。 本文还研究了两种口一稳定噪声中非平稳源的盲分离算法。针对a 一稳定噪 声的冲激特性，第一种算法基于子空间方法对观测数据进行预处理，第二种算法 则用一个门限值对观测数据进行预处理，它只限于口趋于l 的情况。这两种算法中 预处理后的数据均可利用联合对角化方法来实现盲分离。不同的仿真结果表明这 两种方法都可以克服口一稳定噪声引入的冲激特性，具有良好的性能。 本文的工作得到了国家自然科学基金的资助。 关键词：盲源分离非平稳信号二阶统计量联合对角化口一稳定过程 a b s t r a c t b l i n ds o u r c es e p a r a t i o nc o n s i s t so fr e c o v e r i n gas e to fu n k n o w ns o u r c es i g n a l so f w h i c ho n l ym i x e ds i g n a l sa r eo b s e r v e d i fn oap r i o r ii n f o r m a t i o no nt h em i x t u r e si s a v a i l a b l e ，t h em i x t u r e sm u s tb e “b l i n d l y ”p r o c e s s e d t h i sp a p e rd e s c r i b e si nd e t a i lt h e b a s i ct h e o r yo fb l i n ds o u r c es e p a r a t i o n ，t h e ns t u d i e sb l i n ds e p a r a t i o no fn o n s t a t i o n a r y s o u r c e s t h em a i nw o r k so f t h ed i s s e r t a t i o nc a nb es u m m a r i z e da sf o l l o w s ： c o n s i d e r i n gt h en o n s t a t i o n a r i t yo fs o u r c es i g n a l s ，t h i sp a p e rp r e s e n t s an o v e l m e t h o do fb l i n ds e p a r a t i o no f n o n s t a t i o n a r ys o u r c e su s i n gs e c o n do r d e rs t a t i s t i c s t om a k ef u l lu s eo f n o n s t a t i o n a r i t ya n dt e m p o r a lc o r r e l a t i o no fs o u r c e s ，t h i sp a p e r e x p l o i t ss l i d i n gw i n d o w s t of o r mm u l t i p l et i m e - d e l a yc o r r e l a t i o nm a t r i c e so ft h e o b s e r v e dd a t a , t h e nu s ej o i n td i a g o n a l i z a t i o nt oe s t i m a t et h em i x i n gm a t r i xa n d s o u r c es i g n a l s s i m u l a t i o ni sp r o v i d e dt oi l l u m i n a t et h eh i g hp e r f o r m a n c eo ft h e p r o p o s e dm e t h o d t h i s p a p e ra l s os t u d yt w o m e t h o d so fb l i n ds e p a r a t i o no f n o n s t a t i o n a r ys o u r c ei n 口- s t a b l en o i s e a i m i n ga tt h ei m p u l s i v en a t u r eo fa - s t a b l en o i s e ，t h ef i r s tm e t h o d u s e s u b s p a c ea p p r o a c h t o p r o c e s s t h eo b s e r v e dd a t a ；t h eo b s e r v e dd a t aa r e p r e p r o e e s s e du s i n g at h r e s h o l dv a l u ei nt h es e c o n dm e t h o d ，w h i c hi sl i m i t e dt ot h e c a s eo f 口t e n d i n gt ou n i t y t h ep m p r o c e s s e dd a t ao f t h et w om e t h o d sc a nr e c o v e r t h es o u r c eu s i n g j o i n td i a g o n a l i z a t i o n d i f f e r e n ts i m u l a t i o nr e s u l t ss h o w t h a tt h e s e t w om e t h o d sc a no v e r c o m et h ei m p u l s i v en a t u r eo f 口- s t a b l en o i s ea n db o t hh a v e g o o dp e r f o r m a n c e s t h i sp a p e ri ss u p p o s e d b y n a t i o n a ln a t u r a ls c i e n c ef o u n d a t i o no f c h i n a k e y w o r d s ：b l i n ds o u r c es e p a r a t i o nn o n s t a t i o n a r ys i g n a l s e c o n do r d e rs t a t i s t i c s j o i n td i a g o n a l i z a t i o n 口s t a b l ep r o c e s s 第一章绪论 第一章绪论 本章第一节主要介绍盲源分离理论研究的内容及其发展状况：第二节给出了 盲源分离研究的动机和应用背景：第三节介绍了本文的主要工作。 1 1 引言 盲源分离是信号处理领域中的一个基本问题，近十年来己成为一个引人注目 的研究热点。这是因为盲源分离问题有大量潜在的应用并且盲源分离本身也有许 多有价值的理论问题。尽管现在已有不少盲源分离的文献【1 _ 3 】，但依然有很多问题 没有得到解决，事实上盲源分离依然是一个活跃的研究领域，在多用户通信、语 音处理、生物医学工程、阵列处理和地震等诸多领域有着非常重要的理论价值和 实际意义。 所谓盲源分离就是根据观测到的未知源信号的混合信号来分离或恢复出源信 号的过程。典型地，由一组传感器的输出得到混合信号，这里每个传感器接收到 的是源信号的不同的组合。这里术语“盲”有两重含义：第一，源信号不能被观 测；第二，源信号是如何混合的是未知的。显然，当源信号与阵列传感器之间的 传输很难建立起数学模型时，或者关于传输的先验知识无法获得时，盲源分离是 一种很自然的选择。这里把源信号的混合信号称为观测信号，源信号的混合模型 称为混合系统。盲源分离的混合系统信号模型如图1 1 所示： a 混合系统 图1 1 盲源分离的混合系统信号模型 而( t ) 屯( t ) ( t ) 图1 1 中观测信号( f ) 是源信号墨( r ) ，1 i n 的某一函数，这个把( f ) 映射到 _ ( ，) 的函数称为混合函数。观测者只能观测到传感器接收到的信号 x f l t ) ，1 ，m ，而源信号和混合函数都是未知的；盲源分离的任务就是通过辨识 混合函数来恢复源信号。由于这个问题是一般性的，因此需要不同的标准对它进 非平稳源盲分离算法研究 行分类，这些标准包括源信号的先验知识、混合函数的特性及它与源信号的关系。 此外，源信号和观测信号的数目是观测信号可分离性的一个至关重要的因素。这 里假设源信号是相互独立的，即各个源信号的联合概率密度等于它们各自的边缘 密度的乘积。这个问题也可以称作独立分量分析( i c a ) 。至于混合函数，它可以是 线性的或非线性的，瞬时的或卷积的。同样混合函数也可以是时不变的或时变的， 假设它为时不变时便于分析，绝大多数研究人员都作这样的假设，本文中考虑的 便是线性时不变瞬时混合函数。但也有一些学者研究混合函数时变时的盲分离问 题，可见本节中后面的介绍。 最早的进行盲源分离方法研究的是t r e i c h l e r 和l a r i m o r e l 4 提出的恒模算法， 这个算法可以同时完成源信号的盲分离和信道的均衡。但是当信号源较多时，该 算法的稳定性还有待于提高。j u t t e n 和h e r a u l t 5 1 提出了一种类神经盲源分离方法， 该方法基于反馈神经网络，通过取奇次的非线性函数构成h e b b 训练，从而达到盲 源分离的目的。该方法只能用于两个混合源信号的盲分离，非线性函数的选取具 有随意性，并且缺乏理论解释。t o n g 和l i u 等人【6 1 分析了盲源分离问题的可分离 性和不确定性，并给出一种基于高阶统计量的矩阵代数分解方法。c a r d o s o 和 s o u l o u m i a c 7 1 提出了一类基于高阶统计量的联合对角化盲源分离方法，并用于波束 形成。c o m o n 8 】分析了瞬时混合信号的盲分离问题，明确了独立分量分析的概念， 并利用可以测度源信号统计独立性的k u l l b a c k l e i b e r ( k l ) 准则作为对比函数 ( c o n t r a s tf u n c t i o n ) ，通过对概率密度函数的高阶近似，得出用于测度信号各分量 统计独立的对比函数，并由此得出一类基于特征分解的独立分量分析方法。需要 指出的是独立分量分析虽然在概念上是一个简单的问题，但它可以引入许多有趣 的技术，如高阶统计量、信息论、稀疏编码、投影追踪和信息几何等等，并有着 广泛的应用。在从神经网络角度研究自适应信号分离的独立分量分析方法时，为 克服随机梯度优化方法收敛比较慢的缺点，c i c h o c k i 等人p 1 提出了自然梯度算法， 它的学习规则不仅容易计算，而且非常有效。后来，a m a r i i ”1 证明了自然梯度算法 的有效性。c a r d o s o 和l a h e l d ! “1 从自适应信号分离必须具有等变化性( e q u i v a r i a n t ) 出发，相对于一般梯度( 绝对梯度) ，定义了相对梯度，由之得到的算法称为随机 相对梯度算法，可以证明自然梯度算法与随机相对梯度算法是等价的，因而自然 梯度算法也具有等变化性。b e l l 和s e j n o w s k i ! ”1 基于信息理论，通过最大化输出非 线性节点的熵，得出一种最大信息传输的准则函数并由此导出一种自适应的盲源 分离方法和盲反卷积方法，当该方法中非线性函数的选取逼近源信号的概率分御 时，可以较好的恢复出源信号，但它只能用于源信号峭度( k u r t o s i s ) 大于某一值 的信号的盲分离，所以它对分离线性混合的语音信号非常有效。y a n g 和a m a r i l l 3 1 已 证明：熵最大化与独立分量分析是等价的。a m a r i 、c i c h o c k i 和y a h g 4 1 基于信息 理论中概率密度的g r a m c h a r l i e r 展开利用最小互信息( m i m i m u mm u t u a l 第一章绪论 i n f o r m a t i o n - m m i ) 准则函数，得出一类前馈网络的训练算法，可以有效的分离峭 度为负值的源信号，该算法具有等变化性，即不受混合矩阵的影响。h y v a r i n e n 【l ” 基于源信号非高斯性测度( 或峭度) ，给出一类定点训练算法( f i x e d p o i n t ) ，该类 算法能提取单个具有正或负峭度的源信号。相对于线性混合模型，非线性混合模 型的盲信号分离方法更为困难。也有不少作者提出了一些算法i l “2 “，这些算法大 致可以三类：无模型方法、感知器方法和径向基函数网络方法。随着盲源分离方 法理论和技术的进一步发展，不少在盲源分离领域成果丰硕的学者撰写了综述性 的文章( 如参考文献【2 1 2 3 】) ，更有一些学者有盲源分离和独立分量分析方面的 专著( 如 1 3 ) 出版，较为全面地阐述了盲源分离方法的理论和技术。 在以上大多数的情况下考虑的是源信号为平稳信号、混合函数不时变的情况。 但在现实世界中，非平稳的例子比比皆是。在考虑一些问题时，必须考虑到它的 非平稳性。所以近来，盲源分离问题中的非平稳性引起了大家广泛的关注。盲源 分离中的非平稳性问题可以分为以下三类： 1 ) 混合函数不时变，源信号为非平稳的，研究盲分离中的非平稳性问题的 大多数学者考虑的是这种情况，s o u l o u m i a c t2 4 l 对两个协方差矩阵进行确 切的联合对角化( 这等价于解一个广义特征值问题) ，由此得出的算法能 实现非平稳源的盲分离。m a t s u o k a 等人【2 5 】考虑了一个本质上是高斯互 信息的标准，但他们对于其中的最优化问题只提出一个随机梯度问题。 p h a m 和c a r d o s o l 2 6 】提出的拟牛顿型方法显然要优于前者。c h o i 和 c i c h o e k i t 2 7 】利用不同的时间窗数据框架结构得到多个时延相关矩阵，然后 用联合对角化方法来估计混合矩阵。 2 ) 混合系统时变、源信号为平稳的，e v e r s o n 和r o b e r t s 28 】提出一种点滤波 ( p a r t i c l ef i l t e r ) 的非平稳独立分量分析方法，而后在文献 2 9 仲提出一种 有效的跟踪混合矩阵同时估计源信号的方法来解决盲分离问题，这里独 立源的混合根据马尔可夫过程建模成进化过程。a h m c d ”1 在混合系统时 变，源的密度能建模成有限个高斯混合的情况下，用贝叶斯方法，即著 名的马尔可夫链蒙特卡罗( m c m c ) 方法来仿真实现以解决这种情况下 的盲分离问题，其中用批处理方法，如g i b b s 采样，即使数据很少也能得 到满意的结果。p a r g a 和n a d a l ”】也提出一种混合系统缓慢平滑变换时的 盲分离方法，在源信号平稳和各态历经时给出种代数解法，但他们并 没有给出仿真结果。 3 ) 混合系统时变、源信号非平稳，这种情况最为复杂，据作者所知，这类 研究尚不多见。 目前大多的盲源分离算法中，通常不考虑加性噪声的存在，即使假设有加性 噪声，其噪声均假设为平稳加性白噪声，即噪声的二阶统计量是存在的。然而在 非平稳源盲分离算法研究 许多实际环境中所遇到的噪声是脉冲噪声，通常具有很强的冲激特性，如水下噪 声，低频大气噪声以及各种人造噪声。s h a o 和n i k i a s l 3 2 1 的研究表明把这些脉冲噪 声建模成d 一稳定过程要优于建模成高斯过程。6 t 一稳定分布为高斯分布的推广，它 们的不同就在于口一稳定分布是代数重拖尾分布，口控制其拖尾的大小，口越小其 分布显示越强的冲激性，由于非高斯口一稳定噪声不具有高阶矩( 阶数2 ) ，所以 对于盲源分离来说，不能直接利用二阶或高阶统计量方法( 如文c a r d o s o 等人”的 s o b i 算法) 对口一稳定噪声中的信号进行盲分离；而用分数低阶矩方法则破坏了对 角化结构，也不能够使用。本文在第四章中研究了在t 2 一稳定噪声中的非平稳源盲 分离方法。 近来在国内也有一些学者在研究盲信号处理理论和应用技术，凌燮亭 3 4 1 和何 振亚t 3 s - 3 s 1 在国内较早的进行了盲信号处理的研究。凌燮亭 3 4 j 用反馈式神经网络根 据h c b b i a n 的学习算法，实现了近场情况下一般信号的盲分离，并对算法的渐进收 敛性何实现信号分离状态的稳定性进行了讨论。何振亚 3 3 - 3 8 1 在基于特征分析和高 阶谱的盲源分离和盲反卷积方法研究中，提出了一系列基于高阶统计量和信息理 论的判据和算法，在盲系统参数估计和盲波束形成等方面也取得了许多很好的研 究成果。胡光锐【3 9 1 对盲语音分离问题的进行了研究，并提出了基于混合高斯模型 概率密度估计的语音分离方法。冯大政等人1 4 0 1 提出了一种信号盲分离问题的多阶 段分解算法，它在算法的每个阶段仅抽取单个独立分量，通过系统化的多阶段分 解和多阶段重构，可以得到全部独立分量。近来，刘琚和何振亚】、张贤达和保 铮e 4 2 分别撰写了关于盲源分离的综述性文章，张贤达和保铮【4 3 1 在他们的专著中也 详尽的介绍了盲源分离问题，他们的工作一定会在更大程度上推动我国国内盲源 分离的研究工作的进一步发展。 1 2 研究动机与应用背景 盲源分离最主要的动机是试图解决鸡尾酒会( c o c k t a i lp a r t y ) 问题，即在一个 同时存在众多不同说话者或语音信号的环境中，听众用双耳( 这相当于有多个信号 而只有两个传感器的问题) 能分辨出其中一个说话者的所讲的话。b e l l 和 s e j n o w s k i 1 2 l 的研究主要应用于人工混合的声音信号的盲分离，但是在一个房间中 ( 包含回音和时延) 混合信号的盲分离是一个更为困难的问题，要求在基本的独 立分量分析方法基础上考虑多径解卷积，已经有了几种方法来解决这个问题 4 4 - 4 6 ， 但这些方法是不是解决这个问题的最好的方法并不清楚，因为e l h e r s 和s c h u s t e r 4 7 】 中只用二阶统计方法也能得到很好的结果，这个方法扩展了m o l g e d e y 和 s c h u s t e r l 4 ”中的工作，用时延解相关来分离人工混合的声音信号，这些二阶统计方 第一章绪论 法利用声音信号的时间相关来限制解，n g o 和b h a d k a m k a r m l 则提出了对阵列的输 出进行解相关来进行同时进行盲信号的分离和回音对消的频域方法。 盲源分离可以用在生物医学中，例如c h a r t m l 研究了分离心电图( e c g ) 中不 同的分量，检测含在脑电图( e e g ) 中的重要信号。m a k e i g ，j u n g 和b e l l 口”从脑 电图号中记录的时间相关的相应数据分解为与传感器数量相等的成分。b a k e r ， k i l n e r 和a h m e d ”1 确定肌电图( e m g ) 中神经元信号的钻孔布置平面图，其中 肌电图由放置在皮肤上不同地方的电极经过非损害测量得到。事实上，j u t t e n 和 h e r a u l t l 5 1 在盲源分离问题的开创性研究中用的神经元结构就是由生物学特别是神 经元系统所激发的，他们注意到信号分离发生在中枢神经系统( c n s ) 中，神经 纤维i 和i i 传送拉伸和拉伸速度混合的信息，但中枢神经系统能够分离这两组信 息。 盲源分离还可以应用于被动声纳和阵列处理，这里阵列接收到的是叠加的雷 达信号。c h a u m e t t e ，c o m o n 和m u l l e r t ”l 用单脉冲对雷达空中交通管制进行独立分 量分析，这里分离了若干飞机的混合信息。 盲源分离应用的另外一个主要的领域是通信信号的处理中 5 4 - 5 6 1 ，现实世界通 信中一个盲分离的例子是在c d m a 移动通信中用盲分离技术把用户自己的信号从 别的干扰信号中分离出来。这个问题在关于c d m a 数据模型的一些先验知识可用 的意义上是半盲的。 1 3 本文的主要工作 本文在详细论述盲源分离理论的基础上，分别研究了在白噪声和脉冲噪声中 非平稳源的盲分离方法，本文所作的主要工作包括： 1 ) 详尽论述了盲源分离的基本理论； 2 ) 介绍了联合对角化方法并提出了一种基于二阶统计量的非平稳源的盲分 离算法，并对人工混合的语音信号作了仿真，取得了满意的结果： 3 ) 首先介绍了口一稳定过程的定义和性质，针对口一稳定过程的脉冲特性提出 两种盲分离算法，不同的仿真结果表明这两种方法都可以克服a 一稳定噪 声引入的冲激特性，具有良好的性能。 本文内容的组织编排如下：第一章是绪论部分，主要介绍了盲源分离研究的 内容和发展状况，研究动机和应用背景以及本文所作的研究工作和各章节的安排； 第二章是盲源分离的基本理论，首先给出了盲源分离的信号模型，然后讨论了盲 源分离问题的可分离性和分离原则，最后论述了分离系统和分离性能；第三章介 绍了一种利用联合对角化方法的二阶统计量盲源分离算法，然后利用非平稳信号 的特性，提出一种基于二阶统计量的非平稳源盲分离算法，并对人工混合的语音 非平稳源盲分离算法研究 信号作了仿真，取得了满意的结果；第四章首先介绍了一稳定分布的定义和性质， 然后提出一种基于子空间方法和近似联合对角化方法，成功的实现了源信号的盲 分离；尔后进一步研究了在特征指数口趋于1 时的非平稳源的盲分离方法，并通过 计算机仿真实验验证算法的有效性。 第二章盲源分离基本理论 第二章盲源分离基本理论 本章主要介绍了盲源分离问题的基本理论，给出了盲源分离的模型假设，然 后详细讨论盲源分离问题的可分离性和分离原则，最后论述了分离系统和分离性 能。 2 1 盲源分离模型假设 盲源分离就是在源信号和传输信道参数未知的情况下，根据源信号的统计特 性，仅由观测信号来分离或恢复出源信号的过程。这一过程又称为独立分量分析。 这里术语“盲”有两重含义：第一，源信号不能被观测；第二，源信号是如何混 合的是未知的。这里只考虑对源信号经过线性瞬时混迭后得到的观测信号进行分 离。盲源分离方法的基本原理就是观测信号经过一个分离系统后可以分离( 或恢复) 出源信号。盲源分离的信号模型如图2 1 所示： 源信 混合 系统 观测信 分离 系统 离信号 图2 1 盲源分离信号模型 假设个源信号经过线性瞬时混迭后得到肘个观测信号( 或传感器信号) ，下 面的方程对于线性时不变瞬时混合函数成立： 五( ，) = a i j s j ( t ) 产l x 2 ( t ) = a 2 s j ( t ) ( f ) = a 埘s j ( t ) ( 2 1 ) j - i 这里嘞锨，i e 1 ，2 ，m 】，- ，【l ，2 ，】是混合参数，- ( f ) ，j e 1 ，2 ，n 】是源 信号，x i ( ，) ，i 【i ，2 ，m 】是观测信号。用矢量和矩阵的形式来表示式( 2 1 ) ： x ( t ) = a s ( t )( 2 2 ) 非平稳源盲分离算法研究 这里x ( o = h ( f ) ，x ：( f ) ，x m ( o 7 ，a 吼”是元素为的混合矩阵 s ( ，) = j 。( f ) ，s ：( ，) ，- ，占。( f ) 】7 。 由于传输信道和传感器阵列包含加性噪声，因此在实际应用中必须考虑加性 噪声，这样方程( 2 2 ) 中的混合系统就变为 x ( t ) = a s ( t ) + n ( ，) ( 2 3 ) 这里n ( ，) = 玛( ，) ，他( f ) ，( f ) r 是加性噪声矢量。 2 2 可分离性与分离原则 盲源分离问题的可分离性包括信号实际是否可分离和在什么条件下是可分离 的。分离原则为在实现盲分离时所采用的原则。为方便起见，这里先不考虑加性 噪声。为了使用数学术语来陈述上面的问题，我们用下面的形式来描述盲源分离 问题： x ( t ) = ( s ( f ) )( 2 4 ) 和 y ( f ) = g ( x o ”( 2 5 ) 可分离性是指存在一个函数g ( ) ，使得每个y j 包含不同的分量，即m = z j ( s j ) ， 这里z ，是任意的滤波器算子。分离原则指的是怎样来估计函数g ( ) 。我们的讨论限 于线性时不变函数，同时假设源信号是独立的。 需要特别指出的是源信号的独立性假定是盲源分离问题中一个最基本的假 定，从观测数据中分离独立的源信号是基本而又具有挑战性的问题，近年来已受 到广泛的关注。许多研究人员已经用不同的方法例如神经网络、人工学习、高阶 统计量、最小互信息、波束形成和自适应噪声对消等，不同程度上地解决了这个 问题。尽管他们所用的方法不同，但是源信号的统计独立性假设是绝大部分解决 方案中所共有的、最重要的假设。统计独立性意味着知道其中一个源信号，不能 估计或描述任一别的源信号。独立性假定或由它导出的假定( 如不相关) 被上述大 部分的解决方案用作分离标准。换句话说，若输出信号满足独立性标准，那么就 可以认为分离是成功的。y e l l i n 和w e i n s t e i n ! ”1 已证明若源信号是统计独立的， 那么观测信号能分离的一个充分必要条件是分离系统的输出也是统计独立的。本 文中给出的新算法也属于这一类。 源信号是统计独立的当且仅当源信号的联合概率密度凤( s ) 等于边缘密度 第二摩盲源分离基本理论 凤( s ，) 的乘积，即 只( s ) = 兀段( s 。) ( 2 6 ) c o m o n 等人1 阐明了若输融是源信号的线性酌数且分离后的信号是两两独立的， 那么它们邃燕耀互猿立载。 c a o 和l i u t ”1 讨论了在线性时不变函数和独立源信号这两个假设下的源分离 问题，他们的讨论集中予线性对不变瞬时混合系统。t o n g 等人滞l 给出在两种情况 下，也就是不楣关源积独立源的w 辨识舱条 孛。缝4 j 在分析中假设： ( 1 ) 厂( ) 怒一个线性时不变瞬时混合矩阵，也就是信道是线性的且无记忆能力； ( 2 ) ，( ) 怒判潢秩麴； ( 3 ) 源信号s 。是均值为零，协方差矩阵为非奇异的广义平稳过程。 两种霹分离德况兔： 1 不相关源s 能被辨识，若满足下面的条件： ( 1 ) 鼻，f = l ，n 是不裙关的； ( 2 ) 存在一个r 0 使褥 掣訾胁， d 露 e 玲； 。、。 2 独立源s 能被辨识，若 ( 1 ) 最，i = l ，n 是秘互独纛瓣； ( 2 ) 鬻筹m 歹 2 t 印 t o n g 等人娜绘出了波形保持( w a v e f o r mp r e s e r v i n g ) 豹概念，毡爨认为分离嚣戆 输出的非唯一性的集合必须属于个唯的波形类别，他们也证明了源信号也必 须震予弱一类。这熬定义7 解静琴接受簇。在滚僖琴匏概率密度秘传赣信遂懿特 性都未知的情况下不能唯地辨识源信号。 在我稻鹣假设下，( ) 对应乎混合矩阵a ，上蕊鹣分析表明为了尽w 能好靛 恢复出源信号，矩降a 必须是可逆的。这意眯着在给定a 依赖于源的物理位置的 情况下，源信号必须是空间可分解的。进而，源信号的数目必须小于或等于传感 器的数舄 n 对， s ( f ) = a ”x ( t ) = w x ( t )( 2 。1 0 ) 这里w = a 4 楚解混含矩阵，a ”怒a 的m o o r e - - p e n r o s e 广义递矩阵。用超定的 0 非平稳源盲分离算法研究 f m 1 系统有利于提高系统的稳健性，但大多数的研究人员只考虑传感器和源的 数目相等的情况。 若混合系统是可逆的或存在左逆，这对应于m n ( 传感器的数目大于或等于 源信号的数目) 的情况，在方阵的情况下混合矩阵是非奇异的。可以通过直接估计 混合矩阵的逆或伪逆很好的处理这个问题。矩阵非奇异的要求在物理现实上可以 解释为传感器信号是空间可分解的。这是宦源分离问题中最通常的方法。进一步 假设m = ，对应于瞬时混合( 见方程( 2 2 ) ) 的解混合( 分离) 系统形式如下： y ( r ) = w x ( t ) = w a s ( t ) ( 2 1 1 ) 这里w 吼“”，源的估计矢量y ( t ) 吼“1 。在理想的情况下，我们得到目标 w = a 。( 2 1 2 ) 然而，对混合矩阵a 的完全辨识是不可能的，即混合矩阵的辨识是一个病态 问题。在盲信号分离中有两个内在的模糊或不确定性： ( 1 ) 尽管可以将各信源正确分开，但并不能确定其排列顺序，这相当于同时交 换源信号和混合矩阵与之对应的列的位置后，所得到的观测向量是相同的； ( 2 ) 一个信号和与之对应的混合矩阵a 的列之间互换一固定比例因子，对观测 值不会产生影响，即： x ( r ) = 雠) = 喜吼d ( 2 1 3 ) 其中口，是任意复因子，a 是a 的列向量。正是由于上述两个不确定性的存在，使得 解混合系统和混合系统的乘积有以下的形式： w a = d p( 2 1 4 ) 这里d 是对角矩阵，p 是置换矩阵。 混合矩阵a 的非完全辨识称为a 的不确定性。既然a 有不确定性，我们可以 假定源信号有单位方差，即把源信号的复振幅的动态变化归并到混合矩阵a 的相 应的列中。由于源信号假定是不相关的，所以源信号方差的归一化结果为： r 。( o ) = i ( 2 1 5 ) 从而有 r 。( o ) = e x ( o x ”o ) ) = a a ” ( 2 1 6 ) 归一化仍然使得混合矩阵a 的各列的排列顺序和相位保持不确定性。为了解 决这一不确定性问题，c a r d o s o 等人n ”1 将两个矩阵“本质相等”的概念引入盲 源分离中。 定义2 1 ( 矩阵的本质相等) 两个矩阵m 和n 成为本质相等( e s s e n t i a l l y e q u a l ) ，并记作m = n ，若存在一个矩阵g 使得m = n g ，其中g 是一个广义交换 矩阵( 即其每一行每一列只有一个非零元素) ，并且其元素具有单位模。 第二章盲源分离基本理论 由定义2 i 可知，一个矩阵若其列向量交换位置与或某列向量的所有元素都 同乘以一个复指数因子，则所得矩阵是原矩阵的本质相等矩阵。 综上所述，在盲源分离的讨论中，应该将混合矩阵a 的可辨识性可理解为确 定一个与a 本质相等的矩阵。显然，这样的不确定性对源信号的分离不会有任何 实质性的影响，若混合矩阵的估计最多相差排列顺序和相移，则我们仍然能够确 定源信号。 由式( 2 1 5 ) ( 2 1 6 ) 知，在加性噪声n ( f ) 为均值为0 ，方差为盯2 的空间白噪声的 假设下阵列输出的协方差矩阵取以下结构： r ( 0 ) = e y ( t ) y 8 ( r ) ) = a l l 。( o ) a “+ 盯2 i = a a “+ 盯2 i ( 2 1 7 ) r ( r ) = e y ( t ) y “( f f ) = a l l 。( f ) a “，f 0 ( 2 1 8 ) 对于一个不可逆的混合系统( 它不存在左逆) ，例如一种更有挑战性的情况包 含源的数目多于传感器的数目，这种情况必须联合估计源信号和混合系统。这要 求关于源信号的更多的先验知识，因此这种情况“盲”的程度要低一些。 2 3 分离系统与分离性能 若要设计一个分离算法，就必须选择一个分离系统。其中最方便的选择就是 利用混合系统的逆的结构，另外一些通常选择的分离系统为线性卷积、前后馈结 构和神经网络。然后基于分离系统和它们相应的分离准则来估计参数。为满足分 离准则，可以构造输出的不同的目标函数，例如相关函数和非线性函数等等。然 后就能得到重构的信号。注意到我们的主要目标是分离信号，因此尽管完全重构 信号也是我们想要的目标，但并不是最主要的目标。 取决于算法的特点，递归算法和迭代算法通常用来求分离参数。分离系统的 另外一个选择就是用批处理算法还是用自适应算法。在批处理算法中，在其中任 意一批数据中可以认为参数是不变的，它由这个时间段内的数据确定。由于我们 不希望在短的时间周期内有显著的变化，为减少计算时间，可以用上一批数据的 估计值作为下一个估计的开始点。批处理算法通常隐含着平稳性，若输入是非平 稳的，那么这些算法的性能通常会明显的偏差。这个影响可以通过相互重叠的批 处理来减小，但不可避免的会增加计算时间。而在自适应算法中，参数会在处理 每一个新的数据时得到更新，但这引入了新的参数，即学习率，它影响算法的收 敛率并且必须确定它的值。通常来说学习率不是常数，需要有改变它的值的方法。 若不能正确的设置学习率，该算法就不能正确的收敛甚至根本就不再收敛。 自然地，在设计出分离系统和相应的分离算法之后，就需要有一个性能标准 来判别该算法的分离性能。众多的学者已经使用了若干性能标准。c o m o n l 8 1 提出了 非平稳源盲分离算法研究 基于_ 和r 范数的混合矩阵a 与它的盲估计五之间不变的差别a p 准则。它的主 要优点是不需要估计置换矩阵p ，这样能减少计算复杂度，它的缺点是不能定量的 一个给定源的恢复质量，而只允许进行算法比较。另外一个标准是c a r d o s o 提出 的在每个输出的残余源干扰率，它的缺点是没有考虑背景噪声的存在，还需要精 确的估计p 。 2 4 小结 本章主要讨论了盲源分离问题的基本理论。第一节给出了盲源分离的模型假 设；第二节主要是详细地讨论了盲源分离的可分离性和分离时所采用的原则，介 绍了独立源和不相关源的辨识条件，并特别指出了源信号的独立性假设的重要性， 然后讨论了不同形式的混合矩阵对盲源分离问题的影响及在盲分离中存在的不确 定性；第三节讨论了分离系统和算法的分离性能，分析了不同的分离系统所要采 取的不同的方案，然后对两种不同的分离性能标准作了优缺点的评价。 第三章基于二阶统诗量的非平稳源盲分离算法1 3 第三章基于二阶统计量的非平稳源盲分离算法 本章蓠先介绍了c a r d o s o 等人阁提高翡对鑫仡嚣耱鼹灏信号豹裙关矩阵避行 联合对角偬静平稳源鹩富分离懿方法，然嚣提出了一种在鸯嚣健鑫臻声中j # 平稳深 静喜分离方法。势逶避数壤像蹇与己鸯豹箨法进行比较，表明给蹬静算法毒起好 豹牲能。 3 。l 平稳源的富分离算法 c a r d o s o 等人5 ”1 提出了一静基于酵闼樱关源信号蠡冬富分离箨法，它基予对若干 个摆关矩黪鲍联会对楚化。虫于漫会矩阵a 寒知，骚骞壹接设计处理矩黪b 袋其 瀵足a b = g 是比较困难的。毽是，如累将图2 。i 等玲表示成熙3 1 爱骞源分凑阉 题的解决就容易褥多。 s 混合矩阵 分离鹾阵嚣 闰3 i 膏源分离的解相关方法 y 2 s 3 。i 。i 二阶盲源分离算法 善先考虑戏( 2 2 ) 中鹃信号模型，鄄没有麓卷噪声静情形，对x ( t ) 逡行l e t 。 令w 基煲”埘悬骞惫信号x 9 ) 鹣岛他矩阵，裂z ) = 慨秘) = w a s ( o 必鑫噪声。不失 一般性，令z 秘s 撵具考攀锭方差，剥霹褥 e ( z ( t ) z 8 ( 嘴= w a e s ( t ) s 拱( f ) ) ( w a 尸= w a o v a ) 8 = i刚1 即w a 必须满足条件： w a ( w a ) ”= i ( 3 2 ) 上式表织若w 是蠢位矩阵，雯| j 姒就是一个维箨踅阵，出魏哥断定：对任 意囊化矩黪w 存在一个维委矩蓐u 镁褥w a = u 。毽莸怒谎，混会瘫阵a 霹 非平稳源盲分离算法研究 a = w 8 u( 3 3 ) 式中w 8 蹩w 戆m o o r e - - p e n r o s e 广义遂矩簿。 我们注意到囱化过程把确定一个m n 的矩阵a 简化为确定一个n n 维的 酉觚阵u 。现在考虑( 2 3 ) 的模穗，自纯过程z = w x ( t ) 仍然服从线性模型： 矗， z o ) = w x ( t ) = w 【a s ( ，) + n ( f ) 】 = u s ( t ) + w n ( t )( 3 4 ) 上式中自l 皂过程的信号郄分现在或了源售号瓣“罄混舍”。 由式( 2 1 5 ) 、( 2 1 6 ) 和( 2 1 7 ) 可得a a ”= r ( o ) 一拶2 i ，所以式( 3 2 ) 表明，白化矩阵 w 可敬报獭阵捌输出协方差筑阵r ( o ) 确定，这里假定加髓嗓声协方蓑矩阵己知或 已憾计。确定白化矩阵的具体方法在压嚣的冀法中详缨叙述。 当白化矩阵w 求出尉，空间白噪声z ( f ) 的协方麓矩阵r ：( f ) 翁知为 暂 r ：( f ) = e z ( t ) z 8 ( f f ) ) = e w x ( t ) w x ( t - f ) 】4 = e w a s ( t ) w a s ( t f 矿) = w a 装，( f ) a 8 w 拦( 3 5 ) 将w a = u 代入上式，立靼褥劐一个关键斡关系式： r ：( f ) = u k u “ v f 0 ( 3 6 ) 由于u 是话矩阵，而r 。( f ) 为对角矩降( 因为源信号假定是互不相关的) ，所以式 ( 3 6 ) 塞嚷蓍戳下懿性质成立： 性质3 1 ：镁何一个白化的协方麓矩阵都可以被酉交换u 对角化。 这一性质启乐了酉矩阵的实际求法，求观测倍号经融化后的信号的若干个协 方差矩簿鬟；( f ) f = l ，爱) 豹联舍薅燕纯o o i n td i a 瓣滋i 绷) 斑薄就怒我稍簧求 的矩阵u 。 下面是基于联合对角化的盲辨识算法，它是由c a r d o s o 等人f 3 3 i 提出的。 算法：( - - 阶盲辨谖葬法) 步骤l ：裂耀阵列豹? 个数据撵零售诗掰材维游穷差筵薅蠢( o ) ，然爱瓣萁 进行特征值分解，并用 ，“表示n 个最大的特征僦，对应的特征向缀为 第三章基于二阶统计量的非平稳源盲分离算法 岛，。 步骤2 ：在加性白噪声的假设下，用f i ( o ) 的m 一个最小特征值的平均值作 为噪声方差的估计值子2 。求白化后的信号z ( t ) = 匕( r ) ，知( r ) r ，其中 z f ( f ) = ( 一彦2 ) 一v 2 矿x ( ，) ，1 i n 。这等价于构造白化矩阵： 由= 【( 一子2 ) 一”2 啊，( “一子2 ) - w h 。r( 3 7 ) 步骤3 ：计算z ( f ) 的样本协方差矩阵良：( r ) ，其中f = f l ，靠 步骤4 ：利用食：( f 1 ) ，食：( 靠) 的联合对角化( 详见下一小节) ，求酉矩阵心。 步骤5 ：计算源信号估计j ( ，) = o ”v c y ( t ) ，混合矩阵的估计a = f v 8o 3 1 2 多个正规矩阵的联合对角化 两个或多个正规矩阵的联合对角化在上面的算法中起着关键的作用。联合对 角化结果的唯一性是正规矩阵谱定理的直接结果。 定义3 1 ( 正规矩阵) ：一个n 维的矩阵m 称为正规矩阵( n o r m a l m a t r i x ) ， 若m m ”= m “m 。 根据谱定理m 1 ，正规矩阵m 是酉可对角化( u n i t a r i l yd i a g o n a l i z a b l e ) 的，即 存在一个酉矩阵u 和对角矩阵d ，满足m = u d u 8 。 在数值分析中，一个n 的矩阵m 与对角阵的“偏差”用m 的非对角线元 素模的平方和作为测度： o f f ( m ) = m f f 2 ( 3 8 ) l 鲥j s 因此，矩阵m 的酉对角化等价于通过某个酉变换矩阵v ，使得q 矿( v ”m v ) 置 零。由谱定理可知，只有正规矩阵才能够酉对角化。此外，若矩阵m 具有m = u d u ” 的形式，其中u 为一酉矩阵，且d 是一个具有不同元素的对角矩阵，则m 只能使 用与u 本质相等的酉矩阵v 酉对角化，即若q 纩( v 8 m v ) = 0 ，则v 圭u 考虑由k 个矩阵组成的矩阵集合m - - m i ，峨 。使用任意酉矩阵v ， 使这定个矩阵联合对角化的代价函数定义为 d e k j ( m ，v ) 三o f f ( v ”m v )( 3 9 ) 一个酉矩阵称为矩阵集合m 的联合对角化器( j o i n td i a g o n a l i z e r ) ，若它在所 有酉矩阵集合中能够使式( 3 9 ) 定义的代价函数为最小。 非平稳源盲分离算法研究 下面的定理刻画了联合对角化的唯一性。 定理3 1 ( 联合对角化的本质唯一性) 【3 3 1 ，令m = m i ，m x ) 是k 个矩阵的 集合，并且矩阵m 。具有形式m 。= u d 。u ”，其