（模式识别与智能系统专业论文）带参考信号的独立分量分析理论及其应用研究.pdf

l i i ii iui f f i llf l li iiij y 1816 8 3 4 u n i v e r s i t yo fs c i e n c ea n dt e c h n o l o g yo fc h i n a adi s s e r t a t i o nf o rd o c t o r sd e g r e e t h e s t u d y o fi n d e p e n d e n t c o m p o n e n ta n a l y s i sw i t h r e f e r e n c ea n di t sa p p li c a t i o n s a u t h o r sn a m e ：j i a n x u nm i s p e c i a l i t y ：p a t t e mr e c o g n i t i o na n di n t e l l i g e n ts y s t e m s u p e r v i s o r ：p r o f d e s h u n gh u a n g f i n i s h e dt i m e ：n o v e m b e r1 或，2 010 中国科学技术大学学位论文原创性声明 本人声明所呈交的学位论文，是本人在导师指导下进行研究工作所取得的成 果。除己特别加以标注和致谢的地方外，论文中不包含任何他人已经发表或撰写 过的研究成果。与我一同工作的同志对本研究所做的贡献均已在论文中作了明确 的说明。 作者签名：冀虹 中国科学技术大学学位论文授权使用声明 作为申请学位的条件之一，学位论文著作权拥有者授权中国科学技术大学拥 有学位论文的部分使用权，即：学校有权按有关规定向国家有关部门或机构送交 论文的复印件和电子版，允许论文被查阅和借阅，可以将学位论文编入中国学 位论文全文数据库等有关数据库进行检索，可以采用影印、缩印或扫描等复制 手段保存、汇编学位论文。本人提交的电子文档的内容和纸质论文的内容相一致。 保密的学位论文在解密后也遵守此规定。 囱公开口保密( 年) 作者签名： 导师签名 疆一 文 _ 摘要 对多元统计信号的探索一直是信息科学领域的热门研究课题，如何发现多元 信号中的内在因素或者分量是该领域的研究重点之一。独立分量分析这种多元统 计分析方法作为近年来人工神经网络、统计学习理论、信号处理等研究领域中的 热点问题，它的一些成果已经应用到多个实际问题当中，证明了其广阔的应用价 值。 独立分量分析是盲源信号处理的一个分支，该理论假设多元观察信号是由多 个相互独立的非高斯信号线性混合而成的。在很多实际应用领域中，我们对所需 要获得的独立分量有部分先验信息，然而经典的独立分量分析方法首先需要把所 有的独立分量都恢复出来，然后再由用户通过先验信息来选择自己所感兴趣的独 立分量。这样的方法一般存在耗时，输出结果不稳定等问题。在遇到高维问题时， 经典方法甚至可能出现完全失效的情况。本文研究的核心内容就是如何使用带先 验信息的参考信号来直接抽取所感兴趣的独立分量。 本文的主要贡献总结为如下几点： 1 严格推导了约束独立分量分析框架下的带参考信号的独立分量分析问题的学 习公式，发现原来的算法中存在的推导错误等，提出了修正的约束独立分量 分析框架下的带参考信号的独立分量分析算法，并在理论上证明了算法改进 的正确性，同时通过模拟实验和实际数据实验验证了修正后算法的有效性。 2 研究了约束独立分量分析框架下的带参考信号的独立分量分析的收敛不稳定 问题，发现了问题的原因在于i c a r 优化目标函数在不等式约的可行区域内 不一定为凸函数，也就是k t 条件不是全局充分的，那么采用类似牛顿法的优 化算法是不能够保证获得全局最优值的。一般来说，采用贪婪策略的算法( 每 一次迭代都降低目标函数) 都会出现误收敛的情况，所以算法的输出不稳定。 在这种情况下，我们提出了新的i c a r 算法，在算法中我们引入了在算法早 期判断误收敛的技术，解决了算法误收敛的问题，并且在实验中证明了新算 法的误收敛率为0 。 3 研究了i c a r 的应用方法。在i c a r 应用中距离阈值参数的选择往往决定了 算法的成功和失败。我们提出了合理选择i c a r 阈值参数方法，包括参考信 号收缩方法来灵活的选择参数等。我们提出并证明了直接采用观测通道作为 参考信号的可行性，简化了i c a r 的应用，使得参考信号在某些条件下并不 i 摘要 需要手工构造就可以直接获得。 4 提出了c o m p l e t ei c a r 的方法。通过研究发现c o m p l e t ei c a r 和传统i c a 方法相比，是一种非常灵活的i c a 算法，它不再通过强行的去相关化来防止 同一性收敛问题，因此它的输出更好的保留了数据的内部特性。我们通过理 论证明和实验结果说明了c o m p l e t ei c a r 的输出质量确实要优于传统的i c a 算法，特别是c o m p l e t ei c a r 在某些应用中( 观测信号多于独立分量时) 还 可以帮助研究人员判断独立分量的数量。 5 提出了非约束独立分量分析框架下的带参考信号的独立分量分析方法。我们 认为作为先验信息载体的参考信号不仅可以用作i c a 算法的约束条件，从而 提出约束独立分量分析框架，而且也可以用在i c a 算法之前使用参考信号。 我们提出了采用参考信号来设置初始权值向量的方法，发现使用这个预设的 权值向量后，i c a 算法可以收敛到需要的独立分量上，以完成带参考信号独 立分量分析的任务。并且我们证明了这个方法的有效性和适用条件。 6 发现并证明了原来约束独立分量分析框架的理论漏洞，提出了新的普适的带 参考信号的独立分量分析算法框架，弥补了旧理论框架的漏洞。 关键词：独立分量分析；约束独立分量分析：参考信号独立分量分析；盲源分离； 维纳滤波；脑电图；心电图 a b s t r a c t t h es t u d yo fm u l t i v a r i a t es t o c h a s t i cs i g n a l si sah o tt o p i ci ni n f o r m a t i o ns c i e n c e f i e l d t h em a i n s t r e a mr e s e a r c h e so nt h i st o p i ca r eh o wt od i s c o v e rt h ei n h e r e n tf a c t o r s o rc o m p o n e n t sf r o mt h em u l t i v a r i a t es t o c h a s t i cs i g n a l s r e c e n t l y ，t h ei n d e p e n d e n t c o m p o n e n ta n a l y s i s ( i c a ) b e c o m e sah o t s p o tp r o b l e mi na r t i f i c i a ln e u r a ln e t w o r k s s t a t i s t i c a ll e a r n i n g ，s i g n a lp r o c e s s i n g ，a n de t c t h eh i g ha p p l i e dv a l u eo fi c ah a sb e e n v e r i f i e db ym a n ys u c c e s s f u la p p l i c a t i o n so fi c ai nv a r i o u sf i e l d s 1 c ai sar e s e a r c hb r a n c ho fb l i n ds o u r c es e p a r a t i o n ( b s s ) w h i c ht h e o r e t i c a l l y a s s u m e st h a tt h eo b s e r v e dm u l t i v a r i a t es i g n a l sa r et h ei i n e a rm i x t u r e so fi n d e p e n d e n t c o m p o n e n t s ( i c s ) w i t hn o n - g a u s s i a nd i s t r i b u t i o n s i nm a n yf i e l d s ，r e s e a r c h e r sh a v e s o m ep r i o ri n f o r m a t i o no nt h ed e s i r e dl c s h o w e v e r , t h ec l a s s i ci c am e t h o d sh a v et o c a l c u l a t ea l lt h ei c sa n dt h e nc h o o s et h ed e s i r e di c sb vp o s t s e l e c t i o nw h i c hi sn o t o n l yt i m e c o n s u m i n gb u ta l s ou n s t a b l e a n dw h e nt h ed i m e n t s i o no fi n p u td a t ai sh i g h ， t h ec l a s s i ci c am e t h o d sm a y b eu n a b l et op r o d u c ea n yc o r r e c tr e s u l t s t h ea i mo ft h i s p a p e ri st os t u d yh o wt ou s ep r i o ri n f o r m a t i o n ，i nt h ef o r mo fr e f e r e n c es i g n a l s ，t o e x t r a c tt h ed e s i r e di c sd i r e c t l y t h em a i nc o n t r i b u t i o n so ft h ep a p e rc a nb es u m m a r i z e da sf o l l o w s ： 1 w 色r i g i d l yd e r i v e da l g o r i t h mf o rt h ei c aw i t hr e f e r e n c es i g n a l s ( i c a - r ) u n d e r c o n s t r a i n e di c a ( c l c a ) f r a m e w o r k ，a n df o u n df l a w si nt h ep r e v i o u sw o r k s ， t h e np r o p o s e da l l i m p r o v e da l g o r i t h mw h o s ev a l i d i t yw a sp r o v e dn o to n l yb y t h e o r e t i c a la n a l y s e sb u ta l s ob ys i m u l a t i o no nb o t ha r t i f i c i a ia n dr e a l w o r l dd a t a 2 w ep r o b e dp r o b l e mo ft h eu n s t a b l ec o n v e r g e n c eo ft h o s ep r e v i o u si c a r a l g o r i t h m s ( u n d e rt h ef r a m e w o r ko fc l c a ) a n df o u n dt h er e a s o nw a st h a tt h ei c a c o n t r a s tf u n c t i o nc a l lb en o n c o n v e xi nt h ef e a s i b l er e g i o nd e f i n e db yt h ei n e q u a l i t y c o n s t r a i n t ，w h i c hm e a n st h a tt h ek tc o n d i t i o ni sn o tg l o b a l l ys u f f i c i e n t a st h e r e s u l t , u s i n gn e w t o n l i k eo p t i m i z a t i o na l g o r i t h m ( a n do t h e rg r e e d ya l g o r i t h m ) c a n n o tg u a r a n t e et h ec o r r e c tc o n v e r g e n c e t h ep r o p o s e dn e wi c a ra l g o r i t h m w h i c hc a l lp r e d i c tt h ef u t u r ei n c o r r e c tc o n v e r g e n c ew a sp r e s e n t e ds o 嬲t oa v o i d t h ei n s t a b i l i t yo ft h ep r e v i o u sa l g o r i t h m sw h i c hw a sc o n f i r m e db yo u re x p e r i m e n t s f r o mw h i c hn oi n c o r r e c tc o n v e r g e n c eo ft h en e wa l g o r i t h mw a so b s e r v e d 3 w es t u d i e dh o wt of a c i l i t a t et h ea p p l i c a t i o no ft h ei c a - ra l g o r i t h m s i n c et h e p a r a m e t e r ( o rt h r e s h o l d ) m e a s u r i n gt h ed i s t a n c eb e t w e e nr e f e r e n c es i g n a la n d o u t p u ti sc r i t i c a l ，w ep r o p o s e dam e t h o dt h a t f a c i l i t a t e st h ep a r a m e t e rs e l e c t i o n i n c l u d i n gr e f e r e n c ed e f l a t i o nm e t h o da n de t c t h e nw es u g g e s t e dt h a t i ti s i i i a b s t r a c t c o n v e n i e n tt ou s e o n eo ft h eo b s e r v e dd a t ac h a n n e la sr e f e r e n c es i g n a li ns o m e a p p l i c a t i o n si n s t e a do fc o n c o c t i n gr e f e r e n c es i g n a lb ym a n p o w e r 4 w ep r o p o s e dt h ec o m p l e t ei c a rm e t h o df o r r e c o v e r i n ga l lt h eu n d e r l y i n g c o m p o n e n t sa so t h e rc l a s s i ci c a sd o n eb u tw i t h o u tc o m p u l s i v e l yd e c o r r e l a t i n g t h eo u t p u t s t h e r e f o r e ，t h ec o m p l e t e i c a r i sf l e x i b l es oa st or e m a i nt h e i n h e r e n ts t r u c t u r e so ft h eo u t p u t s t h ee x p e r i m e n t a lr e s u l t si n d i c a t e dt h a tt h e c o m p l e t ei c a - ra l g o r i t h mw o u l dp r o d u c et h eo u t p u t sw i t hb e r e rq u a l i t yr e s u l t c o m p a r e dt ot h ec l a s s i cm e t h o d s p a r t i c u l a r l y , t h ep r o p o s e dc o m p l e t ei c a rh a s au n i q u ef e a t u r ew h i c hc o u l dh e l pt h eu s e r st oj u d g et h en u m b e ro fi c sw h e nt h e n u m b e ro ft h eo b s e r v e dc h a n n e l sa r em o r et h a nt h en u m b e ro fu n d e r l y i n g c o m p o n e n t s 5 an e wm e t h o df o ri c a - rw a sp r e s e n t e dw h i c hw a sn o tu n d e rt h ef r a m e w o r ko f c l c a t h ep r i o ri n f o r m a t i o ni nt h ef o r mo fr e f e r e n c es i g n a ls h o u l db eu s e dn o t o n l ya sac o n s t r a i n tw h i c hw a st h eb a s i ci d e a lo fc l c ab u ta l s ob e f o r et h el e a r n i n g o ft h ew e i g h tv e c t o r i nt h i sp a p e r , a na p p r o a c hw a sp r o p o s e dw h i c hu s e dt h e r e f e r e n c et ob u i l dt h ei n i t i a lw e i g h tv e c t o r i tw a sf o u n dt h a tt h eo n e u n i ti c a a l g o r i t h mc o u l df i n dt h er i g h td e m i x i n gv e c t o rw i t ht h ep r e d e s i g n e dw e i g h tv e c t o r u n d e rs o m ec o n d i t i o n s m o r e o v e r ，t h ev a l i d i t yo ft h ea p p r o a c hw a sp r o v e da n dt h e d e t a i l e da l g o r i t h mw a sp r e s e n t e d 6 t h et h e o r e t i c a lf l a wo ft h ef r a m e w o r ko fc l c aw a sf o u n da n dp r o v e di no u rw o r k i na d d i t i o n ，w ea l s op r o p o s e dt h en e wf r a m e w o r ko fl c a rw h i c hc a nr e m e d yt h e p r e v i o u sg e n e r a lf r a m e w o r ko fl c a r k e y w o r d ：i n d e p e n d e n tc o m p o n e n ta n a l y s i s ( i c a ) ，c o n s t r a i n e d i n d e p e n d e n t c o m p o n e n ta n a l y s i s ( c i c a ) ，i n d e p e n d e n tc o m p o n e n ta n a l y s i sw i t h r e f e r e n c e ( i c a - r ) ，b l i n ds o u r c es e p a r a t i o n ( b s s ) ，w i e n e rf i l t e r i n g ； e l e c t r o c a r d i o g r a m ( e e g ) ，e l e c t r o c a r d i o g r a m ( e c g ) i v 目录 第1 章 绪论1 1 1 研究背景及其意义1 1 2 独立分量分析与带参考信号独立分量分析介绍2 1 2 1 独立分量分析定义2 1 2 2 独立分量分析中的不确定因素4 1 2 3 带参考信号的独立分量分析定义4 1 3 独立分量分析的发展历史和研究现状5 1 4 本文的主要贡献6 1 5 本文的研究内容安排7 第2 章独立分量分析算法综述9 2 1 2 2 2 2 1 2 2 2 2 3 2 3 1 2 3 2 2 3 3 2 4 第3 章 法研究 3 1 3 2 3 3 3 4 3 5 3 5 1 3 5 2 3 5 3 引 言9 i c a 基础9 主分量分析。9 独立分量分析lo i c a 算法介绍1l 特征矩阵的联合近似对角化ll 最大似然估计法与信息极大化算法1 2 最大化负熵算法15 本章小结- 1 9 基于约束独立分量分析框架的带参考信号独立分量分析方 2 l 问题的提出一2 l c i c a 问题的数学描述及其学习算法2 2 l e s s c o m p l e t ei c a 问题2 3 带参考信号的独立分量分析( i c a r ) 问题的表述2 7 修正的i c a r 3 0 非线性函数的选择3l 修正的新i c a r 算法3l 实验验证3 4 v 目录 3 5 4 关于距离度量的选择3 7 3 6本章小结一3 8 第4 章新i c a r 算法研究及其应用一3 9 4 1c l c a 框架下i c a r 算法存在的问题3 9 4 1 1 反例的提出3 9 4 1 2先前的i c a - r 算法收敛性的决定因素4 3 4 2新的i c a r 算法一4 6 4 3 新的i c a r 算法应用方法研究一4 7 4 3 1 阈值参数的选择问题4 7 4 3 2直接的参考信号提取方法4 9 4 3 3i c a r 的扩展5 0 4 4 实验结果一5 2 4 4 1 新旧i c a r 算法对比5 2 4 4 2从混合图像中分离独立分量5 4 4 4 3母婴心跳信号分离实验5 8 4 5本章小结一6 1 第5 章非c i c a 框架下的带参考信号的独立分量分析方法- 6 3 5 1问题的提出一6 3 5 2 预设权值向量的o n e u n i ti c a 6 4 5 2 1预设权值向量6 4 5 2 2 预设权值向量的f a s t l c a 算法6 6 5 2 3 预设权值向量的o r l e u n i tl e s s c o m p l e t ei c a 算法6 8 5 2 4 预设权值向量与解的距离- 7 l 5 3o n e u n i ti c a w i t hp r e - d e s i g nw e i g h t 算法一7 2 5 4本章小结一7 3 第6 章工作展望与全文总结7 5 6 1 新的约束独立分析分析框架7 5 6 1 1 c l c a 框架下i c a - r 的理论缺陷7 5 6 1 2 新框架下i c a r 问题定义7 7 6 2 一种新的f a s t l c a 算法7 7 6 3 全文总结7 8 6 4 其它未来的工作7 9 参考文献mo 8 l v i i 1 1 研究背景及其意义 第1 章绪论 人类是通过获得、识别自然界和社会的不同信息来认识和改造世界的。在工 程研究中，用来代表这个信息的物理量就是信号。在数字计算机技术飞速发展的 今天，如何对信号的数字化处理是是当今信息科学领域重要研究课题。在众多的 数字信号处理方法中，盲信号处理技术是一门新兴的研究学科( o i a ，1 9 9 7 ，c o m o n ， 19 9 4 ，a m a r ia n dc i c h o c k i ，1 9 9 8 ，b e l la n ds e j n o w s k i ，19 9 6 ，a m a r i ，2 0 0 5 ，a m a r ie ta 1 。 2 0 0 2 ，b o s c o l oe ta 1 ，2 0 0 4 ，h u a n ga n dm i ，2 0 0 7 ，l ua n dr a j a p a k s e 2 0 0 5 。z a r z o s oe t a 1 ，2 0 1 0 ) 。它包含了盲源分离和盲信号抽取两个方面，它们都是从观察信号中恢 复源信号的有效方法。 根据信号传递过程中的信号通道的物理特性，多个信号间的相互混合是极为 常见的。如何只通过观察到的混合输出信号来恢复源信号是研究人员所关心的问 题，也是信号处理学科中的经典研究问题( j a i ne ta 1 ，2 0 0 0 ，p h a m ，2 0 0 0 ) ，这个问 题的解决无疑会带来广泛并且重要的应用价值。问题的难点在于，当没有关于信 号通道的先验知识的情况下，如何从混合的观测信号中恢复出源信号，这是一个 长期困扰研究人员的问题，经过长期的研究和实践，研究者发现，在许多盲源信 号处理应用中，源信号之间可以认为是统计上相互独立的。于是利用源信号的这 一独特的统计特性发展出了盲信号处理的一个重要研究方向，即独立分量分析 ( i n d e p e n d e n tc o m p o n e n ta n a l y s i s ：i c a ) 这个新的统计信号处理研究方向。 我们也可以从另外一个角度来看独立分量分析的价值。当今人们常常被过量 的复杂数据所困扰，包含在这些数据中的信息通常是相互重叠并同时获取到的， 我们只想从这些复杂混合的数据中挖掘出对我们有用的信息，那么独立分量分析 就可以看作是一个重要的源信息挖掘工具。 独立分量分析的应用范围是非常广泛的。在通信上，它可以被应用于多用户 检测和c d m a 通信( s h ia n ds c h l e g e l ，2 0 0 6 ，j o u t s e n s a l oa n dp a j u n e n ，1 9 9 8 ) ：在医学 上它可以用于脑电图( e l e c t r o e n c e p h a l o g r a p h y ：e e g ) ( e r f a n ia n dn a s a b ，2 0 0 7 ， v e n t o u r a se ta 1 。2 0 0 8 ，p a r ke ta 1 ，2 0 0 3 ，l e m me ta 1 ，2 0 0 6 ) 和脑磁图 ( m a g n e t o e n c e p h a l o g r a p h y ：m e g ) ( w a c h o w i a k e ta 1 ，2 0 0 2 ，n a i ke ta 1 ，2 0 0 7 ，n a i k e ta 1 ，2 0 0 8 ) 的数据分析、诱发磁场分析( k a y s e re ta 1 ，2 0 0 1 ，z a r z o s oa n dn a n d i ， 2 0 0 1 ，l ie ta 1 ，2 0 0 7 ) 与母婴心跳信号分离( v u l l i n g se ta 1 ，2 0 0 6 ，s e r d e n g e c t ie ta 1 ， 2 0 0 9 ) 等应用当中；在数字图像处理中，它可以用来去噪，也可用来分析功能磁 第1 章绪论 共振( f u n c t i o n a lm a g n e t i cr e s o n a n c ei m a g i n g ：f m r 0 像( v a r o q u a u xe ta 1 ，2 0 1 0 ， l a s h k a r ie ta 1 ，2 0 10 ，y l i p a v a l n i e m ia n dv i g a r i o ，2 0 0 8 ，s c h o e p f e ta 1 ，2 0 0 8 ) ；它还被 用于诸如音频信号抽取和分析( n a k h a t ee ta 1 ，2 0 1 0 ，n i i n oe ta i ，2 0 0 9 ，l i e t a 1 ， 2 0 0 5 ) 、经融数据分析( b a c ka n dw e i g e n d ，1 9 9 7 ，b a c ka n dw e i g e n d ，1 9 9 8 ) 、地震监 视( h a me ta 1 ，2 0 0 0 ) 、旋转电机监控等等( y p m ae ta 1 ，2 0 0 2 ) 。对于独立分量分析的 算法与应用的深入研究，不仅仅是发展了信号处理的方法，它更是促进了其他多 个学科的发展，并为它们提供了一个有力的数据分析手段( p o p ea n db o g n e r , 1 9 9 6 ， o j a ，l9 9 8 ，j a i ne ta 1 ，2 0 0 0 ，v i g a r i oe ta 1 ，2 0 0 0 ，n a t h ，2 0 0 9 ) 。 一般来说经典的独立分量分析的目的是还原出观察信号当中所有的独立分 量( i n d e p e n d e n tc o m p o n e n t s ：i c s ) ，然而在许多应用当中并不是所有的独立分量 都是需要的。过去一般的方法是：首先恢复出所有的独立分量，然后按照需求在 所有独立分量中挑选出需要的子集。这种做法存在两个弱点： 1 ) 计算不需要的独立分量可能花费大量的计算时间和存储空间，并且在一些算 法中各个独立分量计算时出现的误差是会积累或者相互影响的( h y v a r i n e n a n do j 如1 9 9 7 a ) ，使得输出质量得不到保证。 2 ) 在一些特殊的应用场合中，独立分量的数量特别巨大( 大于一百个，甚至上 千个) ，例如核磁共振图像中和实验相关的独立分量的抽取，用经典的独立分 量分析方法去恢复所有的独立分量几乎是不能完成的( m c k e o w ne ta 1 ，1 9 9 8 ， w e ia n dr a j a p a k s e ，2 0 0 6 ) 。 那么如何发展一种能在独立分量分析中加入先验信息使得算法直接抽取需要 的独立分量的技术就变成迫切需要的研究内容。当前流行的方法是使用先验信息 来构建一个参考信号，通过这个参考信号来指导独立分量分析算法抽取所需的独 立分量。带参考信号的独立分量分析( i n d e p e n d e n tc o m p o n e n ta n a l y s i sw i t h r e f e r e n c es i g n a l ：i c a - r ) ( l ie ta 1 ，2 0 0 6 ，w e ia n d r a j a p a k s e ，2 0 0 6 ) 就是在这样的背 景下提出的，它是经典独立分量分析方法的一个扩展和发展方向。 下面我们首先给出独立分量分析与带参考信号的独立分量分析问题的介绍， 之后我们再综述其发展历史过程，陈述其研究现状，在最后我们给出本文的内容 安排。 1 2 独立分量分析与带参考信号独立分量分析介绍 1 2 1 独立分量分析定义 首先我们通过一个独立分量分析的经典应用来引出下文。这个问题就是“鸡 2 第1 章绪论 尾酒会问题”( c o c k t a i lp a r t yp r o b l e m ) 。人在参加鸡尾酒聚会的时候，总能够在 嘈杂的环境中听到自己感兴趣的话题。我们把这个问题简化为，4 个人同时说话， 同时有4 个摆在不同位置的麦克风在记录语音信号( 实际中可能是 个人说话和 同等数量的麦克风) ，我们把这四个信号表示为而( f ) ，屯( ，) ，玛( ，) ，( ，) ，其 中x 瓜) ( 待l ，2 ，3 ，4 ) 表示第f 个人在，时刻的幅值。这些麦克风所采集到的混合 信号都是由这四个讲话者所发出来的语音信号的混合信号。我们把这四个源语音 信号分别用s l ( ) ，s 2 ( t ) ，s 3 ( t ) ，s a t ) 来表示。那么麦克风手采集到的信号就可以用 以下的线性方程来表示： x l ( t ) = 口1 l s l ( t ) + a 1 2 s 2 ( t ) + a 1 3 邑( ，) + 口1 4 s 4 ( t ) ( 1 1 ) 恐( f ) = q 2 l 而( f ) + a 2 2 屯( ，) + 口2 3 屯( f ) + 口2 4 & ( ，) ( 1 2 ) x 3 ( t ) = a 3 l & ( ，) + 吩2 s 2 ( t ) + a 3 3 s 3 ( t ) + a 3 4 s 4 ( t ) ( 1 3 ) x 4 ( t ) = a 4 1 墨( f ) + q 2 。如( f ) + a 4 3 s 3 ( t ) + a 4 4 s 4 0 ) ( 1 4 ) 式中，口，( i , j = 1 ，2 ，3 ，4 ) 表示麦克风采集信号与源信号的线性关系，它们由麦 克风与讲话者的距离来确定。独立分量分析的目的在于，当只获得四个通道的麦 克风混合信号的时候，能把源信号混合的系数全部确定下来，然后求逆，从而可 以分离出四个讲话人的源语音信号。如果使用独立分量分析能完成这个任务，那 么是非常有意义的。因为我们在还原源语音信号时除了使用到采集来的混合信号 外，没有任何其他先验知识，这是过去的方法所不具有的特性。 同时我们可以把独立分量分析简洁的描述为如图1 1 的图模型： s l ( ，)s 2 ( f ) s 。( ，) 广) f 一) f ) ()() ( ) ( ) () ( ) 五( ，)叠( ，) ，( ，) 图1 1 独立分量分析的生成图模型描述 图1 1 中a = ) ( i = 1 ，2 ，m ，j = l ，2 ，刀) ，t = l ，2 ，t 。经典独立分量分 析的统计图描述和概率主分量分析( p r o b a b i l i t yp r i n c i p a lc o m p o n e n ta n a l y s i s ： p p c a ) 是类似的，它们都是“隐变量”模型，都是为了发掘观察信号背后隐藏 的源信号。它们的区别在于独立分量分析假设源信号量( f ) 是相互独立的，其分布 是非高斯分布的，并且模型中是没有噪声存在的。当我们考虑源信号的混合是瞬 3 第1 章绪论 时混合的情况下，我们忽略时间指标t ，那么经典的独立分量分析模型可以用以 下方程来进行描述： i = a s( 1 5 ) 式中观察数据x = k ，x 2 ，】7 为m 维列向量，源信号s = 【而，是，霸】7 为n 维列 向量，同时a 被称为混合矩阵，它是m x 1 维的矩阵。在经典的独立分量分析方 法中观察数据的维数是必须大于等于源信号的维数的，为进一步简化问题通常情 况下假定m = 刀。 在定义了混合模型之后，独立分量分析的任务就是在获得观测混合信号x 后， 寻找一个解混合矩阵w ，使得混合信号在这个解混合矩阵的作用下还原出源信 号，其定义描述如下： y = w x ( 1 6 ) 式中w 为刀聊维矩阵，y = 【m ，y 2 ，儿】7 。整个独立分量分析的核心任务就是 寻找到这样一个解混合矩阵，使得源信号的估计值与源信号的差别尽量小，从而 把估计到的结果当作源信号使用。 1 2 2独立分量分析中的不确定因素 根据式( 1 5 ) 所描述独立分量分析模型，我们可以发现模型中有三个不确 定因素( c o m o n ，1 9 9 4 ) ： 1 ) 无法确定估计的源信号的次序。 这是由于在独立分量分析模型中我们没有定义源信号的次序，所以输出的次 序我们是不关心的。 2 ) 不能够确定独立分量的方差。 由于源信号和混合系数都是未知的，所以独立分量的方差( 也就是能量) 是 无法确定的。通常我们都要给定一个约束，使得每个独立分量的方差为一个 常数( 一般为1 ) ，也就是e 订) = 1 ( 我们假设所有变量都经过去均值处理) 。 3 ) 不能确定估计的独立分量的符号。 由于方差是没有符号的，所以满足方差约束是不能决定估计的源信号的符号 的。 1 2 3 带参考信号的独立分量分析定义 首先我们需要定义一个参考信号，。在许多应用中，对于所需要抽取的独立 4 一 筮! 童丝迨 一 分量，是有一定先验信息的，通过一系列方法我们构建这样的参考信号，比如当 需要抽取特殊频率的周期独立分量时，我们可以用正弦信号作为参考信号。下面 我们先用图1 2 来描述： 图1 2 带参考信号的独立分量分析流程示意图 上图中w 是式( 1 6 ) 中w 的一行，y 是y 的一个分量。该图给出的是最常用的 一个参考信号得到一个独立分量的示意图，它的数学描述如下： 乃2w ，x g ( 只，厂) g ( y j ，) 其中f ，j = l ，2 ，门，i j ( 1 7 ) 它可以被叙述为：寻找一个解混合向量，这个向量所对应的输出在某个距离度 量下( 或者相识度度量) 与参考信号的距离是最小的( 相识度最大) ，也就是我 们所寻找的独立分量是和参考信号最“像”的。 1 3独立分量分析的发展历史和研究现状 独立分量分析的起源可以追溯到2 0 世纪8 0 年代，当时由j j u t t e n 、j h e r a u