（信号与信息处理专业论文）信源数目未知与变化时的盲信号分离方法研究.pdf

摘娶 j i l l li ii l l l l 摘要 京源倍写瓣传输信道米臻情况下，仅剽躅接牧天线的躐溅数据浚羹裙互独立豹滁 信号，黎为饔信号分裹。蛮售号分离霹先农无线通信、零达裁声缨、图像、语瓷以及 基学信号处毽等诸多镁域爨露广溺豁应蠲瓣豢，姨嚣雩 起了瞎号楚矮孥暴军瑟辩经弱络 学爨的共露兴趣。零文围绕这一热点谍题震开，著掇磷究重点放在源惦号数恩未知与 ，或动惫变化熬超定蠢信号分褒豹对毙疆数萋爨嶷适应势霉亍实瑷方瑟，主要王捧概括如 下： 1 系统阐述了盲信号分离问题。从信号模型出发，分析了意信号分离固霄的不确定 矬帮基本锻设条件，硪究了盲信号分离黔对比函数理论鞠局部穗愆性理论，分类 列举了若干常用对比函数和已有典型的商信号分离算法，总结了不同形式育信号 分离算法的局部稳定性条 牟：势绘出了算法的性麓评价指标。 2 研究了源信号数目未知的超定膏倍号分离可分谯及对蹴邈数闻题。首先针对源信 号数目未知的超定盲信号分离问题提出了个合理的分离模型，定义了新分离模 疆下分离：状态。研究了新分离穰爱的可分髓，证鞘了新模疆具有本质桷等意义下 c ：1 个不同的分离点，每一个分离点对应一个带有冗余输出的分离状态。证明了 新模型分离输出的互倍怠仍爨楚寄信号分离的对跑函数，甄信惑的每一个局部极 小渣点对应于个分离点。和阁自然梯度最小化对比函数：互信怠，褥到了源信 号数鹜束鲡的寄信号分离麴自然梯凄算法。 3 。推导了类源信号数窝寒躲静趣建盲镶号分篱半参数统诗算法并磷究了英禺郯 稳定性。首先分辨了源信号数瓣未知静鑫然梯发算法的算法行为，指出幽予沿滗 台矩阵转器躲零空润方向的冗余移动戆存在热不存在平衡点，鑫然梯囊葵法将不 珂避免爨发教。为了建立髓镑稳定收敛酌源僖号数蟊未绦静怒建盲信号分离算 法，姆半参数绞计方法g l 入该闼题中，购避了源接号数莛未知超窥蛮信号分离豹 倦计函数，提滋鏊于该佶诗函数豹半参数统诗箨法。半参数统诗舞法以任一分蒜 点为乎筏点，荠虽具有蛮信号分离算法的关键後栽：等变化性积绦拷分离矩疼j # 鸯异戆特性。硬究了半参数统诗舅法奁萁平鬻点照款髑郝稳定瞧，褥裂了局部稳 定性条件。大量的计算机仿真试验验证了半参数统计算法的有效性和局部稳定燃 目,i l l i i i l l , , , l l , l l l l i , , , , , , , i ill,ie i 雷蟪懦謦盐霸t 重点蜜s 室 i i冶继民：葚f 安电警辩技犬棼博士掌位论文 分据鲍疆i 确性。 4 。推导了一种投影爨然梯度郛基于该梯度的源售号数曩来熟与或动态变化瓣畜信 号分离算法。首先在源信号数目未知的自然梯度算法发散原因分析的基础上，明 确了自然梯度算法中的两张冗余移动稆有效移动驰概念。利用正交投影的方法越 去了自然梯度中平行于混合矩阵转鼹的零窝间方向的冗余分量，得到了投影自然 梯度及投影自然梯度算法。投影囊然梯度仅仅瀵除了平行于混合矩阵转置鲍零空 间方向的冗余分量，所以投影自然梯度算法与自然梯度算法具有完全相同的收敛 过糨。证明了投影自然梯度算法将收敛到包含分离点的一个由聪点构成的极限 环，从而抑制了第二种冗余移动。投影自然梯度算法不受两种冗余移动的影响， 它可以实现源信号数目动奄变化的蛮信号公离。丽且，在源信号数e 1 发生变化时 不需要重掰初始亿，已经分离的信号在原分离信道中被保留下来，避免了熏复学 习。 关键词：盲信号分离，独立分缀分析，非线性主分量分析，自然梯度，相对梯度，递 归最小二乘，黼都稳定性，稳健往，半参鼗统计，话诗函数，正交投影，极 限驯：。 ! ! ! 鼍i i * ! ! ! 岂 i i 。 雷达信静她理 点薯 验室 a b s t r a c ti i i a b s 下l t a c t b l i n ds o u r c es e p a r a t i o nf b s s ) c o n s i s t so fr e c o v e r i n gm u t u a l l yi n d e p e n d e n tb u t o t h e r w i s eu n o b s e r v e ds o u r c es i g n a l sf r o mt h e i rm i x t u r e sw i t h o u ta n yp r i o rk n o w l e d g eo f t h ec h a n n e l b s sh a sa t t r a c t e dg r o w i n ga t t e n t i o ni ns t a t i s t i c a ls i g n a lp r o c e s s i n ga n d u n s u p e r v i s e dn e u r a ll e a m i n gs o c i e t y ，s i n c ei t i saf u n d a m e n t a lp r o b l e me n c o u n t e r e di n v a r i o u sf i e l d s ，s u c ha sw i r e l e s st e l e c o m m u n i c a t i o ns y s t e m s ，s o n a ra n dr a d a rs y s t e m s ，a u d i o a n da c o u s t i c s ，i m a g ee n h a n c e m e n t ，b i o m e d i c a ls i g n a lp r o c e s s i n g ，a n ds o o n i nt h i s d i s s e r t a t i o n ，w ei n v e s t i g a t et h ep r o b l e mo f o v e rd e t e r m i n e db l i n ds o u r c es e p a r a t i o nw i t ha n u n k n o w na n d o rd y n a m i c a l l yc h a n g i n gs o u r c en u m b e r ，w i t hg r e a te m p h a s i so nt h e e x i s t e n c eo fi t sc o n t r a s tf u n c t i o na n di t sa d a p t i v ep a r m l e li m p l e m e n t a t i o n 。t h ep r i m a r y c o n t r i b u t i o n sa n do r i g i n a li d e a si n c l u d e di nt h i sd i s s e r t a t i o na r es u m m a r i z e db l o w ： l + t l eb s sp r o b l e mi ss y s t e m a t i c a l l ya d d r e s s e d 。b a s e do r l 搬es i g n a lm o d e l w ea n a l y z e t h ei n d e t e r m i n a c yi n h e r e n ti nb s sa n dt h eb a s i ca s s u m p t i o n so f t h eb s s p r o b l e m t h e c o n t r a s tf u n c t i o nt h e o r ya n dt h el o c a ls t a b i l i t yt h e o r ya r ei n v e s t i g a t e d a f t e rt h a t ，w e a l s od i s c u s sv a r i o u sf o r m so fe x i s t i n gb s sa l g o r i t h m sa n dt h ec o r r e s p o n d i n gl o c a l s t a b i l i t yc o n d i t i o n s f i n a l l y , w ep r e s e n tt w op e r f o r m a n c ei n d e x e su s e dt om e a s u r et h e s e p a r a t i o np e r f o r m a n c eo f t h eb s sa l g o r i t h m s 2t h eo v e rd e t e r m i n e db s sw i t ha t lu n k n o w ns o u r c en u m b e ri sc o n s i d e r e d an e w d e m i x i n gm o d e lw h i c hi sa p p l i c a b l et ot h eb s sw i t ha l lu n k n o w ns o u r c en u m b e ri s p r o p o s e d ，t h es e p a r a t e ds t a t e u n d e rt h en e wd e - m i x i n gm o d e li sd e f i n e d t h e s e p a r a b l e n e s so ft h en e wd e - m i x i n gm o d e li ss t u d i e d ：i ti sp r o v e dt h en e wd e m i x i n g m o d e lh a v e c e s s e n t i a l l yn o n e q u a ls e p a r a t i n gp o i n t s t h ee x i s t e n c eo ft h e c o n t r a s tf u n c t i o ni sa l s os t u d i e d ：i ti sp r o v e dt h em u t u a li n f o r m a t i o no ft h en e w d e m i x i n gm o d e l so u t p u t si ss t i l lt h ec o n t r a s tf i m c t i o no ft h eo v e rd e t e r m i n e db s s w i t ha l lu n k n o w ns o u r c en u m b e ge a c hl o c a lm i n i m u mc o r r e s p o n d st oas e p a r a t i n g p o i n t t h en a t u r a lg r a d i e n ta l g o r i t h mf o rb s sw i t ha r tu n k n o w ns o u r c en u m b e ri s d e v e l o p e db ym i n i m i z i n gt h ec o n t r a s t ：m u t u a li n f o r m a t i o nw i t hn a t u r a lg r a d i e n t ； 3 ak i n do fs e m i - p a r a m e t e rs t a t i s t i c a la l g o r i t h mf o rb s sw i t ha l lu n k n o w nn u m b e ro f s o u r c e si sp r o p o s e d 。f i r s t l y , w ea n a l y z et h eb e h a v i o ro f t h en a t u r a lg r a d i e n ta l g o r i t h m 。 i ti st b u n dt h a tt h en a t u r a lg r a d i e n ta l g o r i t h mh a sn os t a t i o n a r yp o i n ta n dt h e r ee x i s t r e d u n d a n tm o v e m e n ta l o n gt h en u l l s p a c eo ft h em i x i n gm a t r i x st r a n s p o s e t h e r e d u n d a n tm o v e m e n tm a k et h ed o t a lo ft h ed e m i x i n gm a t r i xd i v e r g e st oi n f i n i t e ，a n d 嚣 每i l l - a 1 1 式满譬e 点尊薹嫠耋 v 冶继民：酉安电子科技大掌博士学位论文 t h u sm a k et h ea l g o r i t h md i v e r g e t od e v e l o paa l g o r i t h mw h i c hc a np e r f o r mt h eb s s w i t ha nu n k n o w ns o u r c en u m b e ra n dc o n v e r g es t a b l y , t h es e m i p a r a m e t e rs t a t i s t i c a l a p p r o a c h i si n t r o d u c e di n t ot h i sc a s e ：t h e e s t i m a t i n g f u n c t i o ni n t h i sc a s ei s c o n s t r u c t e d ，t h ea d a p t i v ea l g o r i t h mb a s e do nt h ee s t i m a t i n gf u n c t i o ni sd e d u c e dt h e n e wa l g o r i t h mt a k em a yas e p a r a t i n gp o i n ta si t ss t a t i o n a r yp o i n t w ea l s oa n a l y z et h e l o c a ls t a b i l i t yo ft h en e wa l g o r i t h m t h es u f f i c i e n tc o n d i t i o nt ot h el o c a ls t a b i l i t yi s o b t a i n e d 4 t h ep r o j e c t e dn a t u r a lg r a d i e n ta n dc o r r e s p o n d i n ga l g o r i t h mi sd e d u c e d b ea w a r eo fi t i st h er e d u n d a n tm o v e m e n tt h a tc a s e dt h en a t u r a lg r a d i e n tb s sa l g o r i t h mw i t ha n u n k n o w ns o u r c en u m b e rd i v e r g e n t b a s e do nt h eo r t h o g o n a ld e c o m p o s i t i o no ft h e v e c t o rs p a c e ，w eg e tt h ep r o j e c t e dn a t u r a lg r a d i e n tb yc a n c e l i n gt h ec o m p o n e n ta m o n g t h en a t u r a lg r a d i e n t ，w h i c hi sp a r a l l e lt ot h en u l ls p a c eo ft h em i x i n gm a t r i x s t r a n s p o s e ，w i t ho r t h o g o n a lp r o j e c t i o n i ti sp r o v e dt h ep r o j e c t e dn a t u r a lg r a d i e n tb s s a l g o r i t h mw i t ha nu n k n o w ns o u r c en u m b e rw i l lc o n v e r g e st oal i m i tc y c l ew h i c h c o n t a i n so n l yt w op o i n t ，o n ei st h es e p a r a t i n gp o i n t t h ep r o j e c t e dn a t u r a lg r a d i e n t a l g o r i t h mi sf r e eo fr e d u n d a n tm o v e m e n t ；i tc a np e r f o r mt h eb s sw i t ht h e d y n a m i c a l l yc h a n g i n gs o u r e en u m b e ra n dn e e dn o tt oi n i t i a l i z et h ea l g o r i t h ma st h e s o u r c en u m b e rc h a n g e s w h a t s m o r e ，t h es e p a r a t e ds i g n a l sa r er e s e r v e di nt h e o r i g i n a lc h a n n e l f i n a l l y , t h e i d e a lo fc a n c e l i n gt h er e d u n d a n tm o v e m e n t b y o r t h o g o n a lp r o j e c t i o ni sg e n e r a l i z e dt oak i n do fr l sb s sa l g o r i t h ma n dd e d u c e da r l s b s sa l g o r i t h mw i t ha nu n k n o w ns o u r c en u m b e r k e yw o r d s ：b l i n ds o u r c es e p a r a t i o n ( b s s ) ，i n d e p e n d e n tc o m p o n e n ta n a l y s i s ( i c a ) ， n o n l i n e a rp r i n c i p l ec o m p o n e n ta n a l y s i s ，n a t u r a l g r a d i e n t ，r e l a t i v eg r a d i e n t ，r e c u r s i v e l e a s t s q u a r e s ( r l s ) ，p r e w h i t e n i n g ，l o c a ls t a b i l i t y , r o b u s t n e s s ，s e m i p a r a m e t e rs t a t i s t i c s ， e s t i m a t i n gf i a n c t i o n ，o r t h o g o n a lp r o j e c t i o n ，l i m i tc y c l e 管避信号琏胃 1 t 点瑰验室 独创性声明 本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研 究成果。尽我所知，除了本文中特别加以标注和致谢中所罗列的内容外，论文中 不包含其他人已经发表或撰写过的研究成果；也不包含为获得西安电子科技大学 或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所 做的任何贡献均已在论丈中做了明确的说明并表示了谢意。 本人签名歹磊钍瓦 日瓤幽。岁。td 关于论文使用授权的说明 本人完全了解西安电子科技大学有关保留和使用学位论文的规定，即：学校 有权保留送交论文的复印件，允许查阅和借阅论文；学校可以公布论文的全部或 部分内容；可以允许采用影印、缩印或其它复制手段保存论文。( 保密的论文在 解密后遵守此规定) 本人签名：2 壶i 重&日期：兰丛生业日 导师签名 玖? 迄 。期 型毯! ! 塑。 第一章绪论 l 第一章绪论 1 1 研究历史与现状 1 9 8 6 年4 月1 3 日至l j l 6 曰，h e r a u l t 乘l j u t t e n 碍】在美国举行的以神经网络为主题的一个 国际会议上，提出了一种反馈神经网络模型和一种基于h e b b 学习规则的学习算法， 在线性混合信道和源信号本身未知的情况下，新算法仅仅应用混合信号实现了两个独 立源信号的分离。h e r a u l t 和j u t t e n 的工作开辟了一个崭新的研究课题盲信号分离 ( b s s ：b l i n ds o u r c es e p a r a t i o n ) 。 在混合信道和源信号未知的情况下仅仅利用观测信号( 混合信号) 及源信号的统 计独立性假设辨识混合信道与或恢复源信号称为盲信号分离。盲信号分离最初研究 鸡尾酒会( c o c k t a i lp a r t y ) f 69 l 问题，即在一个同时存在众多谈话者的环境中，由麦克 风阵列拾取各谈话者所发出的声音信号的混合，通过信号处理的方法，希望分离出特 定的谈话者或特定的几个谈话者的声音信号。 由于盲信号分离的唯一假设条件就是源信号相互统计独立，使得盲信号分离成 为应用非常广泛的信号处理方法。尤其当很难或根本无法建立从信源到传感器之间的 传输信道模型时，盲信号分离就成为唯一可行的信号处理方法。目前，在通 信 3 1 , 1 3 0 , 13 7 , 1 7 0 , 17 1 j 、雷达和声纳 3 4 、图像 7 6 , 9 1 、语音 6 3 , 1 6 6 】、医学 13 , 1 15 1 以及地震信号处 理等诸多领域盲信号分离都具有了广泛应用，因此对盲信号分离问题的研究具有重大 的现实意义。 在h e r a u l t 和j j u t t e n i 7 8 , 9 3 提出反馈神经网络和基于h e b b 学习规则的学习算法后，信 号处理学界和神经网络学界对盲信号分离进行了大量而积极的研究和探索。t o n g 等 人【5 1 在1 9 9 1 年分析了盲信号分离问题的不确定性和可分离性，并给出了一种基于高 阶统计量的矩阵代数方法。c o h e n 乖l a n d r e o u 4 驯在1 9 9 2 年研究指出，h e r a u l t 年l l j u t t e n 的 神经网络只适合于分离两个亚高斯源信号，当源信号含超高斯信号时，分离效果将显 著下降。c a r d o s o 等人 22 】1 9 9 3 年提出了一类基于高阶统计量的联合对角化盲分离方法， 并将其应用于波束形成。c o m o n 【4 9 】在1 9 9 4 年详细分析了线性瞬时混合模型下的盲信 号分离问题，明确提出了独立分量分析( i c a ：i n d e p e n d e n tc o m p o n e n ta n a l y s i s ) 的 概念，定义了盲信号分离问题的目标函数即对比函数( c o n t r a s tf u n c t i o n ) 并描述了它 的性质，进而证明以k u l l b a c k l e i b e r 散度表征的分离系统的输出之间的互信息是盲信 雷达信号处理t 点实验室 2 冶继民：西安电子科技大学博士学位论文 号分离的对比函数。利用截尾的e d g e w o n h 展开对概率密度函数进行高阶近似，c o m o n 提出了一种基于特征分解的独立分量分析方法。这种方法需要对观测信号进行白化预 处理，而且是一种批处理算法，运算量大，实时性差。为克服这些缺点，b e l l 等人 ”】 在1 9 9 5 年基于信息论，通过最大化非线性输出节点的熵，提出了一类熵最大化在线盲 信号分离算法，但收敛慢，而且需要矩阵求逆运算，稳定性也比较差。a m a r i 等人 3 】 在1 9 9 6 年利用截尾的g r a m c h a r l i e r 展开逼近输出信号的概率密度函数，提出了一种基 于前馈神经网络的在线算法，但仅局限于分离亚高斯信号。c a r d o s o 等人【2 “”3 】证明了 在源信号的概率分布函数已知的情况下熵最大化原则、最大似然原则和互信息最小化 原则是等价的。在源信号的概率分布函数未知时，y a n g 等人1 1 5 6 1 在1 9 9 7 年通过研究对 比函数( 分离系统输出之间的互信息和分离系统输出的联合熵) 的梯度证明，当源信 号具有零均值时，熵最大化算法在独立分量分析的最小互信息算法的分离点( 算法的 零点) 处不会沿增加串音干扰的方向更新分离矩阵，即源信号具有零均值时熵最大化 算法可以收敛到正确的分离点。c i c h o c k i 等人 38 ，4 0 】通过对已有梯度算法中的梯度右乘 一f 定矩阵提出了一种稳健的在线盲信号分离算法，形式十分简单，而且由于右乘正 定矩阵消去了矩阵求逆运算，大量仿真实验验证了即使混合矩阵的条件数很差也能有 效地工作，但作者没能从理论上解释算法的工作原理及其良好性能。后来，a m a r i 2 , 6 删 从信息几何的角度诠释了算法的工作原理，并明确了自然梯度的概念，提出了一类盲 信号分离的自然梯度算法。几乎与a m a n 同时，c a r d o s o 等人 2 3 】从盲分离算法的乘法结 构出发，提出了相对变化、相对变化率等概念，进而推导出相对梯度，提出了基于相 刑梯度的售信号分离算法。丽且，c a r d o s o 将概率统计学估计理论中的等变化性应用 到盲分离算法中 2 ”，提出了等变化性这一盲分离算法关键性能的定义，对c i c h o c k i 等 人提出算法的分离效果不受混合矩阵的条件数影响这一良好性能给出了理论解释。业 已证明，自然梯度和相对梯度两种算法等价。受独立分量分析的启发，k a r h u n e n 等 人【”。8 m 5 ，”7 1 在主分量分析”，1 2 4 1 ( p c a ：p r i n c i p l ec o m p o n e n t a n a l y s i s ) 方法中引入 某种非线性，提出了一类非线性主分量分析的盲信号分离算法。 除了同步提取所有源信号的并行算法外，盲信号分离还可以采用一次只提取一个 源信号的串行算法【5 4 】，典型的有h y v a 血e n 等3 1 8 1 ，8 2 ，8 8 1 的定点( f i x e d - p o i n t ) 算法和 t h a w o n m a s 等人【1 4 4 l 的级联神经网络提取算法，前者具有二次收敛性，而后者克服了 串行算法的误差积累问题。“等人【1 0 8 】在2 0 0 2 年提出了一种形式上类似于并行算法的 盲信号提取算法，该算法的特点是一步就可提取出一个源信号，而不同于传统的盲信 号提取方法提取一个源信号需要分提取和数据压缩两步完成。 随着盲分离算法研究的深入，逐渐引入和产生了许多相关理论分析，如c a o 等人【9 在1 1 9 9 6 年提出的行可分解理论、m o r e a u 等人 1 2 0 , 1 2 0 1 的对比函数理论、a m a r i 等人4 1 1 9 9 7 年提出的半参数统计理论和自然梯度理论、c a r d o s o 等人 5 , 2 3 , 2 8 , 3 1 , 5 6 , 8 0 , 1 2 3 1 的局部稳定性 雷遮惯号处疆 点墓 验宣 第一章绪论 3 理论和等变化理论、l i u 等人0 1 的一比特匹配理论等。这些理论反过来又促进了许多 算法的出现，包括学习速率自适应调整算法鼢霓，9 2 ，1 15 ，”2 j ；l e e 等人的拓广i r t f o r m a x 簿 法，1 17 1 ，g i r o l a m i 等人利用负熵m 1 ，y a n g 等人利用自适应学习斛度、峰度方法”9 等掇出了混合亚高新和超简斯源信号的盲分离算法粥冉“，孙1 ，撕7 以及混合矩阵列亏损 病态情况下的直提取算法1 0 2 ，1 ”圳8 】等。 随着商信号分离闯题中限稍性假设条 串的逐步放宽，富信号分离问题的研究范潮 不断扩大。针对实际中常出现的非平稳源信号混合的情况，s o u l o u m i a c 】3 6 j 通过对两 个协方差矩阵髂联合对角纯，摇密了一静j # 平穗深信号鲍裔分离冀法。p h a m 等入”“ 基于极大似然原理提出了一种具有超效率( s u p e r e f f i c i e n c y ) 的拟牛顿算法，两者都 能实魏j 平稳源信号的盲分离。e v e r s o n 等k j 6 3 谰马尔可夫摸鍪，z h a n g 等a 1 4 7 2 ，2 蜉， 镯 用状态空间模型对信道建横，解决了混合矩阵动态变化情况下的宵信号分离问题。 h y v a r i n 黝笺夫 8 9 州1 使霜毫薪矩( g a u s s i a nm o m e n t ) 嚣数采应纣鼹测信号中瓣平稳曝 声。冯大政等人 4 1 提出多阶段分解算法，实现空间色噪声背景下的商信号分离问题。 j 溪时残卷积溪合模墅下载喜傣号分离实际上藏是蛮反卷鞭阮7 5 t 9 9 ”t 6 润题，獒 型摊法有a m a r i 等人【1 0 的自然梯度算法、d o u g l a s 等f 1 6 u 的梯度自适应算法、s m a r a g d i s 等人唧，m4 躲德立时变换方法、e h l e r s 等人戆空时解租关方法、t u # l a i t 等久岬4 9 l 的空时高阶统计量方法年i j p a r r a 等人【1 3 l 】的多霞自适应解相关( m a d ：m u l t i p l e a d a p t i v e d e c o r r e l a t i o n ) 算法簿。非线性混合摸型下蛉盲信号分离翊题更热复杂，较早涉及遗 方丽研究的是b u r e l t l ”，他阁个两层感知器和基于误差后向传输思想的无导师训练 冀法，通过横度下降法优化绞计独立的测度溺数，从恧实现转线性溅会信号的蛮分囊。 p a j u n e n 等人【j 2 6 | 提出用自组织映射( s o m ：s e l f - o r g a n i z a t i o n m a p ) 网络从非线性混合 信号中恢复源信号，但网络复杂性璺指数增长，并照分离逡续性源信号时攒傻误差严 重。y a n g 等) k j ”7 j 利用两层感知器网络结构，提出了基于最大熵和蠛小互信息测度函 数的信息后向传输簿法，在恰当选撵非线性激励函数的兹提下能够分离一些特定非线 性混合的源信号。t a n 等人【1 4 2 提出用径向豢神经网络解决非线性裔分离问腿。t a l e b 等人 13 7 , t 3 8 】就所谓的后非线性混合模型进行了探索。此外，h y v a r i n e n 9 0 1 发展了非线性 盲分离闻越翡存在性和难一性理论，指出菲线性盲倍号分离闻题的解总是存在的，对 于两个源信号的情况，在系列的约束条件下还可获得惟一解。可以说这方面的研究 嚣l 嗣起步，还有太燕的实黼蟊题膏祷解决。 上述的大多数辫法都属于适定肖信号分离( 源信号个数等于混合信号的个数) ， 嚣嚣在实际中，添信号个鼗往往是未知靛，蒸至是蘧时闫动态变化的( 眈如在移动道讯 中，一个小区中用户的个数就是随机变化的) ，所以研究源信号个数未知或随时间动 态变纯弱蠢信号分离骚究嚣其有瑗实意义。在漾信弩个数泰知或动态交纯酌奢信号分 离中主要研究超定宵信号分离( 即观测信号个数大于源信号个数) 。源信号个数已知 雪璐信号蔑目t ， 点实捌 室 4冶继民：西安电子科技犬掌博士学位论二起 的超定盲信号分离问题的研究最早是z h a n g 、a m a r i 和c h o i 等人阳8 ，0 1 发起的。特别 地，z h a n g 等人u 6 8 从李嚣( l i eg r o u p ) 稠s t i e f e l 沆形出发，提爨了一霹中超定蠢信号分 离的对比函数，并推导了相应的自然梯度算法。朱孝龙等人 1 8 2 2 0 0 4 年从奇异值分解 出发，推导出了同样的超定意信号分离算法。c i c h o c k i 等人f 37 】最早研究了源傣号个数 未知的超定茸信号分离，大量仿真试验验证了分离矩阵采用方阵且将舀然梯度直接推 广到源信号个数未知的超定崮信号分离对，在算法的收敛阶段，输出幽希望的源信号 的拷贝和冗余信号构成。作者在2 0 0 4 年0 6 1 从理论上诚明了分离系统输出的互信息仍 然是超定盲分离的对比函数，理论证明了c i c h o c k i 等人的实验结果。 近年来，在国内也有一些学者从搴盲信号处理理论和应用技术的研究。凌燮亭”j 用反馈神经嘲络的h e b b 学习辫法，实现了遥场 青况下一蔽信号静蛮分离。俺摄翌等 人 7 6 , 7 7 , 1 7 5 1 在基于特征分析和离阶谱的盲信号分离和育反卷积研究中，提出了一系列的 基予离酚统计量私信怒论的溯瘦与算法，荠矮予解决塞系统参数菇诗簸盲滚窳彩藏润 题。胡光锐等人【”6 】綦于反馈神经网络用混合高斯模型估计概率密度黼数，提出一种 语音信号酶蠢分离算法。泻大致等久【l 碉通过慈统纯敬多酚数分鼹黎多除段鬟梅，提 出了一种多阶段分解算法，能实现空间色噪声背景下的盲信号分离问题。髂李成等 久“ 琏1 将毒信号分离理论秘转法应援予解凌藿多用户硷溅| 递题。透米，剃瑷帮 曩摄 亚旧) ，张贤达和保铮【17 9 1 分别撰写了关于盲信号分离的综述性文献，张贤达和保铮m 】 褒恐销魏专蘩遂痿缕号楚壤中对蠢培号分蹇亵蛮爱卷积翊题邈绛了详缨分绍，这 些工作都极大地推动了国内寓信号处理问题的开展和研究。 l 。2 本论文的主要工作 本论文主要针对线性瞬时混合模型下的越定盲信号分离问题展开，特别土电，我们 把工作重点集中在囊遥应著章亍实琉方藤。各章内容蒹体安 鲡下： 第二章系统奔缓了砉信号分裹懿罄礁翘谈。蓄先详鳃蠲述了喜壤号分离阕邃匏整 号模型、固有的两种不确定性和亩信号分离的基本假设。分析了盲信号分离的对比函 数理论、盲信号分裹黪法豹羯部稳定性，总终了已有戆盲蒗移分离雾法戆弱郝稳定瞧 条件并给出了性能评价测度。 第三章研究了源信号个数未知的盲信号分离问题。首先针对源信号个数未知的膏 信号分离问题，提如了一种棚应的信号分离模型，定义了薪分离模型下的分离点。研 究了源信号个数未知的新分离模型下的可分髋和对眈函数，璎论证明了新分离模型 霍琏嚣母式浔i 赢实齄，眨 第一幸绪论 b 具有( ：个本质相等意义下不同的分离点( 每一个分离点对应一个带有冗余输出的 分离状态) ，新分离模型输出的互信息仍然是盲信号分离的对比函数。利用自然梯 度最小化源信号个数未知的盲信号分离模型的对比函数( 分离输出的互信息) ，得到 了源信号个数未知的盲信号分离自然梯度算法。 第四章推导源信号个数未知的盲信号分离的半参数统计算法。首先分析了源信号 个数未知的卣信号分离自然梯度算法的行为，并得到如下结论：由于不存在平衡点且 存在两种冗余移动，使得自然梯度算法不能稳定收敛。为了提出一种稳定收敛的源信 号个数未知的盲信号分离算法，我们将半参数统计方法应用到源信号个数未知的盲信 号分离中，构造出估计函数，推导出了基于该估计函数的半参数统计学习算法，该算 法以分离点为平衡点。研究了源信号个数未知的盲信号分离半参数统计学习算法在分 离点( 算法平衡点) 处的局部稳定性，给出了算法局部稳定收敛的条件。 第五章推导源信号个数未知与或动态变化的盲信号分离的投影自然梯度算法。 由于源信号个数未知的盲信号分离自然梯度算法的分离点不是平衡点，在算法分离点 处算法固有的两种冗余移动仍然存在，导致算法不能稳定收敛。我们利用正交投影 的方法消除自然梯度中沿混合矩阵转置的零空间方向的冗余分量，推导出正交与混合 矩阵转置零空问的投影自然梯度，给出投影自然梯度算法。通过研究投影自然梯度算 法在分离点处的算法行为，证明了投影自然梯度算法在分离点处将进入一个两点构成 的极限环。总之，投影自然梯度算法消除了自然梯度中沿混合矩阵转置的零空间方向 的冗余移动，而且改变分离矩阵各行幅度的冗余移动也因分离矩阵在分离点处进入极 限环而得以抑制，所以算法可以稳定收敛。投影自然梯度仅仅消除了自然梯度沿混合 矩阵转置的零空间方向的冗余移动，所以在自然梯度算法发散之前，两种算法具有完 全相同的收敛过程，从而投影自然梯度算法保持了自然梯度算法的快速收敛性能。结 合作者提出的一种混合矩阵转置零空间的快速检测方法，实现了在源信号个数发生变 化时不需要重新初始化算法的盲信号分离，而且在源信号个数发生变化时已经分离的 信号在原信道中得以保留，避免了重复学习。最后，我们将投影去除冗余移动的方法 应用到一种不需要预白化的r l s 型盲信号分离算法中，给出一种能够稳定收敛的源信 号个数未女h r l s 型盲信号分离算法。 雷达信争处理 点尝；验宣 第= 章盲信号分离的基础知识7 第二章盲信号分离的基础知识 2 1 引言 盲信号分离问题一诞生，就很快引起了信号处理学界和神经网络学界的广泛兴 趣。特别是近十年来，理论研究和实际应用两方面都获得了长足的发展。简而言之， 盲信号分离就是根据观测到的混合数据向量确定一个变换，以恢复不可观测的源信 号。典型情况下，观测数据向量是一组传感器的输出，其中每个传感器接收到的是源 信号的不同组合。术语“盲”有两重含义： _ 源信号不能被观测； 源信号如何混合是未知的。 显然，当从源信号到传感器之间的传输信道很难建立数学模型，或者关于传输的 先验知识无法获得时，盲信号分离是一种很自然的选择。当前，盲信号分离在无线数 据通信 3 1 , 1 3 0 , 13 7 , 1 7 1 】、雷达和声纳、图像 7 6 , 9 1 、语音 6 3 , 1 6 6 】、医学 13 , 1 1 4 3 以及地震信号 处理等领域得到了广泛应用。 根据观测信号和源信号个数的多少，盲信号分离问题可以分成以下三种情况： 适定( w e l l d e t e r m i n e d ) 盲信号分离：观测信号与源信号的数目相等； 超定( o v e r - d e t e r m i n e d ) 盲信号分离：观测信号数比源信号数多： 欠定( u n d e r - d e t e r m i n e d ) 盲信号分离：观测信号数比源信号数少。 适定盲信号分离又称完备( c o m p l e t e ) 的盲信号分离，而超定盲信号分离也称欠 完备( u n d e r - c o m p l e t e ) 的盲信号分离，欠定盲信号分离又称超完备( o v e r - c o m p l e t e ) 的盲信号分离。 为解决盲信号分离问题提出了许多算法。根据信号的提取方式不同，盲信号分离 算法可分为串行算法和并行算法两大类。前者逐个提取信号，后者实现所有信号的同 步恢复。根据工作方式不同，盲信号分离算法有离线和在线之分，前者是批处理算法， 后者是自适应算法。根据适用的范围不同，盲信号分离算法可分成单一峰度信号的盲 分离算法和混合峰度信号的盲分离算法。前者要求所有的源信号要么都是亚高斯信号 要么都是超高斯信号，而后者则没有这种限制条件。 现有的典型算法中，c a r d o s o 等人阻2 5 ，旧1 的特征矩阵近似联合对角化( j a d e ：t o jn t a p p r o x i m a t ei ) i a g o n a l i z a t i o no fe i g e n m a t r i c e s ) 算法属于批处理并行算法， h y v a r ih e n 等人 8 1 , 8 8 l 的快速定点算法和冯大政等人”4 3 的多阶段分解算法属于批处理 雷达信号处理1 1 点窦验窒 第= 章盲信号分离的基础知识7 第二章盲信号分离的基础知识 2 1 引言 盲信号分离问题一诞生，就很快引起了信号处理学界和神经网络学界的广泛兴 趣。特别是近十年来，理论研究和实际应用两方面都获得了长足的发展。简而言之， 盲信号分离就是根据观测到的混合数据向量确定一个变换，以恢复小可观测的源信 号。典型情况下，观测数据向量是一组传感器的输出，其中每个传感器接收到的是源 信号的不同组合。术语“盲”有曲重含义： 源信号不能被观测； _ 源信号如何混合是未知的。 显然，当从源信号到传感器之间的传输信道很难建立数学模型，或者关于传输的 先验知识无法获得时，盲信号分离是一种很自然的选择。当前，盲信号分离在无线数 据通信 3 1 , 1 3 0 , 1 3 7 , 1 7 1 】、雷达和声纳删、图俐7 6 川、语音 6 3 , 1 6 6 】、医学 13 , 1 1 4 1 以及地震信号 处理等领域得到了广泛应用。 根据观测信号和源信号个数的多少，茸信号分离问题可以分成