（模式识别与智能系统专业论文）基于ICA的盲信源分离.pdf

摘要 信源数未知和动态变化时的盲信源分离( b s s ) 是一个重要的热门研究课题。 近年来已提出了许多分离算法，其中有些算法如自然梯度、相对梯度等算法特别 有效，但大多数算法都要求信源数己知并且固定，也就是说在信源数未知或动态 变化的情况下，这些方法也不是每次都能得到良好的分离结果。为此，本文提出 了一类未知信源数的确定、信源数动态变化的检测和信源的在线盲分离的算法。 本文的主要工作有： 利用神经网络输出分量之间的相关系数，检测出冗余的输出信号，并 通过改变动态神经网络( d n n ) 的结构，删去冗余的输出信号。d n n 的结构随信 源个数的变化而变化，并采用自然梯度算法实现了未知信源数的确定、信源数动 态变化的检测和信源的在线盲分离。 基于独立分量分析( i c a ) 的盲信源分离技术以及小波包分解技术， 提出了根据能量特征向量确定信源数的方法。在信源数未知或动态变化的情况 下，首先采用自然梯度的i c a 算法在线分离出各输出分量，然后根据输出分量 的小波包分解，得到各输出分量的能量特征向量，在线计算各能量特征向量之间 的距离，可以检测出相干的输出信号分量，通过删除这些冗余的输出信号，可以 确定出未知的信源数，并适合于信源数动态变化的情况。 计算机仿真结果验证了论文提出算法的有效性。 关键词：盲信源分离独立分量分析自然梯度算法相关系数小波包动态 神经网络 a b s t r a c t t h eb l i n ds o u r c es e p a r a r o n ( b s s ) w h e nt h es o u r c en u m b e ri su n k n o w na n d c h a n g e sd y n a m i c a l l y i sa l l i m p o r t a n t a n do p e n p r o b l e m ，i n r e c e n t y e a r s ，m a n y s e p a r a t i n ga l g o r i t h m sh a v eb e e nd e v e l o p e d ，i nw h i c hs o m ea l g o r i t h m ss u c ha st h e n a t u r a lg r a d i e n ta l g o r i t h ma n dr e l a t i v eg r a d i e n ta l g o r i t h mw o r ke f f e c t i v e h o w e v e r , m e s to f a l g o r i t h m sr e q u i r et h a tt h en u m b e ro f s o u r c e si sa s s u m e dt ob ek n o w na p r i o r i a n du n c h a n g e d + i no t h e rw o r d ，t h o s ea l g o r i t h m sc a nr i o ta l w a y so b t a i ng o o d s e p a r a t i o nr e s u l t s ，w h e nt h es o u r c en u m b e ri su n k n o w na n dc h a n g e sd y n a m i c a l l y a n e wa l g o r i t h mi si n t r o d u c e di nt h i sp a p e r , w h i c hi sa p p l i e d 船t h ed e t e r m i n a t i o no f u n k n o w nn u m b e ro fs o u r c e sa n dt h ed e t e c t i o no ft h es o u r c en u m b e r d y n a m i c a l l y , a s w d ! a st h eo n - t i n eb l i n ds e p a r a t i o no f o t a r c e $ t h e k e yp o i n t so f t h ep a p e r a l ea sf o l l o w s ： b a s e do nt h ec o r r e l a t i o nc o e f f i c i e ma m o n gt h ee l e m e n t so f o u t p t rv e c t o ro f n e u r a ln e t w o r k ，t h er e d u n d a n ts i g n a ii no u t p u tc o m p o n e n t sc a nb ed e t e c t e d ，a n d d e l e t e db yc h a n g i n gt h es t r u c t u r eo f d y n a m i cn e u r a ln e t w o r k ( d n n ) ，t h ed n n u s i n g a a t u 罐g r a d i e n ta l g o r i t h mc a n b e c h a n g e 4 i t ss t r u c t u r e sw h e nt h es o u r c on u m b e rc a r t i sc h a n g e dw i t hd n n ，t h eu n k n o w ns o u r c en u m b e rc a nb ed e t e r m i n e d ，t h ec h a n g i n g s o u r c en u m b e rc a l lb ed e t e c t e d , a n dt h em i x e ds o u r c ec a l lb e s e p a r a t e d o n - l i n e b a s e d0 nt h eb l i n ds o u r c e s e p a r a t i o n w i t h i n d e p e n d e n tc o m p o n e n t a n a l y s i s ( i c a ) a n d w a v d e t p a c k e td e c o m p o s i t i o n , 鑫n e wa l g o r i t h m f o rt h e d e t e r m i n a t i o no ft h es o u s en u m b e ri s p r e s e n t e du s i n gt h ee n e r g yc h a r a c t e r i s t i c v e c t o ri nt h ec a s eo f u n k n o w no rd y n a m i c a l l y c h a n g i n g n u m b _ e ro f s o u r c e s ，t h em i x e d s o u f 辑i ss e p a r a t e do n - l i n eu s i n g c aw i t ht h en a t u r a l g r a d i e n ta l g o r i t h m ，t h e n b a s e d o nt h ew a v e l e tp a c k e td e c o m p o s i t i o no f o u t p u tc o m p o n e n t ，t h ee n e r g yc h a r a c t e r i s t i c v e c 治ro fe a c ho u t p u tc o m p o n e n ti so b t a i n e d a f t e r 氇拣t h ed i s t a n c ea m o n gt h e e l e m e n t so f e n e r g yc h a r a c t e r i s t i cv e c t o ra r ec a l c u l a t e do n - l i n e t h ec o r r e l a t i o no u t p u t s i g n a lc o m p o n e n t sc a l lb ed e t e c t e db 豁酣o nt h e s ed i s t a n c e s , s u c ht h em q k n o w n n u m b e ro fs o u r c ec a nb ed e t e r m i n e db yd e l e t i n gt h er e d u n d a n tc o r r e l a t i o no u t p u t c o m p o n e n t s t h i sa l g o r i t h mc a n a l s ob e a p p l i e d t ot h ec a s ew h e nt h e $ o h r c en u m b e ri s c h a n g i n gd y n a m i c a l l y t h ec o m p u t e rs i m u l a t i o nr e s u l t ss h o w t h ee f f e c t i v e n e s so f t h e a l g o r i t h m k e y w o r d s ：b l i n ds o u r c e s e p a r a t i o n ( b s s )i n d e p e n d e n tc o m p o n e n t a n a l y s i s ( i c a ) n a t u r a lg r a d i e n t a l g o r i t h m 州g a ) c o r r e l m i o nc o e f f i c i e n t w a v e l e tp a c k e t d y n a m i c a l n e u r a l n e t w o r k ( d n n ) 创新性声明 毒a 声鹳黪黧交静论文爰我个天程警耀蕹导下送行静辑裟工诺及驳褥骛鞣竞瘦聚。尽我 所知，除了奉文中特舅细鞋标注释致谢巾所罗歹i 弱内容乡 ，谶支中不包言萁穗a 已经发表或 撰笃遵靛研究戏豢：毪不包含为获褥嚣炭电子辩援大学或荬宦教育结掏的学位藏诞书 疆傻瑶 过的材料。与拽一同工作的同志对本研究所做的任何贡献均融档论文中做了明确的说明并表 示了瓣煮。 本人熬名： 4 3 ：篡 0 日期i 碰；：厶z 关卡谂突使攀授权懿说嬲 奉a 完叠了瓣遴安电子辩技大学霄芙爨馨和穰舞学经论文静瓶定，舔：研究叟程棱攻 读擎羲箨霹论文互 睾熬裔谖产较纂健瓣强安电子辩技大学。本久僳褒孥韭离较舞，发表论文 或使用论文工作成果时署名单授仍然为西安电子科技太学。学校有权保留送交论文的复印 传，允许套剿粒醛阕论文；学校露醛公礤论文教垒都或部分埯容，可以采用彰垮、拣棼或其 它复制手段保存论文。( 保密的论文谯嬲密后遵守此规定) 本人整囊 导师撼盘： 西童：纛! 丝盘 e 瓤 洫i ! z ： 日期；妒羔，口 髂章前誊 第一章前言 本文嚣绕猥立分羹势撬( i c a i n d e p e n d e n tc o m p o n e n ta n a l y s i s 貔麓髂) 及其 在盲信添分离( b s s ：b l i n ds o t t r c es e p a r a t i o n 耱简称) 中的应孀展开磷究。本章 黄先对b s s 蛹题职其发展历史及麟究现状进褥回藤，然压分缨本文瓣工 乍和章 节安排。 1 + 1b s s 随瑟 程信源秘偿号抟瓣特捱均泰翔的壤况下，硬仅通邂接收劐豹混合臻”譬( 潆揍 号经过来知健输特征懿信道混会麓豹输爨) 采赛现偿源弱分寒，恢复它们戆波澎 蠡声缡系统，缝矮黪深，堂携臻弩稔溅等) ，这载篷瞽倍瀑滚裂或麓傣垮源分 离( b s s ) 问题，这种技术称为谢信源( 号) 分离技术。多信譬源混合的留分离 技术程逶谲、落音蔫篝处理、垒铂医学信号楚疆、露遮嚣标揉溺等矮躐谢饕嚣鬻 重要的应用价德。 澄x ( o 、n 焱”，s ( t ) r 8 碧三拿零戆蓬、秘方蓑糍隈豹蘧鼹矢塞，a 为捌粒 麓零数混会斑辫( 设掰拜) ，娜蠢搭溺分离戆混合骥黧必 x ( ，) = a s ( t ) + 其中苫f ) 、菇( f ) 、n 分羽表示漂傣鸳，鼹溺) 数据秘噪声n b s s 阔鼷可攒述为：缭定x ( o 灏鬣溺徨，希鋈稳诗密港台矩阵a ，潞避褥锻 复出澈嫔号s f ，翔豳1 。l 艇示。 由于源髂号s ( 砖翻混合矩阵“郝来知，显然采用一般的信号处理手段怒光法 求簿懿。诲多著名嚣专家学考都羧力予喜信添分离豹臻究，己撬交了诲多学习算 法，荬中囊然梯瘦、糕对梯度祷簿法院较毒效。 由于没肖激于混合矩阵a 的饭何兜验知识，而只能利用接收信号所携带的信 2 纂于i c a 的盲信源分离 惠，藏称为盲鹣方法。律尧a 绪挎僖意缺乏静一释静嫠，必袋要有美子源信警 的某些附加假设，这些假设包搔高斯性，循环平稳性等。众所闵知，我们无法将 几个具有高斯分布的信号源扶接收信母中分离歼来，因此，我们假定夜源信弩中 至多只鹰一个信号具有舞斯分布。另步 还要考虑一种不同的信号假设，平稳信号 源具有不同的谱内容l ”。 焉p ) 是窜) ： 菩。) 混和硝阵 分离矩阵 跏，一口鱼口邋 y q ) 。 y 。( f ) 恐国 夕。g ) = ；( r ) 鞠1 1 蠢信源分襄簸理图 b s s 问题的个经典的例子是鸡尾酒会问题，即假设几个人同时在一个房间 疼漭诿，蒙是焱一个璃滗滔会主一稃，辫么阕麓是翔簿逶过搜穗房闯巾豹足令鹾 筒的录啻来分璃出不问说话者的声音川。 1 2b s s 发震瑟史及磷究瑷状 在b s s 中，般性的目标怒在不知道混合过程的条件下从躐察至的混合信号 孛提取班担互独立担怒来知的源痿号。 在b s s 中使用的熬本的线性数据模型有下面的形式： x ( o = a s 牛n = 艺$ l 堪婶| 专n 0 - 2 ) j # l 其中，( 玲= r 移) ，和) 】r 用著乏表示耐维时轰f 静蕊察袋数据向董，赢藿 x f ) 瑕麸零垮继菲毫颧统诗分凑。源镶号蠹量s 窑) = 魏，s 。( f ) f 黩含了n 个 独立分量的源信号t p ) a = 【口i ，】( q = a l ；，a 。；，r ) 是一个常满秩 m n 维矩陴，被称为混和瓶阵。在式( 1 - 2 ) 中，通常信源的数目假设至多 与瀑螽售号豹鼗瑶掰穰等，势显经褰鹰挝= 。 第一辩前寓 通k - t x ( t ) 找出a 的逆映射n x m 维b ( 称为分离矩阵) ，使得维向量： y o ) = b x ( o( 1 3 ) 戏为滚信号s ( f ) 豹一个信许，静y p = s 窜) 。兔魏，避经提出了凡静瘫效的冀法 i 二m 。 由于b s s 问题的盲性质( 只有数据向量x ( o 已知) ，分解式( 1 - 3 ) 不魑唯 一的。被估计的源信母s ，( f ) 在y ( f ) 中能以任何顺序出现，并且它们的缩放比例和 荐号瞧能经爨玻交。遁豢煞诗熬源售譬逶过魄爹| | 续毅谈萁方羲等予l 。这释麓警 的b s s 模型( 1 2 ) 式已为许多种类的实际数据混合掇供了个有意义且自然的 特注，它的澎瘸越来越广泛。 谯许多情况下，基本的线性模型( t - 2 ) 妓对于充分描述观察数掇( f ) 来说 过于简单。因此，自然想到了采用非线性数据模型表示b s s 问题。对于瞬间的 滢合麓号，懿鲮往鼗攥模鍪熬一般形凌受： x q ) = ，啊o ) ) ( 1 4 ) 其中，是一个未知宓值个分量的向量函数。b s s 问题悬仅通过利用观察到 的混仓信号x ， ，菇假设是独立的。矩咚a 是硝v 维的常数混和矩阵，为m 维随机噪声向量。 这种定义挺i c a 疑题篱纯为夔藏交星摸黧的羧佳诗游越。毽蹩，这释髂诗 问题不简单，因此i c a 研究的大部分部集中在下面被简化的定义上。 定义3 ：( 无噪声i c a 模爱) 随税向量s 豹i c a 为数褥倍计翡推广模型： x = a s( 2 - 7 ) 其中a 和s 与定义2 中相同。 这里忽略了噪声赶量。这也是l u t t e n 和h e r a u l t 农瞧们瓣学术论文中奔甥鲍 模型。这些论文可能是最早的关于i c a 的精确表述。 论文孛，将主要惩无噤i c a 攘篷戆定义，因凳当混合臻号数m 太子售潦鼗 聍时噪声变擞可以看成是附加的独立分量。如果数据遵从等式( 2 - 7 ) 的推广模 型，并且采阁适当的独立性测度，刘定义j 和定义3 是渐进铎效的1 2 1 。 三、i c a 模型的确定 为确得模型的准确性，我们对无噪声i c a 模型加以限制( 除了统计独立性鲢 基本假设之外) ： l 。黢蠢戆独立势霉孛，至多蠢一个分霆黢簌舞蓉分骞。 2 ，观察到的线性组合向蹙的数网肼一定不能少于独立分量数坩，即m 孵。 3 矩阵a 必须怒列满秩的。 4 ，所鸯躯独立分量s 炎零均僮瓣平稳造程。 众所周知，我们无法将几个具有高斯分布的向量分离开来，因此，我们假定在i c a 的模型中最多只有一个向量莛有离新分布是含理的。警m n 时，b s s 阔题怒超 定敢( o v e r - d e t e r m i n e d ) ，多余躬趣量用予减少噪声。毂不能燕确分离。馁 1 0 基于i c a 的盲信源分离 设3 在任何物理情况下都是“几乎肯定”成立的。统计独立性是一个很严格的统 计假设，而它是一个物理上非常合理的假设，因为分量s 。总是由分离的物理系统 发出的。 b s s 中还存在着两类不确定性： 尽管可以正确的将独立分量s 分离开，但是并不知道它们的排列顺序，这 因为同时交换输入向量s 和混合矩阵a 与之对应的列位置后，所得到的观测向量 x 是相同的。 我们不能确定分离信号的幅度，因为独立分量s ，和与之对应的混合矩阵a 的列之间互换一固定的比例因子，其观测向量j 也是相同的。 因此模型的不确定性表现为分离的独立分量排序不确定和恢复信号幅值的 不确定。所以通常可以定义独立分量s 有单位方差，这使得独立分量是唯一的。 很显然分离的信号的次序不确定并不会对分离产生实质性的影响。 四、i c a 的应用 1 盲信源分离 i c a 模型的经典的应用是盲信源分离。在盲信源分离中，工的观察值对 应于m 维离散时间信号j ( f ) ，t = 1 , 2 ，的一个实现。那么独立分量s ，( f ) 被称为源 信号，它通常是原始的，未被干扰的信号或噪声源。盲信源问题的一个经典的例 子是鸡尾酒会问题。假设几个人同时在一个房间内讲话，好象是在一个鸡尾酒会 上一样。那么问题是通过使用房间中的几个话筒的录音来分离不同说话者的声 音。原则上，这对应于i c a 数据模型，其中x ，( f ) 是第j 个话筒的录音，5 ( ，) 是声 音3 次方的波形i ”。 因为有关i c a 的大部分研究是面向人脑中源信号分离的应用，所以许多处理 i c a 问题的作者没有使用术语i c a ，而只是谈到盲信源分离( b s s ) 。但是，我 们在i c a 和盲信源分离之间进行了明确的划分，i c a 是一个理论问题或面向不 簿篡章盲馈源分离的葬漱 潮痤爝豹黎箍搂燮，嚣蠢蘩澈努褰是逶遘楚薅誉溺豹毽谂方法( 不蔽袋子i c a ) 熬羧簿凌麴囊雳瓣莲。实鼯上，密蘩濠毋离裁懑进等t c a 截然不弼躲方法族解 决。特剁地，使用频率信息戚频谱特性的方法魑谢激的。 2 葵谨照耀； i c a 黪舅个应聪蹩特锈疆鼗，a 静剜表示特征，是籁寮数瓣灏麓盖孛 繁卞姆 耱靛系数。 一方飚i c a 与投影跟踪密切耀关，黼曼一方蕊它又与因子分概密惦棚关，困 憩i c a 嶷投影躐黥弱因予努辨审褥到了斑孀。送藏应灞瞧括覆诸翔缀漭学、，舀 遴学襄冀它羟会懿学，浚焱褒发魏诗零莲蕊这辩靛壤城中酶( 攘溺数器努辑。 萋2 3i c a 冀法 本苓奔绍t c a 鹣或蔑冀滚，寄定煮秘x 蘸蛰蕊n t ) 舅滚；霉线浚主势藿分掇 戆递好藏小二黎( n p c a * 髓s 辣法；盎b e l l 耧s e j l n o w s l d 提爨懿b s 算法1 5 堍 鼹一种瑟予信息鼹大化的梯魔算法；自然梯度弊濂( n g a ) ；l a h e l d 和c a r d o s 0 京1 9 9 4 戆会议上舟绍了德稻晦簿效鸯逶骧绩瀑分凌( e a s i ) 算法麓。簿耪粪法 懿菝心慧鬟瑟矮甏及其蘩枣像壤裂。每拿壤群露溅貔更攀藏裂鑫绘定，郄 w ( t + 1 ) = w ( o + a w ( 2 礴) 奠孛w ( o 泌努簧矩阵。 本文童要袋翅自然梯度嚣泼( n g a ) 。 a m a r i ，c i c h o c k i 帮y a n g 辩b s 雾法稳蕊了改邀，震瘩然臻裹联筏了麓瓿裙庭。 这秘方波大大加快了莫漕皎皴逡攫，也健诗舞褥削了麓他。 为分粥，1 个独立的分蘼，采用前向线性神经蒯络( n n ) 作为线性分离系统： t r ( 0 = 删乎圹翁，群势= r r ( o x ( o ( 2 - 9 ) 粪牵y 搴= 瞅g ) 咒g 芗y s ( 0 戆一静蕊诗，妒铆凳n x m 雏翁努璃交滢台) 炬阵。哭犍在于以递归的方法找出w ( i ) ，使r p ) 一w ( o x ( o 是信源氟嫩s q ) 的估 基于i c a 的盲信源分离 计。神经网络的任务就是通过样本训练，自适应地将权矩阵( 即分离矩阵) 矿调 整到 = a p a 一1( 2 - 1 0 ) 其中，a 为非奇异的对角阵，p 为交换矩阵。 从信息论的观点看m 1 ，为测量非高斯输出分量之间的独立性，就必须使输出 分量的互信息最小化，在理想情况下直至趋于零。为此应从神经网络系统输出的 互信息的最小化来推导权矩阵的更新公式。最小互信息( m l v f l ：m i n i m u mm u t u a l i n f o r m a t i o n ) 的基本思想是选择神经的权值矩阵矽，使输出r 的各个分量之间的 相依性最小化。这一相依性可用输出y 的概率密度函数p ，( y ，w ) 与其分解形式 磊( y ，) 之间的k u l l a b a c k l e i b l e 巾( l ) 散度d ( ) 度量。 即) = k l p r ( y 嘶( y 刚竺s p r ( y ，州0 9 雾器打( 2 - 1 1 ) 其中，分解形式的概率密度函数辫叮，) 是y 的边缘概率密度函数的乘积，即 蟊( y ，矿) = 兀p o ，) ，而边缘概率密度函数声，饥，矿) 定义为 芦。( 只，矽) = 卜j p ，( y ，矿) 瓠e y ，。方。方。 ( 2 1 2 ) k l 散度是贝叶斯( b a y e s i a n ) 统计意义下的风险函数，它具有一个很重要的 性质”1 性质：当三个点p ，q 和r 在某些条件下构成一“广义右三元组”时， r 阻i p l l q = r 弛l o l l ， + r c , l l q 】 ( 2 1 3 ) 成互。 上述性质是非常重要的，因为由它可以证明：k l 散度d ( w ) 在删= g ( 其 中g 为广义交换阵) 取临界值( 即信号被分离的期望解) 时，达到全局最小值。 定义 q 、 h ( y ，1 4 ) = 一e l o g p r ( y ，) j = 一i p r ( y ，w ) l o g p r ( y ，矿) ( 2 一1 4 ) a r 、， o 。，形) = - e l o g p ，) 】= 一ip j ，w ) l o g p ，( 只，r v ) a y ， ( 2 - 1 5 ) 第= 肇盲信源分离的算法 势翻为输疆蠢塞y 豹联合缡每边缘熵。 蒋式( 2 一 4 ) 释式( 2 - 1 5 ) 钱入姣穆- 1 l x 并注意到蔑( 2 一1 1 ) 静 文熬壤糖毒r 静 互信息，敞得到用熵表示的甄信息： ， ) = d 矽) = - h ( y ，) + h ( y ；，形) ( 2 1 6 ) h c o m o n 证明脚】，互倍感怒独立分量分析的对比蘧数，日p f ( 渺) = 0 i fw = a p a 一( 2 - 1 7 ) 这愚昧饕，当显莰当y = w x = a p a 。建茁= a p s 靛善个努塞狻立聪，要信惑 f f 渺) 等予零。 由于腻信g i ( w ) 与k l 散魔相等，所以互信息具有和k l 散殿相同的性质。 蒋涮圭氇，瓷器拿分囊逶行鼙调翡胃遂菲线澎变换、慕2 翻鞠子帮交狡穗鬟辩，互 嫠息缳持不变。 蔑诧，令# ，= 爱t y ，) ，p m l ，拧) 为菲线性燮揍蜃酶输融分鬟， 善转) = 羹，锄) ，g 。 撑簿，谩簸窭矢爨y ) 懿 互信息最小，只能使其疗个分鬣为独立，而剩余的f 一，1 个分量将与某贱源信号相 干。因此渤， 打时剔除掉这，一揩个与源信号相千i 臼信号，就可以得n n 个相互 独立的输如分麓，从两确定如傣游个数。 霞筵，警信滚令数来鲡霹关键在予寝据i c a 翡缝祭疰线诗葬交备徐囊分塞之 间的相干饿，从而确定出哪些怒独立分量，哪些怒独娆分量的拷贝，从而想法易 除掉拷贝储譬，进而确定出信源数，并得到分离出的源信号。一种很嚣易想到的 第三章信源数求知时的b s s 方法是相必系数法，即在线计算备输出分攘之间的相关系数，以次来判断独立的 露号分爨与拷炎懿售号努燕。 二、相关系数 在倍母分析中，比较两个信号之间的关系，如它们艘褥相同域相似，戚者有 挣么差爨等。经典翡方法惩嚣熙傣号静籍关系数采捡溅窀拳3 之溺麴关系。 假设两个实能最信号舅p ) 和芦) ，若用y c t ) 近似地表示x ( t ) ，h 日 x ( t ) = a t e , y ( t ) ( 3 - 2 ) 箕中寤。魏实数。上述运镪酌误蓑箔号g 梆为 e ( o = z 翠) 一谚。罗) ( 3 3 为使这种近似是种最佳避似，必颁适当地选择遇近系数，使上述近似的误差信 号晟小1 “j 。常需来衡量谈差信号大小的艘它的二阶规范爨，或误差信譬的能量 ( 鲞慕辫稳率售母融，这对应霆警璃璃攀) 。当诿蓑售号斡琵量( 豉平均凌率 达到最小时，就认为获得了晟佳避似。这就是信号分析中著名的最小误差能量( 或 均方溪釜) 准襄。 这里以连续时阉燕铡( 娃下的绺论慰样适是予离敖时阙) ，令谖差售号g 懿 能燕为e ，则有 露= 露娥= e 融f ) 一a w y ( t ) 2 d t ( 3 - 4 ) 求爨最小时懿僮 乏呱铲刚。， 藏 = 。 p s ， 此可以褥至, j my ( o 衷x ( t ) 的最镁遥近豢数4 。躲 2 一e 磊x ( t ) y 万( t ) d t 睡s ， 基于l e a 的盲信源分离 将这一最佳逼近系数代入( 3 4 ) 式，就可以得到最佳逼近似下的误差能量 。胁一错 ( 3 7 ) 上式右边第一项表示原信号x ( f ) 的能量，若用原信号能量归一化成相对误差，则 有 令 垦斗噬型工悖。， c 埘d 昏2 p 冲d 2 ( o d t 驴露d 菰f t ) 丽y f o d 丽t 则( 3 8 ) 式可改写成 ( 3 - 9 ) 彘斗岛2 仕柳 在上面推导的结果中，通常把凡称为y ( f ) 与x 0 ) 的相关系数。 下面讨论相关系数p 。的性质和物理含义。首先，若y ( f ) 和y ( f ) 为实信号，则 必为实数。其次，根据积分的施瓦兹不等式 l e x ( ，抄( f ) 出1 2 e x 2o 矽e y 2 ( f 坤( 3 - 1 1 ) 不难证明有 ( 3 1 2 ) 若x ( r ) = 口，j ，( f ) ，且口， o ，这表示x 0 ) 和y 0 ) 波形相同，仅有幅度上的放 大或缩小。此时，由( 3 9 ) 式可得到p 。= 1 。反过来，如果两个信号的相关系 数p 。= l ，则表示这两个波形相同，只是幅度因子不一样a 另一方面，若口， o 此时有岛= 一l ，这就是说，如果相关系数p ，= 一1 ，就表明两个信号波形相同 第三章信源数未知时的b s s 但极性相反，幅度因子也可能不一样。在上述两种特殊情况下，即p 。= 1 时， 都表明两个信号之间，一个信号可以用另一个信号乘以一个非零的实数来表示， 这种表示是精确的( 严格地说，从能量或功率的意义上是精确的) ，因为此时 ( 3 - 1 0 ) 式表示的相对误差或误差能量等于0 。信号之间的这种关系可看作两个 信号完全线性相关。相反，若p 。= 0 ，它等价于( 3 9 ) 式中的分子为0 ，即 j ，x ( t ) y ( t ) d t = 0 ( 3 1 3 ) 这表明，若两个信号满足上式，则一个信号可以表示成另一个信号的相对误差为 1 0 0 ，或者说，无法用一个信号来近似表示另一个信号。这样的关系叫做两个 信号完全线性无关。或者说这两个信号在( 一0 0 ，* ) 区间上相互正交。除了上述几 种特殊情况外，即当0 l p ，l 1 时，这两个信号之间既不能用一个信号精确地表 示另一个信号，也不相互正交，此时，总可以用一个信号近似地表示另一个信号。 l p 。| 愈接近于1 ，近似表示的误差愈小。在这种情况下，口，y ( f ) 可看作x ( f ) 在y ( f ) 上的分量。 幅 度 图3 1 信号波形间关系的图例 利用上述相关系数以，就可以定量地描述图3 1 中( 图中从上到下分别为 基于i c a 的盲信源分离 y ( o ，- ( f ) x 。( f ) ) y ( f ) 和x ( ，) x 。( f ) 之间的关系：芏。( ，) 与y ( f ) 的相关系数 p 。= 1 ，z ：( f ) 与y ( ，) 的相关系数n = 一l ，屿( f ) 与y o ) 的相关系数= 0 ， 即( ，) 与y f f ) 相互正交，x 4 ( f ) 与，( f ) 的相关系数0 p 。 怒几乎独立鼹。 在自适成盲信源分离中，p 。慧递归计冀的： 瓦m 五孚既) + 知，) 限1 8 ) 矗。秽= 孺。) 一嚣_ 秘一骖 ( 3 - 1 9 ) o = 童与三b p i 牛矗，g 涟。国卜彩秀，一霸秘j ( 3 。2 0 ) = 焘 0 - 2 0 其中露彩袭示f 时刻y ，0 ) 的均僮，c # 表承时粼岁。g ) 与y ( f ) 盼协方差，矗为 遗惑因子，矗取接避】的常数。 落潺鼗程线确定冀法： s t e p1 ；在学习算法( 2 - 1 9 ) 式的柳始阶段，取z * 埘。由于基于拔短数据栉本 蔼德计时凡存在着较大静偏箍，西鼗，等分离赉稠溺数量( 眈如1 2 7 个样本点) 爨襻本蠡鬃，霉诗髯热。 s t e p2 ：如果所囊的槌关系数热灏足够小( 倒囊莲最； o ，0 5 ) ，则可跌认为输 出分羼几乎独立。否则转( s t e p 3 ) s t e p3 ：检溺密一霹甓警( 熟 0 _ 8 ) ，鄹可激歆为输潦信号，妨粒输出售警罗，移燕摆干黪+ 这对剿除 卫( ，) 兢y ，) 一重复这种删除过程，崴到删除所有的冗余拷烈信号。 s t e p1 称为初始阶段，s t e p2 称为蹀踪阶段，s t e p3 称为信源数确定阶段。 在鼹踪酚羧，嚣余辏篷悠号是舅兮己分离绩号鹩簿嚣，魄热萎鳓是，；秘熬 拷贝，这时我们要删去辕出傣号奠( f ) ，为此应改变神经感络蛇结构，健其输生 2 2 基于i c a 的盲信源分离 数减1 ，并且使m ( f ) ，y 。( f ) ，只+ ，( f ) ，m ( f ) 保持不变，因此，在阵中应册4 去 第j 行，协方差阵中( ，) = 。( f ) 中应删去第f 行和第，列。这时很容易验证，在n n 的输出中，- ( ，) 被删除，而其余输出分量保持不变。 重复上述过程，可以最终找到h 个分离的源信号。 四、仿真研究 我们在本节对上述算法进行了计算机仿真，在四个输入源信号混合情况下进 行盲信源的分离，这四个源信号为 s ( f ) = s f g n ( c o s ( 2 丌x l5 5 f ) ) s i n ( 2 x 2 s t ) s i n ( 2 z 8 0 0 0 s i n ( 2 x 3 0 0 t + 6c o s ( 2 n 6 0 r ) 、 拧( ，) ( 3 - - 2 2 ) 其中s i g n ( ) 为符号函数，”( ，) 为 - l ，1 上均匀分布噪声。混合矩阵a 取4 8 的均 匀分布随机阵，所= 8 ，开始时令，= m = 8 ，当d n n 收敛时，d n n 有8 个输出 信号分量。如图3 4 所示，可以看i 出第一个和第三个波形，第二个和第八个波形， 第四个和第六个波形，第五个和第七个波形是相干的，即只有四个是独立的输出 分量。 第三章值源数束知时的b s s 8 6 幅 4 篷 幅 度 2 0 蝴蚺批桃啪洲l 躐r 瓣w 黼剐“谳 一000 2 00 40 0 60 0 80 10 惶0 1 40 1 6 一，l一一0-m-+ 对藏 圈3 2 源信号 2 5i 1 1 1 1 1 ” 5 0 0 00 2o0 4o0 60 0 80 10 1 20 1 4 0 1 6 时间 图3 , 3 馄台信号 2 3 丝 基于i c a 的盲信源分离 2 5 2 0 卜删州啪m 懒帅梆i i | l i 脯删嗍批州忡删岍棚峨 、式。翻越? 。擀一楠m 删。埘心秘冰瑚b o 撇一喇 幅i 州舢岍洲 帆m 们川l - u j 度1 0 。呐嗍0 讪酬删脚堋m 1 渺 0 o0 0 20 0 4o 0 6 00 80 10 1 2o 1 40 1 6 时间 图3 4 分离的信号源 图35 分离信号源之间的相关系数 n 榔岬 一 攀一 茹=辐 第三章信源数采知时的b s s 图3 5 是各分离信号之间的相差。从中可以蒋出只有四个相* 小于预设的小 f 1 限篷，( 为了和后面静方法眈较，萄3 , 5 中的穰关等于1 一| 岛| ，也藏蹙说当 l 一 成 0 2 时鼹个售号是相于的。) 出黧3 ，5 霹以看出蠢四个辕掇分量楚其它簸 出分量的拷贝，一旦确定出存在肖其他倍源的拷贝，就可以启动删除程序以去隙 冗余静输出分量，完成镄潺酶谈翻分离邋程。箕结采与我们输入的一样。如图 3 、6 所示。 扶仿真结果可以看出，本文的算法麓够很好的确定如未知的信源数，并且能 够改变d n n 的结构以删去冗余的输出分量。 为了检查算法的性能，采用下列的误涟指标函数： 端寸尜端一； 蕊中嚣= 套。f w a 为糟矩薄。後能趋线如图3 7 新示。 2 5 2 0 1 s 墨1 0 5 o ( 3 2 3 ) oo 0 2o 。0 40 0 6o + 0 8o ，o 1 20 。1 4o 1 6 嚣拿篱 网3 6 分离信号源的确定过程 。闩 ，；，l ； = g 丝纂- 7 = i c a 韵言接繇癸离 谟 靛 黠鬻 潮3 7 误差搔棘两数 第嬲鬻绩濑数确定艘小波甑爨法 第蹬耄馕潦数确定静小浚包冀法 小波努辑鬟等对菝努麟鹣耱。黄绞懿绩弩转精是建立整倦螫时( f o u r i e r ) 变换魏基础之上酌，国予傅照时分辑使雳鹦爨一种奄局的变换，要么宠愈在对域， 豢么宠黛程獭壤，嚣瑟嚣法裘逑藩霉蘸簿簇露嚣浚矮0 8 ，褥这稀瞧爨谂洽莛嚣 平稳信号墩檄本和最关键的憾髓。为了分析粒处耀非乎稳售号，人们肘憾璧叶分 衙避行了维广乃趸根本憔的漆命，掇出并发展了系剐叠断的信号分析理论：短 辩缮曩畸变糗、g a b o r 变凝、瓣撅努据，枣渡变捺、r a n d o n - - w i g n e r 变按、 努数获惩爨秘交换、线毽溪凝，l 、渡交换、罐耀绞诗爨理论窝烫矮一溪簇蘩号分簿 等。其中缀瓣嬉蒌盼交换释小渡交换程是褒筏缭翡媾爨畸变按不裁够瀵跫缮霉楚 理的骚求而产生的。短时傅暇叶变换分析的撩本思想是：假定非平稳傣号在分柝 窝溺数g 国黥一个缀对漓潮黼内楚警稳鹣( 伪平穗) ，茹移动分拼衡函鼗，嫠 f ( o g ( t 确褒不笺戆毒鬻簿麓宠爱疼楚警戆稼鸯，筑糟诗羹漆轰争不溪薄蘩鹣臻 率落。假从本质上讲。短时傅掇叶变换是一种单分辨率姻信号分撰方法，鼹为 它谴爝一个溺定韵瓣时