（信号与信息处理专业论文）基于瞬时欠定混叠的盲分离研究.pdf

硕士学位论文 摘要 盲信号分离是指在源信号及其混合传输信道未知情况下，仅仅利用观测到的 混合信号来估计源信号。由于盲信号分离具有非常广泛的应用领域，如生物医学 工程、语音增强、数字通信系统、图像处理、遥感、雷达和声纳等领域，从而成 为现代信号处理领域研究的热点问题。通常为了研究方便，盲分离算法大都要求 混叠是完备或超完备的，即观测信号的数目等于或大于源信号的数目。然而，由 于实际条件所限，不可避免地会出现观测信号的数目小于源信号的数目的情况， 即久定情况，因此寻找有效的欠定盲分离方法意义重大。 本文在欠定情况下，估计出源信号的数目，并且以广义高斯信号为特例研究 了信号的稀疏性。同时推导出反映信号稀疏程度参数口的表达式。提出了一种新 的两步法来实现欠定情形下盲信号的分离。新的两步法首先采用一种重构观测信 号采样点搜索法来估计混合矩阵；其次提出了一种伪提取矢量的概念，通过伪提 取矢量来提取取值占优的源信号采样值，以此来恢复源信号。仿真实验证明，该 算法分离精度比传统的盲分离算法精度更高。 对混叠矩阵的估计，常常采用k 均值聚类算法，但是k 均值聚类算法有其自身 的局限性，即在确定混叠矩阵彳的过程中，模较大的观测信号要比模较小的观测 信号更为有效，基于此，文章提出了一种基于k 均值与主成分分析相结合的估计混 叠矩阵的新算法。该算法可以回避目前所采用的k 均值聚类算法的不足，通过实验 证明，该算法在没有增加估计复杂度的情况下，改善了混叠矩阵的聚类精度。 在理论上研究了欠定情形下的延迟源的盲分离。本文利用频域单元区间提出 了一种新的估计衰减矩阵与延迟矩阵的算法。此算法首先检查了处于单元区间的 样本，先估计了衰减矩阵，再利用优化逼近算法估计出了时间延迟。在稀疏原则 下，针对传统的b o f i l l 提出的源信号重建问题在复杂度问题上做了进一步的探讨， 使源信号恢复问题得到了简化，计算的复杂度降低。 本文主要是针对以上三个方面进行了研究，最后利用大量的仿真实验与数学 模型验证了本文所提出的理论与算法。 关键词：盲信号分离；盲源恢复；稀疏表示；独立分量分析；主成分分析；单元 区问 a b s t r a c t b s s ( b l i n ds o u r c es e p a r a t i o n ) i saf u n d a m e n t a la n d c h a l l e n g i n gr e s e a r c h t 0 p 1 c 1 n s l g n a lp r o c e s s i n gf i e l d b e n e f i t i n gf r o mt h e p r o m i s i n ga p p l i c a t i o n si n s p e e c hr e c o g n i t i o n ，d e n o i s i n g ，w i r e l e s sc o m m u n i c a t i o n ，s o n a r p r o b l e m ，b i o l o g i c a l m e d l c a ls l g n a lp r o c e s s i n g f i b e rc o m m u n i c a t i o ne ta l ，b s s h a sb e e o m eo n eo ft h e h o t t e s ts p o t si ns i g n a lp r o c e s s i n gf i e l da n dn e u r a ln e t w o r kf i e l d ，i nt h en e a r l v2 0 y e a r s ，t h et h e o r i e sa n da l g o r i t h m sa b o u tb s sh a v eg o tg r e a td e v e l o p m e n t s m a n v e f f e c t l v ea l g o r i t h m sh a v eb e e np r e s e n t e d ，a n dt h e i rp e r f o r m a n c e s a r ed i f f e r e n tf r o m t h ea b l l l t yt os e p a r a t es o u r c es i g n a l h o w e v e r t h eb s s t h e o r yi sv e r yp r o f o u n da n d t h eb s s a l g o r i t h m sa r ev e r yd i f f i c u l tt oi m p l e m e n t ，t ot h i sd a y ，t h es t u d yo nb s s i s s t i l lf a ra w a yf r o mm a t u r e m a n yt h e o r y p r o b l e m sa n db s st e c h n i q u e sa r ee x p e c t e d t oc o n t l n u et ob ed i s c u s s e d t h em a i nc o n t r i b u t i o n so f t h i st h e s i sa r ea sf o i l o w s ： a st o rs p a r s es o u r c es i g n a l s ，t h i st h e s i s a n a l y z e st h ei m p o r t a n tp r o p e r t vo f o b s e r v e ds i g n a l s t h es c a t t e rp l o to fo b s e r v e ds i g n a l ss h o w s s t r a i g h tl i n ef o r m a l o n gt h ec o l u m nv e c t o ro fm i x i n gm a t r i x t h em o d u l u so fo b s e r v e ds i g n a lp o i n t i s l a r g e r i t1 s1 m p o r t a n ti nt h ep r o c e d u r eo fe s t i m a t em i x i n gm o d e l t h ec o n v e n t i o n a l k m e a n sb s sa l g o r i t h md e a l sw i t ha l lo b s e r v e dp o i n t sw i t hd i f f e r e n tm o d u l u sb v t h es a m ew a y ，s 0i ti sn o ta c c u r a t e a n dw ep r e s e n tk p c aa l g o r i t h m t om a k eu p t h el a c ko fc o n v e n t i o n a lk - m e a n sb s s a l g o r i t h m b l i n ds e p a r a t i o no fu n d e r d e t e r m i n e dd e l a ym i x t u r e si ss t u d i e d ，a na t t e n u a t i o n a n dd e l a ym a t r i xr e c o v e r yi n s i g n a ls o u r c ei n t e r v a l si sp r o p o s e d o u ra i g o r i t h m t l r s t l ye s t i m a t e st h ea t t e n u a t i o na f t e rt h ed e t e c t i o no ft h es a m p l e si ns i n g a l s o u r c e i n t e r v a l sa n dt h e nr e c o v e r st h ed e l a y b yt h eo p t i m u mo fac o s tf u n c t i o n i ns o u r c e r e c o v e r yf o rt h em o d e lw i t hd e l a y , an e w a l g o r i t h mb a s e do ns p a r s i t yi sp r o p o s e d i nt h eu n d c r d e t e r m i n e dc a s e ，e s t i m a t e st h a tt h en u m b e r o fs o u r c es i g n a l sa n d a n a l y z e st h ep e r f o r m a n c eo ft h es i g n a ls p a r s es o l u t i o n p r e s e n t san e wj u d g e s i g n a l s p a r s es o l u t i o nc r i t e r i a t h i sp a p e rp u tf o r w a r dan e w k i n do ft w o s t e pa p p r o a c ht o s e p a r a t eu n n e r d e t e r m i n e db l i n ds i g n a l s t h es i m u l a t i n gr e s u l t si l l u s t r a t et h e b e t t e r p e r f o r m a n c eo ft h em e t h o d k e yw o r d s ：b l i n d s i g n a ls e p a r a t i o n ；b l i n d s i g n a l e x t r a c t i 。n ；s p a r s e r e p r e s e n t a t i o n ；i n d e p e n d e n tc o m p o n e n t a n a l y s i s ；p r i n c i p a l c o m p o n e n ta n a l y s i s ；u n i ti n t e r v a l i l 硕士学位论文 插图索引 图1 1 求解盲卷积原理图6 图2 1 高斯分布图1 4 图2 2 稀疏信号概率分布图1 5 图2 3 聚类效果图1 6 图3 1 当口分别为3 ，2 ，1 ，0 5 时源信号s l ，s 2 的等概率密度线示意图2 0 图3 2 盲源分离过程示意图2 2 图3 3 时域内聚类效果图2 3 图3 4 离散余弦变换域内聚类效果图2 4 图3 5 源信号数目确定示意图2 5 图3 6 源信号示意图3 0 图3 7 混合信号示意图一3 0 图3 8 分离信号示意图3 1 图4 1 主成分分析确定直线方向示意图( 其中a 五) 3 6 图4 2 源信号波形示样图3 7 图4 3 混合信号示意图3 8 图4 4 分离信号示意图3 8 i i i 基丁瞬、f 欠宅混叠的盲分离研究 附表索引 表3 1 分离效果性能比较表3l 表4 1 性能参数比较表3 9 i v 硕七学位论文 第一章绪论弟一早瑁 v 匕 1 1 课题研究背景及意义 近些年来，随着科学的进步与发展，人们越来越想对身边的信号及其图像一 探究竟，随着研究的进一步加深，盲分离技术在近二十年来，由于其自身所具有 的优势，一直吸引着广大研究者的注意，这些研究者分别将盲分离技术拓展到不 同的领域，这些领域包括通信系统、生物医学工程、遥感、地球物理学、探测地 震学、医学图像等等。 盲源分离最早提出是在鸡尾酒会上【2 1 ，它是指很多人的声音混合在一起，麦 克风接收到这些混叠在一起的语音信号，如何将这些混叠在一起的语音信号分离 开，让每个人的语音信号都被分离出来，这就是最早的应用盲分离问题解决实际 生活问题的范例，盲源分离中的“盲是在信号处理过程中除了利用传感器观测 到的观测信号以外没有任何的先验知识可以应用，先验知识包括：有几个源信号、 源信号具备怎样的性质、服从什么样的分布，源信号怎样经过混叠信道以及混叠 信道的参数都是未知的，在此情况下一般都会选择盲分离。在盲源分离中，对分 离矩阵的学习是盲源分离最重要的问题，这种学习属于无监督学习，在盲源分离 过程中最基本的思想就是利用已经抽取的相互独立的统计特征量作为参考量，这 样做可以保证不太丢失信息。 盲分离在现实生活中的应用非常广泛，例如在嘈杂的语音环境下，利用盲分 离可以去除噪声，对有用的语音信号加以识别，并且加强语音信号，除此之外， 盲分离还可以消除回拨干扰。 在图像处理方面，同样盲分离可以首先去除影响图像质量的图像噪声f l 3 】，增 强图像的质量。盲分离也可以对视频信号进行处理【4 】。 在通信领域，如何有效地利用频谱资源已经引起了很多人的关注，而利用盲 分离可以进行c d m a 多用户检测，在提高传输效率的同时占用更少的信道容量 【1 8 - 2 1j o 在生物医学方面盲信号处理也非常具有实际意义【5 1 ，盲信号处理在生物医学 中最主要的应用是对心电图 ( e l e c t r o c a r d i o g r a m ， e c g ) 脑电图 ( e l e c t r o e n c e p h a l o g r a m ，e e g ) 和脑磁描述( m a g n e t o e n c e p h a l o g r a p h y ，m e c ) 。 以及功能核磁共振( f u n c t i o n a lm r i ) 进行分析，以脑电图为例，当用仪器监测人 们大脑思维活动和心跳时，随着人们的状态不同，思维方式的不同，脑电波信号 在脑电图上可以反映出多种多样的形式，那么如何从这些复杂的数据中提取最有 基丁瞬时久定混番的肓分离研究 效反映人的思维特征的信息是很重要的，因为人大脑的构成非常复杂，所以即不 知道这些信息是如何混叠的，又不知道这种特征信息的先验知识，因此要选用盲 信号处理。同理，对功能核磁共振( f u n c t i o n a lm r i ) 和心电图( e l e c t r o c a r d i o g r a m ， e c g ) 均可以采用盲信号处理的办法。在实际生活中盲源分离还有许多应用，在 这里就不一一列举。 结合上述，可以得知盲源分离的应用前景非常广泛，但是，由于在盲源分离 过程中仪仪依靠传感器得到的接收信号恢复源信号或者估计混叠信道，由于先验 知识少，从而可实现的难度较大，因此在实际操作中依然有较多的难点问题等待 解决。 1 2 国内外研究现状 最早的盲分离问题是由法国的h e r a u l t 和j u t t e n 提出来的，他们所采取的信号模 型为两个源信号随机混合所产生的混叠信号，1 9 9 1 年在他们发表的文章上首次提 出了h j 算法【6 】，这种算法主要针对的对象是一种连接的人工神经网络，该算法着 重讨论了如何在人工神经网络内实现盲源分离，h e r a u l t 和j u t t e n 推导出可在人工神 经网络采用梯度下降算法以此调节网络的权值，通过调节网络的权值使得网络输 出的信号的残差最小，最终实现盲分离。随后，许多学者都对h j 算法如何收敛及 其收敛性能做了系统的研究，当源信号和混叠信号都属于最简单的情况时( 即源 信号和混叠信号的个数都为2 ) ，该算法很好的解决了收敛性的问题，此类问题的 解决激发了广大研究者在神经网络和信号处理这一领域更近一步的努力，于是， 盲分离问题又得到了丰富的发展。 1 2 1 盲分离实现的具体过程 信号的分离与提取主要是通过挖掘一些有着特殊性质的信号，盲分离算法就 是希望能够分离这些有着特殊性质的信号，这些特殊性质包括：平滑性、稀疏性、 可预测性和独立性。 c i c h o c k i 曾经对先验知识进行过分类，先验知识可以分为四大类【7 】： ( 1 ) 首先不同的信号之间肯定有着各式各样的差异，利用这些差异可以实现盲 分离，其中最典型的差异为时频差异【8 】。 ( 2 ) 如果源信号在空间、时间上都是相互统计独立的，可以直接采用高阶累积 量的方法实现盲分离。但此类算法的缺点就是严格控制源信号中高斯信号的个数， 一般情况下只允许存在一个高斯信号【9 4 。 ( 3 ) 如果源信号在空间上独立，而在时间上不独立，源信号在不同的时刻有相 关性，针对此类信号经常采用二阶统计量来实现盲信号分离，这种算法有自身的 局限性，那就是如果源信号独立同分布，那么分离效果就不是很理想。 2 硕士学位论文 ( 4 ) 对于那些具有相同功率谱形状的有色高斯信号，通常利用源信号的二阶非 平稳性【1 2 1 6 】来实现盲源分离。 目前许多高级的算法都是结合上面所描述的先验知识，在e e g 或者m e g 数据 分析、处理过程中起关键作用的是二阶统计量在时间、空间上的解相关。a m u s e 算法就是典型的基于二阶统计量算法。这类算法主要利用的是二阶空时解相关， 除了a m u s e 算法之外【17 1 ，这一类算法还包括s o b i 和t d s e p 算法【1 8 圳】。a m u s e 算法、s o b i 和t d s e p 算法可以统一归结为i c a 算法，但是在实际应用中它又没有 应用至l j i c a 的统计独立性，这类算法主要针对的对象是有色高斯信号，其共性就 是它们都要用到特征值分解，包括奇异特征值分解或者标准的特征值分解。而处 理二阶非平稳盲源分离问题时，常常采用近似联合对角化算法，这类算法的应用 原理与在s o b i 和j a d e 算法中，p h a m t 2 2 】提出的经典的j a c o b i 算法非常相似，都是 非单一的近似对角化算法的一种应用。 上述应用信号统计特性作为先验知识的方法，应用最普遍、广泛的是基于独 立分量分析的算法，时间的结构特性也可以作为先验知识对信号进行盲分离研究， 其次在频域范围内利用稀疏性原理对信号进行盲分离，此类算法在时频掩码 2 3 , 2 4 , 2 5 上应用的比较广泛。采用不同的先验知识可以采用不同的数据处理工具。 1 9 9 1 年t o n g 等首先系统的研究了盲分离问题解的可辨识性【3 】，他研究的模型 是瞬时线性混叠模型，他认为盲分离的解是没有确定性的，是一个多解的问题， 多解性是因为可以将任意一个满秩的矩阵参数化，参数化的矩阵可以分解为一个 置换矩阵和一个满秩矩阵的乘积【26 1 ，但由于源信号的原始排列顺序和幅度的不确 定性使得盲分离也具有不确定性。此类方法可以恢复出信号的波形，因此盲分离 具有可解性。在实际生活中往往会存在病态模型即在混叠不充分的情况下，如何 进行盲分解一直是一个难题，由此l i 等【2 7 , 2 8 】对病态模型做了一些研究，所谓病态 就是指观测信号数目或者少于源信号数目，或者多于源信号数目，“等针对病态 模型提出有可能部分源信号可以被提取，由此推导了一种基于压缩映射恢复源信 号的新算法，c o m m o n 1 5 】在1 9 9 4 年验证了一个可以替代源信号与混叠信号的变换 矩阵可以被分解成满秩对角矩阵和一个置换矩阵的乘积，但是分解的前提是：首 先源信号统计独立，其次在源信号的分布中，最多只有一个源信号的分布服从高 斯分布。在对独立元的分析中c o m m o n 还引入了对照函数的概念，对照函数最早 应用子盲解卷积，实际上，对照函数就是对研究对象的随机概率密度函数进行泛 函分析，当对照函数值取最大值或最小值的时，源信号中各个随机变量之间统计 两两相互独立。c a o 等【2 9 】认为盲分离都是在源信号只有一个高斯信号的情况下进 行的，如果有两个或者更多的信号是高斯信号，那么混叠矩阵就不能被分离，章 晋龙等从混叠矩阵的结构出发，系统的研究了瞬时混叠系统的可分离性，探讨了 盲分离究竟应该怎样进行，在盲分离系统中可以恢复多少个源信号，并对上述假 3 基丁瞬时欠定f 融番的盲分离研究 设给出了相应的限制条件。l i 、c a o 和章晋龙【3o 】研究的出发点都是一样的，他们 的思想都是建立在独立分量分析方法上的，基于独立元分析原理，先后出现了很 多盲分离算法，这些算法包括最大似然估计法、非线性主成分法、信息最大化、 自然梯度法、鲁棒神经网络等等。 以上的算法往往不能处理观测信号少于源信号的病态模型，因此，在利用独 立分量分析方法的时候，必须要保证观测信号不少于源信号，如果混叠矩阵a 不 是奇异方阵，盲分离问题就归结为求它的逆矩阵彳叫即可。可以利用线性代数求解 此类问题。 当观测信号的数目少于源信号的数目时，对这种情形下的盲分离一般称之为 欠定盲源分离问题，在欠定情况下进行盲分离，最常用的方法就是利用信号的稀 疏性【3 卜3 3 1 ，即稀疏成分分析方法。那么如何寻找信号的稀疏表示就成为了人们研 究的重点，于是，在1 9 9 8 年，c h e n s a u n d e r s 并f l d o n o h o 提出了利用一组超完备解来 寻求信号的稀疏表示【3 4 】。在2 0 0 1 年，b o f i l l 和z i b u l e v s k y 提出了在稀疏表示的情况 下，采用经典的两步法和最短路径法在频域范围内实现了盲分离，并且该方法得 到了很好的验证【35 1 。 在欠定的盲源分离问题中，稀疏信号又被重新定义了，所谓稀疏信号就是指 在一个单位区间内，只有少数的信号幅值较大，在混叠系统中发挥作用，而大多 数源信号的幅值较小或者直接等于零，此时可以求解出源信号，并且此解具有唯 一性，b o f i l l 3 j 7 】利用两个混叠信号矩阵恢复出了六个源信号，这在欠定盲源分离 问题上具有非常大的意义。针对混叠矩阵估计的问题，b o f i l l 也同样做了进一步的 研究，他提出可以利用势函数的方法估计混叠矩阵，同时k 均值聚类算法和绝对 w i n n e r t a k e s a l l 学习法【3 s 也可以用来估计混叠矩阵。 在假设已经得知混叠矩阵的情况下，源信号的恢复可以采用最短路径法得以 实现【3 9 4 2 1 ，源信号的恢复在l e e 所提出的“超完备表示基学习理论中就是一个 欠定系统的求逆问题【4 3 1 ，通常用，范数来求解，在一般情况下，可以选择尸范数 来求解，因为，o 作为稀疏表示最为稀疏，但，o 范数却有着自身缺陷，首先它不具 有唯一性，其次它对噪声非常敏感，因此除了在特殊情况下，绝大多数时刻都会 选择，1 范数作为稀疏表示，为了避免更多的限制条件，许多学者提出了k s c a 算 法【1 9 】，但该算法在辨识度及其计算的复杂程度上有很大的缺陷。人们常常采用非 负矩阵分解的方法来实现盲源分离。 1 2 2 盲分离的混合模型及其分离理论 盲分离按照混叠方式的不同可以分为三大类：瞬时线性混叠，非线性混叠和 卷积混叠。在这三大类中，瞬时线性混叠最简单，因此基于瞬时线性混叠分离的 算法和理论也就发展的最快，现在，人们将研究的重点慢慢从瞬时线性混叠系统 4 硕十学位论文 过渡到卷积混叠和非线性混叠系统上，由于在很多实际情况中，信道是具有记忆 性的，所以卷积混叠模型更具有实际意义，卷积混叠的数学表达式为： 旦 x t ) = ：彳( f b ( f f )( 1 1 ) f = - 最早提出盲反卷积算法的是s a t o 等【4 4 1 ，他们的算法简称为b u s s g a n g 算法 4 引， 是利用数字信号的常模特性来解决盲反卷积问题，盲均衡算法也是利用数字信号 的常模特性解决源信号恢复问题的，1 9 9 1 年已经有学者将h j 算法推广到时延或者 卷积情况中，在如何实现盲解卷积问题上，由于卷积混叠系统是一个多输入多输 出系统，因此实现盲解卷积主要可以分为两大类，第一类通过滤波器在时域内实 现，第二类在频域内通过一些变化，譬如说通过短时傅里叶变化对每个频率点进 行分析。与瞬时线性混叠系统不一样的是，估计矩阵序列是卷积盲分离的主要目 的，通过变换使得下式成立： y ( z ) = w ( z ) 彳( z ) s ( z ) = 矽( z ) s ( z ) ( 1 2 ) 其中p 为置换矩阵，d ( z ) 为对角矩阵，它的对角元素形式依次为： 以( z ) = q z 一岛 ( 1 3 ) 从上式可以看出，分离出来的信号不一定就是源信号，因为分离信号与源信 号之间有很大的不确定性：首先分离出来的信号会与其对应的源信号有一个相位 差异，这个差异是通过这个差异是通过z 咱体现出来的，在时域范围内可将上述差 异的表示认为是一个延时。其次，利用盲卷积分离出来的信号是如何排列的，它 的真实幅度又是多少，这些也是不确定的。卷积混合模型是各式各样的，对单输 入多输出的模型x u t o n g 等提出在采用过采样算法【4 6 1 ，可以将单输入多输出系统 卷积模型转化为单输入单输出系统卷积模型，它们之间相互转化且可解的充要条 件是在单输入多输出信道单位圆内没有公共点，并h _ x u ，t o n g 等针对此类模型给 出了求解算法，该算法应用基于最小局方误差解决它的求解问题，在单输入多输 出系统中卷积模型是如何进行盲提取的，并且盲提取的性能如何，l i 4 7 , 4 5 】等重点 讨论了上述所提出的问题，并且结合单输入多输出信道模型提出了多输入多输出 卷积模型是否可以实现盲源分离，针对多输入多输出卷积模型给出了可以实现盲 源分离的充要条件及其在这基础上的详尽算法，通过仿真实验验证了此类算法。 在我国，何振亚和汪军也针对卷积混叠模型提出了自己的算法【2 】，他们研究的重 点是高阶谱，对高阶谱的一些判据作了说明并且证明了在高阶谱内如何进行盲分 离和怎样进行盲分离，是不是可以进行盲分离，并定义了盲分离的充要条件。 现在很多的卷积盲分离算法，这些算法都是基于h j 提出的线性瞬时混叠盲 分离算法之上的，是高阶累积量算法的补充，在时域内解决卷积混叠问题所有算 法中上述算法有一些相同的共性，那就是必须各个源信号之间是相互独立的，在 这里所说的独立性，不仅仅是要求源信号在时间上独立，还要求源信号在空间上 幕十瞬时欠定混叠的留分离研究 也是独立的，在求解卷积盲分离算法时，往往需要将源信号的特性考虑进去，信 号的特性是指一般要求源信号在时间是“白 的。但是在实际生活中，绝大多数 信号都是有色的，因此如果信号有延迟的话，源信号与延迟后的信号之间必存在 着明显的相关性。盲卷积算法在时频域内分离混叠信号的原理就是假设在频域内 有厂个频域点，将这厂个频域点卷积盲分离模型与瞬时线性混叠模型一一对应， 在时频域内求解盲卷积其实就是求解构成厂的分离矩阵w ( f 1 ，其原理如图所示： x t ( t x n t 刊竺 短时傅里叶 一 短时傅塑时 交换逆变换 譬仟ti s t f t |l 一 图1 1 求解盲卷积原理图 v n ( t ) 但这类算法却受到尺度模糊或者置换模糊等难以解决的模糊问题的干扰【引。 尺度模糊是指在频域内，每个频域点的幅值可以增大也可以减小，无法与原信道 的的幅值相匹配。因此利用盲分离算法求解的源信号是多个源信号在延迟时间上 的叠加，而置换模糊问题，显而易见就是源信号在频率点上所对应的排列顺序问 题。在频率点上对源信号的排序直接影响卷积盲分离的精度，算法的性能不佳有 可能就是由于排序问题引起的，下面文章将举一个例子来说明此类问题，在快速 傅里叶变化中，盲分离精度由于快速傅里叶变化长度的增大而随之快速下降。在 盲卷积分离频域内，排序问题完全起着负面作用，许多学者认为，在提高频域分 辨率的同时解决排序问题是完全不可能的，因此许多学者就提出了一种折中的办 法。在不同的阶段用不同的算法解决排序问题。 h 数学模型五( t ) = 罗口，s ，( f f ，) 是一种特殊的模型，它既不属于瞬时线性混叠模 一 百、 型又不属于卷积混叠模型，从表达式可以得知，此模型是有时延的，同时它的幅 值也随之衰减，但信号却没有接收到回波，这类模型一般称之为延时源模型。非 线性混叠盲分离问题在盲分离问题中是最有难度的，也是最具有挑战性的问题， 截至目前，只有少数的学者在研究此类问题。t a l c b 和j u t t e n 2 l 】在源信号独立的情 况下针对独立源信号探讨了在非线性混叠系统中混叠矩阵的可分离性，在一般情 况下，非线性混叠盲分离的解没有确定性，即它的解不唯一，在非线性混叠盲分 离中具有较好的可分离性的混叠是后非线性混叠，目前来说，很多针对非线性混 6 硕十学何论文 叠盲分离的算法都是对应于后非线性混叠的，其中，后非线性混叠的表达式为： x ( f ) = f ( a s ( t ) ) ( 1 4 ) ，。、 ( f ) = zi 吩s j ( t ) i ，i = 1 ，m ( 1 5 ) 产i 解决非线性混叠盲分离算法主要分为以下几大类： ( 1 ) 径向基函数网络法【”】：径向基函数网络法的基本原理就是利用径向基函数 神经网络逐步逼近迭代非线性混合的逆映射，去除非线性，达到分离源信号的目 的。 ( 2 ) 感知器模型法【4 4 】：这种算法是利用两层感知器在b p 思想上的无监督训练 算法构造一个函数，最小化互信息量可以使用快速下降算法得到，在这里，常常 通过最小化互信息量和最大熵测量元素是否独立，利用独立性可以构造一个两层 的感知器网络结构，结合b p 网络训练算法，构造一个非线性函数，这样一些有 着特殊性质的源信号就可以从非线性系统中分离出来。 ( 3 ) 自组织映射网络方法【4 7 】：自组织映射算法最大的优势就是该算法可以不考 虑非线性混叠系统的具体表达形式，它可以在非线性系统中利用观测信号相互之 间的独立性直接抽取独立信号，但自组织映射算法却不能克服应用这类算法时网 络的复杂性，这种网络的复杂性的增长趋势呈指数级别增长，并且该算法在分离 连续源时，需要利用插值，但插值的误差却非常的大。因此一般都不选择自组织 映射算法来解决非线性混叠盲分离问题。 ( 4 ) 后非线性混叠盲分离【4 8 弓o 】：后非线性混叠盲分离算法较前面提出的几种算 法，可分离系数高，应用的场合广，样条神经网络就是在后非线性混叠盲分离算 法上改进的一种算法，该算法提出的背景是在自适应b 样条函数的基础上利用信 息量的最大化准则提出的一种非线性混叠盲分离算法。该算法能够比较有效的解 决非线性混叠盲分离问题。 在实际生活中，噪声是必不可少的，没有噪声的情况只存在于理想状态下， 在最早的盲分离研究中，一般都将盲源分离求解的环境假设为在理想状态下，噪 声的影响极小甚至等于零，但是为了使研究贴近生活，解决生活中一些实际的事 例，近些年来，许多学者将研究的重点放在了在有噪声的情况下如何对信号进行 盲辨识和盲分离。在考虑到噪声的影响下，仍然有许多方法可以解决带有噪声的 盲分离问题，其中最典型的算法就包括使用逼近最大似然估计法，这类算法主要 是利用数学上的期望值最大化方法为工具，对含噪的混叠信号进行盲分离。同 时h y v a r i n e n 2 5 】在采用最大似然估计算法的基础结合了独立元从而形成了一种新 的算法，即带噪独立元分析算法，而对于非平稳源信号在有噪声的情况下如何分 离，c h o i 、c i c h o c k i 4 2 郴】提出了一种基于延迟相关矩阵的联合对角化算法。 7 基j 二瞬时久定混叠的茸分离研究 1 2 3 盲分离的应用 除了盲源分离种类的模型以及相关的算法以外，盲分离的实际应用也非常的 广泛及其重要。下面本文将介绍盲源分离问题在现实生活中的应用，因为盲源分 离问题是从生活中提炼出来的，盲源分离的理论和算法又在实际生活中不断的补 充与应用。 最常见的盲源分离的应用是语音识别，也就是盲源分离的起因问题，由于语 音容易受到环境的影响和噪声的干扰，针对这一类语音识别的问题，b e l l 和l e e 利用用最大似然估计算法【5 1 】在信息传输最大的前提下可以得出盲分离训练算法， 由于语音识别模型更类似于卷积模型，因此可将盲分离训练算法应用于卷积盲分 离，并将此算法应用于真实的语音盲分离系统中，并且将分离出来的信号与源信 号作比较，实验结果证明分离后的语音识别率得到了显著提高。 许多生物医学信号例如前文所提到的心电信号、核磁共振成相数据集、脑电 信号和脑磁记录信号等，当用相应的仪器测量每一个人的生理机能时，很多很微 小的因素都可以影响检测结果，这些微小的因素甚至包括电极干扰、自身的呼吸、 甚至肌肉的跳动和眨眼，为了准确的得到检验结果，有必要消除这些干扰，在提 取图像特征和分离脑电信号时，k a r h u n e n 和h y v a r i n e n 5 2 , 5 3 】利用了神经网络盲分 离算法，许多学者提出针对不同的对象采用不同的盲分离算法都可以在不同程度 上消除这些干扰的影响，对于脑电信号可以采用瞬时线性混叠盲分离算法，而对 于核磁共振成像数据集可以采用独立元分析算法，而独立元分析算法同样可以应 用于心电信号去扰的过程中，而独立分量分析方法则用于从脑磁记录信号数据中 识别干扰。 在生物模型特征提取方面，可以利用稀疏编码【”】，因为自然图像的独立元与 稀疏编码息息相关，图像小块就是基函数a i ( z ，y ) 的线性组合，表示式为： j 竺 i ( x , y ) = a j ( x ，j ，) 置 ( 1 6 ) i = i 在这里s ，是随机系数。可以采用独立分量分析技术分解图像i ( x ，y ) ，当最最 稀疏时就是求得的结果。通常情况下，这个过程为稀疏编码。 在通信方面由于信道容量是有限的，那么怎样提高信道的利用率就是一个迫 在眉睫的问题，那么盲分离在通信领域主要是用来c d m a 盲多用户检测，仿真实 验证明利用盲分离算法检测c d m a 多用户，可以使得误码率要比其他用户检测算 法要低。斯华龄【1 7 】针对遥感图像处理提出了一种新的构造目标函数的方法，这种 方法是无监督学习独立元分析方法，它是多通道单像素的，除此之外，独立分量 分析在智能视觉图像中应用比较广泛它不仅可以应用于图像的传输和获取，还可 以应用于人脸识别、语音识别、图像纹理分割、数字水印等等。 硕十学位论文 近十年来，国内学者在盲分离理论和分离算法上取得了显著的成就，与国外 科学家的研究几乎是同步进行的。 在我国最早提出盲分离理论和分离算法的是凌燮亭【6 0 1 和何振亚【5 5 。5 8 】，渡燮亭 首先独创的根据h e b b i a n 学习算法【4 6 】利用反馈神经网络，实现了在近场情况下盲 信号的分离，并一并讨论了该算法在什么时候收敛，信号分离过程中分离状态的 稳定性如何，而何振亚、冯大致、保铮、张贤达1 5 4 - 5 8 等人也做了不少研究，分阶 段的盲分离算法也随着研究的深入而被提了出来，j 下如本文前面所讲的一样，分 离精度与分离速度是互不兼容的，在分离精度高的情况下分离速度就慢，反之亦 然，分阶段的盲分离算法，在一定范围内提高了分离速度，在一定程度上对分离 速度和分离精度做了比较好的折中。同时，自适应盲分离研究应用模糊理论为自 适应算法设置了迭代步长，较好地解决了自适应盲分离问题。 近些年来，谢胜利教授及其他的团队对盲源分离问题做了系统的研究，首先 他们从混叠矩阵的结构出发，给出了混叠矩阵能够分离出源信号的充要条件，并 对源信号可提取数目多少的问题作了回答，同时，应用四阶累积量提取源信号。 此外，章晋龙、谢胜利还提出了盲分离几何算法，基于乘子法罚函数的盲提取算 法，基于旋转变化的最小互信息量盲分离算法，这些算法的共性就是盲分离速度 更快，分离精度更高。 1 3 论文的研究内容与章节安排 本论文主要研究是欠定混合信号的盲源分离问题，本论文主要分为六章，具 体安排结构如下： 第二章首先介绍了三种混叠信号的形式，其次主要介绍了实现盲源分离问题的 主要的方法：即i c a 、s c a 和n m f 的基本假设条件、基本理论和算法。 第三章介绍了稀疏分解方法在欠定盲源分离中应用，描述了在欠定混叠系统中 信号的模型，在欠定情形下对源信号数目进行了估计，以广义高斯信号 为例对信号的稀疏性进行了度量，用新的两步法分离混合信号。 第四章介绍了混叠矩阵的估计方法，首先找出了经典估计算法的不足，在经典 算法的基础上提出k m p c a 算法，并用仿真实验加以验证。 第五章实现带延迟的瞬时混叠信号的盲分离，首先在本章中给出了延时系统模 型，其次提出了一种新的判断聚类有效性的准则，最后利用单源区间的 原理实现了带延迟的瞬时混叠信号的盲分离。 第六章总结与展望 9 基于瞬时欠定混叠的茸分离研究 2 1 引言 第二章盲信号分离概述 盲信号分离问题是指：在混合信道以及源信号未知的情况下，仅仅依靠观测 信号恢复出源信号的过程。 盲分离算法的目的是分离混合信号中具有某种特殊性质的成分，这些性质包 括信号的独立性，稀疏性，可预测性和平滑性，利用这些性质可最后达到对信号 的分离和提取。盲分离算法可以根据不同的先验知识采用不同的数据处理工具。 其中典型的数据处理工具包括属于后处理过程的稀疏成分分析( s c a ) 【3 2 1 、非负张 量分解( n o n n e g a t i v et e n s o rf a c t o r i z a t i o n ) t 3 5 1 、独立成分分析( i c a ) 【3 6 - 3 9 1 、非负矩阵 分解( n o n n e g a t i v em a t r i xf a c t o r i z a t i o n ) 鱼亭 6 1 , 6 2 】，还有属于前处理工具的主成分分 析( p r i n c i p a lc o m p o n e n ta n a l y s i s ) t 33 1 、模型减少( m o d e lr e d u c t i o n ) 4 9 1 、白化 ( w h i t e n i n g ) 、因素分解( f a c t o ra n a l y s i s ) t 51 。5 引、快速傅里叶变换( f a s tf o u r i e r t r a n s f o r m ) t 2 8 1 、稀疏化( s p a r s i f i c a t i o n ) 【17 1 、滤波( f i l t e r i n g ) 、小波包变换( w a v e l e t s p a c k a g et r a n s f o r m a t i o n ) 等t 5 5 1 。其中i c a 、s c a 、n m f 是实现盲信号分离的三种主 要方法f 3 7 1 ，例如，b e l l s e j n o w s k i 最大信息量方法( i n f o m a x ) 【5 、c a r d o s o 等变化 自适应方法【l l 】、a m a r i 自然梯度方法和矩阵特征值分解方法都是基于i c a 的盲分 离算法【1 9 2 2 1 。其他很多算法都是在这些算法上的补充或者扩展。但这些算法就盲 分离经常用到的优化运算而言，自然梯度算法，最大信息量和e a s i 算法属于同 一类，即梯度型寻优算法，梯度型寻优算法收敛速度是线性的，速度略慢，但梯 度型寻优算法有自己的优势，即属于自适应算法，具有实时在线处理能力。f a s t l c a 收敛速度比梯度型寻优算法快的多，因为它采用的是拟牛顿算法寻优。而矩阵特 征分解方法是一种解析方法，没有迭代过程，因此运行速度最快。本章将分别介 绍不同的盲分离算法。 2 2 信息论方法 常用的i c a 算法有两种，即非高斯最大法和信息论方法。 基于信息论i c a 有三种常用的算法：最大似然估计、最小化互信息、最大化 熵【3 4 1 ，在本章中将介绍最小化互信息算法。 离散随机变量y 的熵在信息论中的定义为： 日( y ) = 一p ( 少= 缶) l o g p ( y = 当) f 1 0 ( 2 1 ) 硕十学何论文 其中，毒是y 所有的取值，p ( y = 尝) 为y 取专的概率，且p ( y = 参) = 1 ，熵 n ( y ) 表示y 的先验不确定性。对于多维随机变量y ，其各个分量之问的互信息为： ，( y ) = h ( y i ) - h ( y ) ( 2 2 ) h ( y ) 为y 的熵，h ( 咒) 是y 的第f 个元素的边缘熵，互信息量具有非负性，在 信息论中，两个概率密度函数差异的程度可以用k l 散度来测量，对于多维随机 变量y ，i ( y ) 可表示为： m ) = 协( y 丽p r ( y ) 咖 ( 2 3 ) 如果b ( j ，) = 兀以( 乃) ，也就是y 各分量之间根据统计特性相互独立时， l ( y ) = 0 ，因此互信息可以作为判断y 的各个元素之间