（信号与信息处理专业论文）非线性滤波及其在通信中的应用研究.pdf

摘要 摘要 在通信系统中，信号谱重叠导致干扰抑制问题；信道的非线性失真使系统的性能严重恶化，而 这些常常需要非线性滤波器来处理。针对通信信号的非线性滤波问题，在前人研究和现有工作的基 础上，拟建立基于最低误码率( m i n i m u mb i te r r o rr a t e ，m b e r ) 准则的非线性时域滤波理论，据此 构筑滤波器的实现形式，并用丁：岛效调制通信系统等领域。主要工作包括以卜几个方面： 1 ) 针对非线性滤波器滤除信号的带内非高斯噪声问题，研究了量子随机滤波器的原理和件能。 2 ) 针对通信巾频谱混叠信号的分离，提出了一种几何特 l f 滤波算法，并利用径向基函数神经网 络构造了一个几何特征滤波器。 3 ) 考虑到本文研究的主要应用背景是通信，而数宁通信系统更强渊洪码率指标，冈此研究了基 于最低误码率准则的非线性滤波器，并推导了最低洪码7 - 准则的l j 标函数。 4 ) 对于m b e r 非线性滤波器，其参数常采用随机梯度算法进行训练，但收敛速度较慢且存在局 部收敛问题。为改进随机梯度算法，提出了几种新的学习算法，即遗传随机梯度算法、滑窗随机梯 度算法以及重置的拟牛顿算法。并针对非凸优化问题，在理论上证明了重置的拟乍顿算法的收敛性。 5 ) v o l t e r r a 序列可用米实现菲线性滤波器，但v o l t e r r a 滤波器的计算复杂度随着输入数据维数及 v o l t e r r a 阶数的增加呈指数增长。同样，对于径向基函数神经网络，计算复杂度也随基函数的数量增 多而快速增长。为减少计算复杂度，提出了一种最低误码率准则的多级软判决滤波器。 6 ) 除将m b e r 非线性滤波器用于高效调制通信系统中扩展的二元相移键控调制信号的干扰抑 制外，还拓展用于直接序列扩谱通信系统的干扰抑制、非线性信道均衡及多元调制信号的均衡等。 本文的大量仿真表明：量子随机滤波器可自效滤除非高斯噪声；几何特征滤波器可有效滤除谱 混叠干扰；在干扰抑制、非线性信道均衡等场合，非线性滤波器基丁最低误码率准则优于基丁最小 均方误差准则；遗传随机梯度算法可避免m b e r 非线性滤波器的参数陷入局部极小点；相对于随机 梯度算法，重置的拟牛顿算法具有更快的收敛速度。 关键词：非线性滤波；非线性信道；干扰抑制：非线性均衡；最低误码率；学习算法；v o l t e r r a 序夕；径向基函数神经网络 摘要 a b s t r a c t n o n l i n e a rf i l t e r sa r eo f t e nu s e df o ri n t e r f e r e n c es u p p r e s s i o ni ns p e c t r u mo v e r l a p p e ds i g n a l sa n df o r d i s t o r t i o nc o m p e n s a t i o ni nn o n l i n e a rc o m m u n i c a t i o nc h a n n e l s b yt h eh e l po fr e s e a r c h e so f b o t ht h ep a s to f o t h e r sa n dt h ee x i s t i n go fo u r s ，s e v e r a lt y p e so ft h en o n l i n e a rf i l t e r sb a s e do nt h ec r i t e r i ao fm i n i m u mb i t e r r o rr a t e ( m b e r ) a r ep r o p o s e d ，w h i c ha r eu s e df o rc o m m u n i c a t i o n se s p e c i a l l yi nt h o s ew i t hh i g h l y e f f i c i e n tm o d u l a t i o n s t h em a i nw e r k sa n dc o n t r i b u t i o n sa r ea sf o i l o w s 1 ) t or e m o v en o n g a u s s i a nn o i s ei ns i g n a lb a n db yn o n l i n e a rf i l t e r s ，aq u a n t u ms t o c h a s t i cf i l t e ri s d i s c u s s e d 2 ) f o rs e p a r a t i o no fs i g n a l sw i t ho v e r l a p p e ds p e c t r u mi nc o m m u n i c a t i o n s ，ag e o m e t r i cf e a t u r ef i l t e ri s p r o p o s e da n di sr e a l i z e dw i t hr a d i a lb a s i sf u n c t i o nn e u r a ln e t w o r k s 3 ) c o n s i d e r i n gt h a tt h en o n l i n e a rf i l t e r sa r et ob eu s e df o rc o m m u n i c a t i o n sw h e r et h eb i te l r o rr a t ei sa v e r yi m p o r t a n ti n d e xf o rd i g i t a lc o m m u n i c a t i o n s ，t h en o n l i n e a rf i l t e r sb a s e do nm b e ra r es t u d i e da n dt h e i r o b j e c t i v ef u n c t i o ni sd e r i v e d 4 ) t h ep a r a m e t e r so fm b e rn o n l i n e a rf i l t e r sa r eo f t e nt r a i n e db ys t o c h a s t i cg r a d i e n ta l g o r i t h mw h o s e c o n v e r g e n c er a t ed u r i n gt r a i n i n gi ss l o wa n dp a r a m e t e r sm a yt r a pi n t om i n i m a t oi m p r o v et h es t o c h a s t i c g r a d i e n ta l g o r i t h m ，s e v e r a ln o v e la l g o r i t h m s ，s u c ha st h eg e n e t i cs t o c h a s t i cg r a d i e n t , t h es l i d i n gw i n d o w s t o c h a s t i cg r a d i e n t ，a n dt h er e s t a r t e d q u a s in e w t o n ，a r ep r o p o s e d a n dt h ec o n v e r g e n c ep r o p e r t yo f r e s t a r t e dq u a s in e w t o na l g o r i t h mi sp r o v e dt h e o r e t i c a l l yf o rn o n c o n v e xo p t i m i z a t i o n 5 ) v o l t e r r as e r i e sc a nb eu s e df o rm o d e l i n gn o n l i n e a rf i l t e r s ，b u tt h e i rc o m p u t a t i o nl o a di n c r e a s e s e x p o n e n t i a l l yw i t ht h ei n c r e a s eo fd i m e n s i o n so fi n p u td a t aa n dt h eo r d e r so fv o l t e r r as e r i e s s i m i l a r l y ，t h e c o m p u t a t i o n sa l s oi n c r e a s eq u i c k l yw i t ht h ei n c r e a s eo fn u m b e r so fr a d i a lb a s i sf u n c t i o n s f o rr e d u c t i o no f t h ec o m p u t a t i o n s ，am u l t i s t a g es o f td e c i s i o nf i l t e rb a s e do nm b e r i sp r o p o s e d 6 ) b e s i d e st h eu t i l i z a t i o no fi n t e r f e r e n c es u p p r e s s i o ni na ne f f i c i e n tm o d u l a t e dc o m n m n i c a t i o ns y s t e m a sw i t ht h ee x t e n d e db i n a r yp h a s es h i f t i n gk e y i n g t h em b e rn o n l i n e a rf i l t e r sa r ea l s oc x 蜘瑁l d c d 的t t m s 。 u s e ss u c ha st h ei n t e r f e r e n c es u p p r e s s i o no fd i r e c ts e q u e n c es p r e a d s p e c t r u ms y s t e m s ，t h en o n l i n e a r e q u a l i z a t i o n ，a n dt h ee q u a l i z a t i o no fm u l t i l e v e lm o d u l a t i o ns i g n a le t e e x t e n s i v es i m u l a t i o n ss h o wt h a tt h eq u a n t u ms t o c h a s t i cf i l t e r sc a nr e m o v en o n g a u s s i a nn o i s e e f f i c i e n t l y , a n dt h eg e o m e t r i cf e a t u r ef i l t e r sc a ne l i m i n a t et h es p e c t r u mo v e r l a p p e di n t e r f e r e n c e i nt h ec a s e s o fi n t e r f e r e n c es u p p r e s s i o na n dn o n l i n e a re q u a l i z a t i o n ，t h ep e r f o r m a n c eo fn o n l i n e a rf i l t e r sb a s e do n m b e ri ss u p e r i o rt ot h a tb a s e do nm i n i m u mm e a ns q u a r eo i t o lg e n e t i ca l g o r i t h ms t o c h a s t i cg r a d i e n tc a n a v o i dt h et r a po fl o c a lm i n i m ai np a r a m e t e r so fm b e rn o n l i n e a rf i l t e r s c o m p a r e dw i t hs t o c h a s t i cg r a d i e n t , t h ec o n v e r g e n c er a t eo fr e s t a r t e dq u a s in e w t o na l g o r i t h mi sm u c hq u i c k e r k e y w o r d s ：n o n l i n e a rf i l t e r s ；n o n l i n e a rc h a n n e l s ；i n t e r f e r e n c es u p p r e s s i o n ；n o n l i n e a re q u a l i z a t i o n ； m i n i m u mb i te r r o rr a t e ；l e a r n i n ga l g o r i t h m ；v o l t e r r as e r i e s ；r a d i a lb a s i sf u n c t i o nn e u r a ln e t w o r k 本论文章用术语( 符号、变晕、缩略词等) 的注释表 e b p s k g a s g g f f m b e r m s s d f o o v s q s f r b f r b f g s r b 洲 r l b f g s s g s i n r s i r s n r s w s g v s 本论文专用术语( 符号、变量、缩略词等) 的注释表 e x t e n d e db i n a r yp h a s es h i f t i n gk e y i n g ， g e n e t i ca l g o r i t h m s t o c h a s t i cg r a d i e n t g e o m e t r i cf e a t u r ef i l t e r m i n i m u mb i te n o rr a t e m u l t i s t a g es o f td e c i s i o nf i l t e r o d d0 r d e rv o l t e r r as e r i e s q u a n t u ms t o c h a s t i cf i l t e r r a d i a ib a s i sf u n c t i o n r e s t a n e db f g s r a d i a lb a s i sf u n c t i o nn e u r a ln e t w o r k r e s t a r t e dl i m i t e dm e m o r yb f g s s t o c h a s t i cg r a d i e n t s i g n a lt oi n t e r f e r e n c en o i s er a t i o s i g n a lt oi n t e r f e r e n c er a t i o s i g n a lt on o i s er a t i o s l i d ew i n d o w s t o c h a s t i cg m d i e n t v o i t e r r as e r i e s v i i 扩展的二元相移键控 遗传随机梯度 几何特征滤波器 最低误码率 多级软判决滤波器 奇数阶v o l t e r r a 序列 量子随机滤波器 径向基函数 蕈置的b f g s 径向基函数神经网络 晕置的有限储1 竽b f g s 随机梯度 信干噪比 信干比 信噪比 滑窗随机梯度 v o l t e r r a 序列 东南大学学位论文独创性声明 本人声明所呈交的学位论文是我个人在导师指导下进行的研究工作及取得的研究成果。 尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过 的研究成果，也不包含为获得东南大学或其它教育机构的学位或证书而使用过的材料。与我 一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示了谢意。 研究生签名：日期： 东南大学学位论文使用授权声明 tf | 乞 东南大学、中国科学技术信息研究所、国家图书馆有权保留本人所送交学位论文的复印 件和电子文档，可以采用影印、缩印或其他复制手段保存论文。本人电子文档的内容和纸质 论文的内容相一致。除在保密期内的保密论文外，允许论文被查阅和借阅，可以公布( 包括 以电子信息形式刊登) 论文的全部内容或中、英文摘要等部分内容。论文的公布( 包括以电 子信息形式刊登) 授权东南大学研究生院办理。 研究生签名：导师签名 第1 章绪论 1 1 研究背景 第1 章绪论 随着通信技术及产、i k 的发展，频谱已成为一种稀缺资源，如何提高频谱利用率越来越受到关注， 并己成为各种通信技术和调制方式追求的目标。在传统的调制方式中，为消除信道问的干扰，各信 道所占用的频段完全分隔。但人们在c d m a ( c o d ed i v i s i o nm u l t i p l ea c c e s s ) 系统的研究中发现，在 相邻频带信号有部分谱重礴的情况下，整个系统的通信容量会增加，且用户的服务质量也小会下降。 孝h 比较c d m a 系统的直接序列扩潜调制方式，o f d m ( o r t h o g o n a lf r e q u e n c yd i v i s i o nm u l t i p l e x i n g ) 调 制方式具有更高的频谱利用率。而o f d m 各子载波的频谱是卡h 瓦重叠的，只足在频潜采样点处丰 l 瓦 正交弓j 。在追求高频谱利用率调制办式的研究l i i ，相邻信道频潜的部分霞叠将成为先进调制方式的 一个特征。超窄带( u l t r a n a r r o wb a n d 。u n b ) 通信作为一种可以提供极i 哥频谱利片j 率的技术受到越 来越多的关注 4 - 1 0 】。在超窄带系统l i ，可能1 竽存带内窄带干扰或相邻信道信号的干扰。如果频谱重叠 的干扰信号能被可靠分离，这将人人提高超窄带通信系统的性能。 在实际通信系统巾，信道的非理想性也会产生信n 谱混叠分离问题。如c d m a 、超宽带( u l t r a w i d e b a n d ，u w b ) 等系统中的窄带干扰会使通信系统的性能恶化：信号发射机中的高功率放人器会 造成通信信号的非线性失真，而非线性失真会产生邻带十扰和带内十扰。这些十扰与有用信号是频 谱混叠的，需要进行抑制和消除，以改善系统的性能。 信号谱混叠分离问题可视为信号的滤波问题。通常的信号滤波方法主要分为线性滤波和非线性 滤波。线性滤波主要有：基于傅里叶变换的线性滤波器【 , 女【l f i r ( f i n i t ei m p u l s er e p o n s e ) ，i i r ( i n f i n i t e i m p u l s er e s p o n s e ) 滤波器等；基于统计信号处理的滤波渊1 2 j ，如w i e n e f 滤波，k a l m a n 滤波及谱估计 算法等；此外，还有小波分析方法【1 3 l 。非线性滤波器_ t 要有扩展k a l m a n 滤波、u n s c e n t e dk a l m a n 滤 波、插值滤波、神经网络滤波、f o k e r - p l a n k 方程数值解、粒子滤波等 1 4 - 1 6 1 。在线性滤波器中，f i r 等 是利用频率选择性米完成信号分离功能，而k a l m a n 滤波； ； 足基于信号的噪声激励线性模型，利用条 件概率密度演化来完成波形估计【0 7 1 。对于前述的潜匿叠信号滤波，若要去除的信号频潜虽集中在某 一频点，仉此频点附近爿j 有随机扩展的频谱( 例如相位跳变造成的频谱扩展) ，该随机扩展的频谱 正足与有用信号频谱相重叠的部分，则对于这种频普混叠信号的分离，线性滤波器显然无能为力。 此外，在非高斯噪声条件f ，线性预测滤波也不是最优的，这时，必须考虑非线性滤波器。因 而，对非线性滤波器的研究便成为客观实践的需要。 1 2 谱重叠信号的分离 非线性滤波器在通信信u 处理中，主要完成两大功能：一是消除信号有用频带内的非线性失真； 二是谱重叠信号的滤波分离，特别是后者，尤为重要。 对于通信信号处理领域的谱重霍滤波研究，1 9 6 1 年- c a m p b e l l t l 8 1 讨论了谱分离能力；1 9 8 2 年，f r o s t 等曾考虑用信息反馈迭代的方法处理通信信号中的谱重叠t 1 9 】；1 9 9 7 年p o o r m 时域预测技术来消除扩 l 东南大学博上学位论文 谱系统巾的窄带干扰抑制2 0 , 2 1 ；2 0 0 1 年c r a v e r 在【2 2 】中用循环谱办法来处理潜霞叠；在2 0 0 0 年和2 0 0 2 年，b e i d a s 等在【2 3 】和 2 4 】中分别考虑片j 软输入软输出方法和t u r b o 迭代来处理谱萤叠；在2 0 0 4 年和 2 0 0 5 年，s h i t 2 5 1 等和l u c e n d 2 6 1 等分别考虑用判决反馈均衡器来消除潜霞叠干扰。迫于实际需要，谱 蕈叠信号滤波研究较多的是语音信号处理【2 7 1 ，而且主要用的是1 , 一p x 网络滤波方法，如1 9 9 6 年l e 2 8 1 讨 论了用多层感知器网络进行语音增强；2 0 0 0 年j a n 2 9 1 用概率神经网络来去除语音信号f f l 的数字脉冲 噪声等。在我国，1 9 9 9 年，崔滔纠刈考虑用谱相关原理来消除谱重叠干扰；2 0 0 5 年刘厶等用循环平 稳算法来处理直接序列扩频系统巾的讲重叠【3 1 1 。2 0 0 6 年张玉恒等用时域均衡的方法来抑制扩谱系统 中的窄带十扰【3 2 】。 通常，对谱重叠信号进行分离的方法可分为时域方法、频域方法和变换域方法 3 3 - 4 5 】。时域方法 是一种预测、干扰消除技术，包括线性预测和谁线性预测：频域方法就是设计频域陷波器；变换域 方法需要信号在时域和频域问相互转换，因而复杂度高，实时性没有时域方法好。本论文所采用的 方法属于第一类。 1 3 非线性滤波器 1 3 1 非线性滤波器模型 在通信信号处理中，前线性滤波器模型与目标跟踪等系统中的非线性滤波器模型小同。如在口 标跟踪系统中，非线性滤波器为扩展k a l m a n 滤波器、粒子滤波器等。这些滤波器是假设系统状态方 程已知，根据系统的输出信号米估计期望的输入信号。而这里所讨论的用于通信系统的1 f 线性滤波 器是一类非线性预测器，是线性预测器向非线性的扩展。非线性滤波器模裂为： y = f ( x ，w ) ( 1 1 ) 式中f ：吼“一吼表示非线性滤波算子；w 吼”为非线性滤波器参数；y 表示滤波器输出。这里讨论 的是实数域，当然也可拓腱到复数域。x 表示滤波器的输入，对f i 同的应剧场合，工的表达式1 i 同。 如滤波器用于干扰抑制，可表示为： 工= d + ，+ ， ( 1 2 ) 式中，d 表示期望信号：，表示t 扰信号：，表示高斯白噪声。滤波器用于非线性均衡时，可表示为： x = f ( d ) + ，( 1 3 ) 式中f 表示非线性信道失真算子。 从式( 1 1 ) 可看出，线性滤波器足非线性滤波器的一种特殊形式。设计滤波器时，首先要选择一 个非线性系统，然后利用训练样本来训练非线性系统各参数。在设计时，需考虑三方丽的问题，即 选择何种非线性系统来构造滤波器：如何构造目标函数；怎样训练系统的参数。 1 3 2 非线性滤波器的结构 非线性滤波器作为一种非线性系统，可采用多种方式来实现。u n b e h a u e n 在【4 6 】i l 从系统识别的 角度把非线性系统分为三人类，即参数模型、半参数模型和非参数模型。非线性滤波器町用图l l 2 第1 章绪论 网i 1 非线性模艰 中的模犁米构造。对各模犁的详细介绍见文献【4 6 】及其参考文献。 1 3 3 构造目标函数的准则 非线性滤波器的参数需要用训练样本来确定，这就需要构造训练的目标函数。从式( 1 1 ) 可看出， 滤波器输出所含的噪声已f i 是高斯白噪声，这样，最小均方误差( m i n i m u mm e a ns q u a r ee r r o r , m m s e ) 准则4 i 再与最低误码率( m i n i m u mb i te r r o rr a t e ，m b e r ) 准则等价。因而，在实际应用中 应根据具体情况选择不同的准则，常用的自m m s e 准则、m b e r 准则、最小误差熵准则( m i n i m u me r r o r e n t r o p y ，m e e ) 及最大瓦信息准则( m a x i m u mm u t u a li n f o r m a t i o n ，m m i ) 等4 7 - 矧。 1 3 4 非线性滤波器的参数训练 对于确定性i ：1 标函数的优化可采用最速下降法、牛顿法、拟牛顿法等经典的优化算法，或者采 用基因算法、模拟退火算法、粒子群算法、免疫算法等智能优化算法5 7 - 6 9 1 。但南于非线性滤波器的 3 东南大学博上学侥论文 训练数据中含有随机噪声，其日标函数的优化是个随机优化1 j 题。这需要对普通的优化算法进行改 进或设计新的算法以使其适用于随机优化 7 0 - 7 3 】。最常见的随机优化算法是随机梯度法。 1 4 本论文的主要工作 1 4 1 研究目标 针对通信信号的非线性滤波问题，存前人研究和现有工作的基础上，拟建立基于最小误码率准 则的非线性时域滤波理论，据此构筑滤波器的实现形式，并应用丁超窄带通信、直接序列扩谱通信 等系统。同时，通过埘非线性滤波理论的研究，拓展对丁：通信信号处理存非线性系统和非高斯噪声 背景卜的理论认识。 1 4 2 研究工作及论文结构 本论文的主要工作及各章组织如下： 第1 章介绍论文的研究背景、目标，对谱重叠信号分离及非线性滤波问题进行综述，并给出本 文的主要研究t 作及组织结构。 针对信号带内噪声的非线性滤波问题，第2 章研究量子随机滤波器的原理及其参数训练方法， 提出一种新的量子随机滤波算法并利用其对非岛斯噪声中的信号进行估汁。 针对通信中频谱混叠信号的分离，第3 章研究几何特征滤波器的原理和算法，用径向基函数神 经网络构造几何特征滤波器，并针对谱重卺信“的分离问题进行仿真。 考虑到所研究的非线性滤波器主要应用于通信系统，而数字通信系统更强调的是误码率指标， 非线性滤波器基于最低误码率准则较基于最小均方误著准则有明显的优势。因此，第4 章介绍最低 误码率准则的研究现状和p a r z e n 密度估计方法，推导最低误码率准则的l j 标函数，并针对所给出的 信道模型，分别用径向基甬数神经网络和v o l t e r r a 序列实现两种最低误码率非线性滤波器。 对于最低误码率非线性滤波器，其参数常采用随机梯度算法进行训练，但收敛速度较慢且易收 敛到局部极小。为此，第5 章研究最低误码率准则的在线学j = | 算法：先对随机梯度算法进行仿真分 析，继而提出遗传随机梯度算法、滑窗随机梯度算法和重置的拟牛顿算法，并对这些算法进行仿真 分析，对晕置的拟牛顿算法用于非凸优化的收敛性进行理论证明。 v o l t e r r a 序列可用来实现非线性滤波器，f j l 计算复杂度随输入数据维数及v o l t e r r a 阶数的增加呈 指数增长。同样，径向基函数神经网络的计算复杂度也随基函数的增多而快速增长。为减少计算复 杂度，第6 章研究多级软判决滤波器的结构和设计方法，用径向基函数神经网络和v o l t e r r a 序列分 别构造几种基于最低误码率准则的多级软判决滤波器。 在前面的研究l p ，非线性滤波器都是用于高效调制通信系统，并且主要是用于扩展的二元相移 键控调制信号的干扰抑制。第7 章将拓展前述非线性滤波器的应用领域，研究最低洪码率准则非线 性滤波器在其它通信系统如直接序列扩谱系统中的窄带干扰抑制、非线性信道均衡中的应用及对多 元调制信号的均衡等。 第8 章对全文进行总结，指出主要的创新所在，并对今后工作进行展望。 4 第2 章量子随机滤波器 第2 章量子随机滤波器 本章探讨用非线性滤波器米滤除信号中的非高斯宽带噪卢，利用量子随机滤波器米进行。具有 随机参数的滤波器常称之为随机滤波器，其本质就是利用过去的数据来计算被观测系统的时变概率 密度函到7 4 1 。量子神经动力学是应用量子力学原理来分析生物神经系统7 5 1 ，d a w e s t ：阳1 将量子神经动 力学推j “应用到信号的非线性滤波领域。随后，b e h e m 【7 7 8 1 在d a w e s 的工作基础上把量子随机滤波 器( q u a n t u ms t o c h a s t i cf i l t e r , q s f ) 模型应用于神经系统的分析【79 1 ，并称q s f 模型为递归量子神经 网络( r e c u r r e mq u a n t u mn e u r a ln e t w o r k ，r q n n ) 。本章在d a w e s 、b e h e m 的工作基础上，提出一 种新的量子随机滤波算法，通过调整势场权系数，可使滤波器在信号波形估计的非线性失真程度与 j e 抗噪能力之问进行折衷。仿真表明：所提出的量子随机滤波器能自效滤除信号巾的非高斯类噪声。 2 1 滤波原理 q s f 是- - 种非线件滤波器，是将量子力学中的s c h r o e d i n g e r 方程与神经网络结合在一起形成一种 有效的滤波结构。在讨论该滤波器原理之i j ，先对s c h r o e d i n g e r 方程作简要介绍8 0 1 。 2 1 1 非线性s c h r o e d i n g e r 方程 设质量为m 的粒子束缚在势场矿( j ，f ) 巾作一维运动( x 为一维空问向量) ，则其s c h r o e d i n g e r 方程为： 肺掣十2 m h 2c 。x 2 a 2 + v ( x , t ) 卜r ， 亿， 其中：t 为时问，i 是虚数单位，2 万南为p l a n c k 常数，( 工，f ) 是复值的波函数。陟( 石，f ) 1 2 表示在f 时刻， 粒了在空间位置工的概率密度函数( p d f ) ，有： 2 1 2 模型 了i ( 圳2 d x = i ( 2 2 ) q s f 是一个神经计算结构。通过在预测误差一纠正的循环中，使用量子力学中的s c h r o e d i n g e r 方程来建立一个被观测系统的非参数时变p d f ，从而达到预测信号的期单值、滤除噪声的日的。 模型结构见图2 1 ，其中：y 表示输入含噪信号，：歹表示用过去的p d f 对y 中期望信号的估计 值，n 为神经元个数。设k f ) 表示神经权函数，用w ，1 j n 表示第- ，个神经元的权值( 引入k ( 工，f ) 是为了分析的简便) 。设： ，( f ) = y ( t ) 一多( f )( 2 3 ) ( ，( x ，f ) = 一k ( 石，f ) j ，( f )( 2 4 ) s 东南大学博上学位论文 则： 将势场表示为： p ( x ，f ) = 1 w ( x ，f ) 1 2 g ( 川2 ) = k ( x ，t ) f x p ( x ，t ) d x 多( ，) = f x p ( x ，t ) d x v ( x ，r ) = f ( u ( 工，t ) + g ( 1 w 1 2 ) ) 其中：f 足势场权系数。神经网络权值更新采用h e b b 学习规则，即： ( 2 5 ) ( 2 6 ) ( 2 7 ) ( 2 8 ) o k _ ( x , 一t ) ：v ( f ) 尸( x ，f )( 2 9 ) o t s c h r o e d i n g e r 方程的解杪( j ，t ) 足复值波函数，其模甲办局部化粒子的位簧，即波包络表示粒子在 向量空间上概率密度函数。力程可以在一个离散网格上积分，如神经网络。但是，当波函数在时间 卜演化时，它们的粒子包络分散开。区| 此，用线性时变s c h r o e d i n g e r 方程作为粒予运动的模型仅在 短时隙上支持。势场v ( x ，t ) 代表强制粒子运动的力场，为处理粒子散射，势场用一个非线性项来补 充，以得到方程( 2 8 ) 。当势场u ( x ，t ) 造成的散射使粒子向外偏离时，g ( 川2 ) 可使粒子向内塌陷，非 线性项g ( 1 w 1 2 ) 用于抵消粒子的散射。由p ( x ，f ) 根据式( 2 7 ) 得到歹( r ) ，当歹( f ) 等于，中的实际信号时， “f ) 就相当于y 中的零均值噪声，其对束缚在势场内运动粒子的波函数改变很小。也就足说，足y i 的实际信号使p ( x ，t ) 向期望的方向移动，从而达到滤波的日的。由式( 2 5 ) 可知量子随机滤波器足非 线性的。 2 2 参数训练 图2 - 1 量子随机滤波器模型 根据所建模型，除神经网络权值w j ，1s n 外，仍有7 i ，f ，m ，需要确定其值。为简化问题，本 章取h = i 。参数选择过程是一个优化的过程，从这也可看出q s f 不是最优滤波器，而是一个次优的 滤波器。在训练q s f 的过程中，我们要对s c h r o e d i n g e r 方程求解。这里，采用差分的方法迭代求解。 2 2 1s c h r o e d i n g e r 方程求解 由于s c h r o e d i n g e r 方程是偏微分方程，需要在时间和窄问_ 维网格 ：进行积分求解。令 6 第2 章量f 随机滤波器 方程( 2 1 ) 变为： f 坐! 三：! x j = 她t - ( n - i ) 娜号 乞= n a t ，露0 a t 2 m a r 2 利用( 2 1 2 ) 式，可在时空二维网格上迭代求出波函数吵( x ，f ) 。 2 2 2 优化参数 ( 2 1 0 ) ( 2 1 1 ) + 矿( 五f ) 少( 五f )( 2 1 2 ) 对肌，进行优化是一个多变量参数优化问题。为简化，我们采用一种简单的遗传算法( g e n e t i c a l g o r i t h m ，g a ) ：单变量边缘分布算法( u n i v a r i a t em a r g i n a ld i s t r i b u t i o na l g o r i t h m ，u m d a ) s i l o 其步骤为： 1 ) 初女f ；化群体。 2 ) 选择较好的个体。 3 ) 计算基因值出现的频率： 1” 最= 二x 庸，k = l ，2 ， ( 2 1 3 ) 刀t l ，表示较好个体的个数，表示二进制染色体编码长度，z 脯为第j 个个体的染色体第走个字诲的值。 4 ) 产生新的解。 5 ) 满足结束条件则结束，不满足则返回2 ) 。 2 2 3 神经网络权系数的学习 根据优化后的f ，朋，对网络权系数w j ，1 _ ，进行训练。由t - s c h r o e d i n g e r 方程求解是一个 迭代过程，为使解稳定，可在学习过程中针对每。个抽样输入，对s c h r o e d i n g e r 方程多迭代几次。 而在滤波过程中每个抽样町只迭代一次。由于网络模趟带有反馈，所以每步迭代要对神经叫络权系 数归一化。并且，因p ( x ，f ) 是一个概率密度函数，每步迭代要按式( 2 2 ) 对其归一化。 2 3 仿真结果 根据优化后的参数f ，埘，及训练后的w ，对输入信号进行滤波。由于s c h r o e d i n g e r 方程是偏微 分方程，对其解的稳定性分析足困难的，但由于可调参数较多，用g a 和神经网络可将滤波器优化 到一个相对稳定的工作区间。 综合汁算复杂度及数据精度要求，通过试验，我们取n = 4 0 1 ，缸= o 1 。a t = 0 0 0 1 。首先用 g a 优化参数，初始取最= 0 5 ，优化后的参数值分别为f 三2 7 5 0 ，m = 0 1 6 8 ，= 0 3 1 2 8 。同定这 些参数，然后训练岣。初始m 取卜1 ，1 】中的随机数：以零均值高斯分布p d f 作为初始沙。在下述 仿真1 1 1 取f = 2 7 5 0 ，小= o 1 6 8 ，p = 0 3 1 2 8 。w ，由这些参数训练。但在滤波过程i | l ，g - 值可根据实 际调整，以取得更好的滤波效果。仿真信号为了( 和s t 2 1 ，见图2 2 。图2 3 和2 4 是对j ( 1 加零均值高 7 斯白噪声的滤波结果，噪声方差分别为o2 5 和4 。可看出，当噪声冉差为4 时，滤波器仍能表现出 良好的性能。 接r 来对非高斯类噪声进行仿真。陶2 - 5 和2 - 6 是对，”加零均值均匀分布噪声的滤波结果噪 声方差分别为02 5 和4 可见对于均匀分布的噪声量子随机滤波器坷样共有搬好的性能。 2 4 势场权系数的调节作用 t 麟1 t 礅蕊 。m m w m m 一；t 0 j 矗 * n 2r 一r 一一 l i m 。i 。、i h vv kiv ivyv vv 与 一咭杰_ 者j 名 f * # 目2 ，3 商* 峰声n 波镕粜( 十疗# 0 2 5 l 第2 $ 量f 随机薅嫒 l 1 喘吉；，一a j二 1 日# 2 1 u ， ，jk“ q 卜i 。1 1 1 ，。一l 1 t j i - i ， ， 。-|。 、! 、”h。r ”，“ 2 5 m l 镕目 圈2 4 尚斯分布日 # 波镕* 限声女差为4 ) 誓m 一扣成i 瓣_ j 溪一一 _ 少 。懒蝴槲黼 。孤j 、心 东南大学博上学位论文 调节规律是：当f 取较大值时，滤出波形失真小，但消噪能力降低；f 取较小值时则枉l 反。仿真结 果见图2 7 和2 8 ，加的都是零均值但方差分别为0 0 1 5 6 和3 1 5 的高斯白噪卢。从图2 8 中可看出， 低噪声时f 取1 5 0 ，输出信号幅值在0 8 上下波动：f 取2 7 5 0 时则在i 上下波动。若加大噪声方差 ( 见图2 8 ) ，f 取2 7 5 0 时滤波器性能严重退化：而f 取1 5 0 时滤波器性能则有显著改善。我们对 这种现象的解释是：观察式( 2 1 ) 嗣f f 2 8 ) ，当凋人f 时，波函数对“f ) 的变化将更敏感；而减小f ，波 函数将具有更强的噪声抑制能力。 2 5 本章小结 针对非高斯噪声的滤波| 丌j 题，本章利用s c h r o e d i n g e r 厅程对神经网络的整体响应建模，构造了 量子随机滤波器，仿真表明可有效滤除信号中的噪声。而且通过调节势场权系数，可使滤波器性能 更出色。此外，q s f 还町用于控制信号跟踪、时变信号滤波等诸多领域。但同时，对q s f 的理论分 ( a ) 滤波前 ( b ) 滤波后( ( = 2 7 5 0 ) ( c ) 滤波后( f = 1 5 0 ) 图2 - 7 滤波性能比较( 噪声为高斯分布，方差为0 0 1 5 6 ) l o l 俐m 恻 ( a ) * 目 0 i 、 。，。， 口 j 一， j ，一一rr 一 “，2 “) 镕目( f = 1 5 0 ) 囤2 - 8 滤城# 【匕# ( p 自自* h ，a * 3 1 5 l 析、稳定性分析、参数选择的捌律等还需要进一步椿八研究。 第3 章几何特征滤波器 第3 章几何特征滤波器 第2 章主要针对非高斯宽带噪声，本章主要针对频普混叠的窄带干扰。对于频谱混叠信号的分 离，如通信l | l 的同信道干扰消除和语音信号增强等，常用的办法骨：利用循环甲稳件质束处理【8 2 1 ， 独立变量分离【8 3 】，把信号映射到超空问或子空问的方法f “8 5 1 ，以及线性或非线性预测、干扰消除 等方法【2 m2 1 1 。本章针对通信中频谱混叠信号的分离，提出一种新的非线性滤波算法，即几何特征滤 波器( g e o m e t r i cf e a t u r ef i l t e r , g f f ) ，并利用神终网络具体设计了一种几何特征滤波器。仿真结果 表明这种滤波器对频谱混叠信号分离的有效性，及其较好的抗噪声能力。 3 1 滤波原理 几何特征滤波器的设计思想是：首先构造个映射，将混卺信号各分最映射到另空问，使其 在此空问中具有不同的几何特征，以便于分离。然后，再构造另一映射将期望分离的信号分耸的特 征表示映射为期攀信号。设计的关键位于这两个映射的构造，以使混叠信号各分量映射后具仃不同 的几何特征并能有效分离。这也足我们称