（通信与信息系统专业论文）神经网络盲均衡算法研究.pdf

西南交通大学硕士研究生论文第1 页 摘要 现代通信系统中，由于信道的非理想特性而引起的码间干扰( i s i ) 是影 响通信质量的一个主要因素。盲均衡技术是一种不借助于训练序列，仅利 用接收序列本身的先验信息来均衡信道特性，使其输出序列尽量逼近发送 序列的新兴自适应均衡技术。在快速移动的高速数据传输环境下，由于完 全的线性信道是不存在的。因此，非线性信道的盲均衡技术就成为当前通 信领域的一个研究热点。 论文主要研究了神经网络盲均衡算法。在总结神经网络盲均衡算法国 内外现状的基础上，针对神经网络的结构，网络权值的优化及网络代价函 数三个方面提出新的方法和思路，并通过大量的仿真实验验证了提出的算 法的有效性。 论文的主要成果包括： 1 针对遗传算法的“早期收敛”，尝试提出了一种新型保持种群多样性的 遗传算法。并尝试将该算法用于优化神经网络盲均衡器的权值，仿真 实验证明了该方案有效性。 2 尝试提出了基于结构可变的神经网络盲均衡器。网络结构的优化采用 了精英紧凑遗传算法，该算法避免了传统遗传算法存贮量大、运行时 间长和操作复杂的弊端。仿真结果显示，该盲均衡器用于线性和非线性 信道都具有快的收敛速度和小剩余误差。 3 尝试提出了变步长双模式恒模算法，并与神经网络结合应用于盲均衡 研究中。该算法通过增加很少的计算量不仅提高了收敛速度而且获得 更小的剩余误差。 4 尝试提出一种神经c h e b v s h e v 正交多项式盲均衡器，与神经网络盲均 衡器相比，该盲均衡器结构简单，且收敛速度快。 关键词：盲均衡神经网络紧凑遗传算法变步长双模式恒模算法 神经c h e b y s h e v 正交多项式盲均衡器 西南交通大学硕士研究生论文第1 i 页 a b s t r a c t i nm o d e mc o m m u n i c a t i o ns y s t e m ，t h ei n t e r _ s y m b o li n t e r f b r c n c e ( i s i ) c a u s e db yn o n i d e a lc h a m c t e ro fc h 锄e li sm em a i nf a c t o rw h i c he f ! f i e c t c o m m u n i c a t i o nq u a i i t y b l i n d e q u a i i z a t i o nt e c h i l i q u e sr e l yo ns o l e l yt h e r e c e i v e dc h a n n e i o u f p u ts i 弘a l t oa d j u s t t h ee q u a l i z e rw e i 曲t sw i t h o u ta k n o w nt r a i n i n gs c q u e n c ea v a i l a b l e i i lt h ef a s tm o b i l ec i r c i l m s t a n c ew i t hh i g h d a t ar a t e ，t h ea b s o l u t el i n e a rc h 锄e li sn o e x i s t e n t s ot h er e s e a r c ho nt h e n o n l i l l e a rc h 蛐e ib l i n d e q u a l i z a t i o n i s o wah o t s p o t i nt h ec i l t c o m m u n i c a t i o a r e a n i sp a p e ri sp e 哟r i n e dm a i n l yo nt h eb l 砌e q u a l i z a t i o nu s i g e u r a l n e 抑o r k t h en e wi d e a sa r ep r o p o s e df o rs t n l c t l l r co fn e u r a ln e t w o f k ， o p t i r l l i z a t i o n o fw e i g h t sa 1 1 dc o s tf u n c t i o no fn e u r a i n e t 、o r k ，b a s e do n s u m m a r i z i n gt h ep r e s e n ts t l l d yo nt h eb l i n de q u a l i z a t i o nu s i n gn e u r a in e t w o r k d o m e s t i c a l l ya n da b m a d t h ei a 唱es i m u l a t i o n ss h o wt h a tt h ea l g o r i t m sp u t f o n a r di nt l l i sp a p e ra r ee f - e c t i v e t h em a i nr c s u l t so fm i sp a p c ra r ea sf o i l o 、v s ： 1 am o d i 丘e dg e n e t i ca i g o r i t w i t hm a i t a i n i n gd i v e r s i t yi sp r e s e t c d f o rs o l v i n gg e n e t i cp r e m a t u r ec o n v e r g e n c c a n dt l l i sa l g o r i t h m i s 叩p l i e df o r o p f i m i z i n gw e i 曲t so fb l i n de q u a l i z e ru s i n gn e u m ln e t w o r k t h ee x p e r i m e n t s s h o we f ! f e c t i v e n e s so ft h ea 1 9 0 r i t h m 2 t h eb l i n de q u a l i z e ro fv i a b l es t n l c t u r eu s i n gn e u r a ln e t 、j l r o r ki s p r o p o s e d w eu s ee i i t i s m - b a s e dc o m p a c tg e n e t i ca l g o r i m mo p t i m i z es t n l c t u r e o fn e u r a ln e t 、v o r k ，t h i sa l g o r i t h mo v e r c o m e st h e s es h o r t c o m i n g so fc o m p i c x o p e r a t i o n ，l o n gs e a r c h i n gt i m ea n dl a r g em e m o r yw h i c ha p p e a rw h e nm e s i m p l eg e n e t i ca i g o r i t l l i i ii su s e dt o 叩t i m i z i n gs t m c t u r eo fn e u m ln e t w o r k t h e nt h i ss t m c t u r e - o p t i m i z e dn e u r a ln e m o r ki sa p p l i e dt or e s e a r c ho nb l i n d e q u a l i z a t i o n ，s i m u l a t i o nr c s u l t ss h ( ) wt h i sn e t w o r kf o rb l i n de q u a l i z e ra c h i e v e s t h e f a s t e rc o n v e 唱e n c es p e e da i l dt h es m a u e rr e s i d u a le o ri nl i e a rc h a l l n e i 西南交通大学硕士研究生论文第1 i i 页 a n dn o n l i e a rc h a 衄e 1 3 t h i sp a p e rp r e s e m sv a r i a b l es t e pd u a lm o d e lc o n s t a n tm o d u l u s a l g o r i t h m ，w h i c hc o m b i n ew i t hn e u r a ln e t w o r kf o r b l i n de q u a l i z a t i o ni n n o n l i n e a rc h a i l n e l t h i sa l g o r i m mi m p m v e sc o n v c 曙e n c es p e e da n dr e d u c e s r e s j d u a le r r o rb y i n c r e a s i n gs m a l lt h eq u a l l t i t y0 fc o m p u t a t i o n 4 a o v e in e u r a lc h e b y s h e vo n h o g o n a lp 0 1 y n o i n i a lb i i l l de q u a l i z e ri s p r o p o s e d ，w 血i c hs t m c t u r ei ss i m p l e ra i l dc o n v e 昭e n c e 叩e e di s f a s t e rt h a n b l i n de q u a l i z e ru s i gn e u r a ln e t w o r k k e y w o r d s ：b 血de q u a l i z a t i o nn e u m 【n e 咐o 咄；c o m p a c tg c n e t i ca 1 9 0 r i t h m ； v a d a b l es t e pd u a lm o d e lc o n s t a n tm o d u l u sa l g o r i t h m ；n e u m l c h e b y s h e v0 n h 0 9 0 n a lp o l y o m i a lb “n de q u a l i z a t i o n 西南交通大学硕士研究生论文第1 页 第一章绪论 数字化系统以其精度高、可靠性好和灵活性强等特点在通信技术中占 有了主导地位，加速了高速数字通信的发展步伐。进行快速准确的通信成 为各个行业的基本要求。这使得均衡技术成为了现代通信中的关键部分， 它可以最大限度地提高通信系统的功能。盲均衡是一种新兴的自适应均衡 技术，它不需要参考输入的训练序列来维持正常工作，仅依据接收序列本 身的先验信息来均衡信道特性。由于盲均衡技术不必发送训练序列，不仅 可以提高信道效率，而且还可以获得更好的均衡性能。盲均衡技术优越的 性能使它受到更加广泛的关注，并在许多领域中得到应用，如数字通信、 雷达、地震和图像处理等系统。 1 1 盲均衡技术及其发展 随着数字通信技术的飞速发展和广泛应用，传统通信系统中，由于接 收滤波器、放大器、时延与多径效应、发射机与接收机之间的相对运动、 耦合效应和多址干扰等因素的影响，使得信道传输特性变得十分复杂，信 号序列在传输过程中会产生码间干扰和信道间干扰。码间干扰和信道间干 扰的积累将会导致误码的产生，从而使通信质量下降，甚至无法进行有效 的通信。为了减少码间干扰和信道间干扰，降低误码率，能够获得理想的 通信效果，必须对信道进行适当的补偿。自适应均衡技术在数据传输之前， 需要预先发送一段接收端已知的训练序列。该序列通过信道后会产生变化 或误差，接收端依据该误差信息对均衡器的参数进行实时调整，减小信号 产生的误差，最终使信道特性得以补偿，从而使接收端能够从均衡器输出 中得到几乎无错的发送信号，提高数据传输的可靠性和有效性。 随着现代社会的不断发展，高速、准确、大容量的通信系统成了科技 发展和日常生活的必然需求，这样自适应均衡技术的局限性在实际的应用 当中不断地体现出来： ( 1 ) 在无线通信中，频率资源是限制其发展的一个主要因素。利用传 统的自适应均衡器时，发送训练序列会占用一部分带宽( 有时信道时变性 西南交通大学硕士研究生论文第2 页 严重，就必须频繁发送训练序列，以保证其可靠性) ，这从一定程度上影 响了通信效率。 ( 2 ) 随着科技的发展，通信的概念已不仅仅局限于人们的日常生活， 而是扩展到了其它领域。例如，对地震波的探测、水声信号处理、军事上 对敌方信号的拦截等。在这些情况下，根本无从发送训练序列，这样传统 的自适应均衡器就无能为力。 ( 3 ) 通信中断后不能自动恢复工作。 为了弥补自适应均衡技术的这些缺陷，就有必要研究在未知信道特性 且不发送训练序列的情况下，仅仅利用接收信号对信道进行均衡与辨识， 这就是所谓的盲均衡问题。它己经成为现在通信研究领域的熟点之一。 盲均衡的研究现状 最早的盲均衡算法是由日本学者e 如幻在1 9 7 5 年提出的，他的算法 中使用了一个由经验得出的代价函数厂( x m ) ) 一石0 ) 一r s 韶0 0 强其中 r = e 扛0 ) 2 】，研k o 如。这种算法只适用于多幅度调制数据传输。经过3 0 年的发展，许多学者、研究人员相继投入到这项新技术的研究之中，针对 不同的应用领域，利用先进的数学理论和方法，提出了多种盲均衡算法。 典型的有b u s s g a n g 类盲均衡算法( 或称为代价函数法) ，高阶谱盲均衡算 法，神经网络盲均衡算法和信号检测盲均衡算法等。 ( 1 ) b u s s g a n g 类盲均衡算法 b u s s g a n g 类盲均衡算法的核心思怒是设计一个代价函数，使得理想 系统对应于代价函数的极小值点，利用一种自适应算法去寻找代价函数的 极值点。当代价函数达到极值点后，系统也就成为期望的理想系统。此类 盲均衡算法具有计算量小，易于实现的优点。但是，它们不能保证一定全 局收敛，而且收敛速度慢。尤其对非线性信道和存在零点的信道效果不佳 蜘 ( 2 ) 基于高阶谱理论的盲均衡算法 基于高阶谱理论的盲均衡算法在八十年代末出现并得到发展，高阶谱 中不仅含有系统或信号的幅度特性，而且还包含系统或信号的相位特性， 因此，仅根据输出信号就可进行系统辨识。其基本思想是从高阶累积量中 西南交通大学硕士研究生论文第4 页 在于输入端不加训练序列，而该算法则是利用估计的信道作为均衡器的模 型对接收到的序列进行训练，这种方案可用于线性信道或非线性信道，同 时克服了信道阶次不确定性带来的影响，对加性噪声也具有一定的容错 性，但该算法收敛速度较慢，只能用于p a m 信号，而且文中的代价函数的 凸性也没有进行讨沦，并不能保证收敛到全局最优。 ( 2 ) 基于多层神经网络与高阶累积的均衡器 基于高阶累积量对高斯噪声具有抑制作用，接收信号事先通过高阶累 积运算器，可将高斯噪声滤掉。周正、梁启联旧提出了基于多层神经网络 与高阶累积的盲均衡算法。将胁r 幻算法。1 与曲如和髓坫的随机算法 “”相结合提出了混合型算法，其误差函数为吖0 ) 。0 伽) 一膏0 ) ) 2 2 ， 工0 ) 为输入序列，舅o ) 为均衡器输出序列。 ( 3 ) 基于递归神经网络的盲均衡算法 递归神经网络具有规模小、收敛速度快的优点，g 艮曲，妇出1 于1 9 9 4 年首先将递归神经网络用于盲均衡，极大地改善了盲均衡器的收敛速度。 其代价函数如下 44 r o + 1 ) ；口 扣o + 1 ) 一。陴 o + 1 ) 一e g 加) ) 】2 ( 卜1 ) 其中，口( n ) 为学习步长，e + 1 ) 表示网络开始n + 1 个输出得到的估计均 值。 这种算法的缺陷在于待定参数过多，增加了算法的计算的复杂度，同 时因为该算法的代价函数为一个非凸函数，并且r n n 的训练过程是一个非 线性优化问题，这样利用梯度下降法就容易使算法陷入局部最优，而不能 获得最优解“。 1 9 9 7 年，梁启联、刘泽民等“”为了降低算法复杂度，在此基础上 提出了新的代价函数 22 r o + 1 ) = 口( 女弦o + 1 ) 1 罗口。【e 0 + 1 ) 一e ( x 2 o ) ) z 2 0 ) 】( 1 2 ) 嗣忍 将递归神经网络的训练算法用共扼梯度法进行代替，加快了收敛速度和克 服了局部最优。但是，该算法只适用于p a m 信号，大大限制了其应用场合。 2 0 0 2 年，d d 愕。o “f 忍，七等“”提出基于复杂双线性递归的神经网络 盲均衡算法，用于非线性信道中不仅提高了收敛速度还降低了稳态误差。 西南交通大学硕士研究生论文第5 页 ( 4 ) 基于细胞神经网络的盲均衡算法 细胞神经网络是相邻神经元之间全互连的神经网络结构类型，具有收 敛速度快、稳定性好、易于实现等优势。因此，动口dm n ”“”于2 0 0 0 年 提出了用一维细胞神经网络实现盲均衡的新算法。该算法是利用细胞神经 网络的能量函数与传统r d 盲均衡算法代价函数的相似性，重新为网络 构造能量函数，并导出网络的状态方程，然后根据网络能量函数随时间逐 渐减小这一原理来实现权值的迭代，从而达到盲均衡的目的。该算法是一 种利用神经网络解决盲均衡问题的新思路。 ( 5 ) 基于线性神经网络的盲均衡算法 1 9 9 9 年，场增而愕移勋柳缈彤s 。”等提出了基于线性神经网络的盲 均衡算法。该算法与大多数基于矩阵分解和矩阵h a n k l e 特性的自适应盲 均衡算法不同。它是利用传输信号相关矩阵的特征为神经网络的训练运用 一种随机逼近的学习算法。其优点在于模型结构简单，收敛速度较快，且 易于实时应用。 ( 6 ) 双线性神经网络盲均衡算法 双线性反馈神经网络具有高阶神经网络和反馈神经网络的双重优点。 网络除了前馈项与反馈项之外，还包含有一个线性反馈项( 类似于高阶神 经网络的高阶项) ，所以称之为双线性反馈神经网络。它可以用来逼近许 多的非线性方程，并且克服了高阶神经网络的计算量随阶数几何幂增加的 缺点，使其在硬件实现上更容易，所以d d 僻凸“fn 庸等提出可用双线 性反馈神经网络来完成自适应的均衡算法“。 ( 7 ) 基于簇算法神经网络的盲均衡算法 1 9 9 9 年，a 6 d 明行d “r 足眈h 和肋“谢e 等“”提出了两种神经网络的盲 均衡方案。一种是他们将基于神经网络结构的簇算法应用于数字通信系统 的盲均衡，这种算法为了使得均衡器的性能更为有效、参数更易选取，将 信道的建模与最终的算法相结合。仿真结果表明这种算法特别适用于非最 小相位信道。第二种是为了减小均衡器抽头延时的数量而提出的基于 b u s s g a n g 盲均衡的神经网络。这种均衡方案来源于判决反馈结构的均衡 器( d f e ) 。 西南交通大学硕士研究生论文第6 页 1 2 2 存在的问题 尽管基于神经网络的信道盲均衡技术已经取得了一定的发展，但是 还存在一些问题： 1 神经网络己得到了广泛的应用，但神经网络的结构参数的选取需 要依靠经验，其结构的优化是一直探讨的问题。随着多种优化算法的出现， 人们尝试了利用新的优化算法优化网络结构“，并取得了一定的成果， 但耗时较多。由于盲均衡技术实时性强，如果将结构优化的神经网络应用 于盲均衡问题，则需要一个耗时少且效果好的优化算法。 2 均衡器的收敛速度是对一个均衡算法的重要评价因素。对于盲均 衡，虽然不用发送训练序列，但是均衡器在启动时总要经历一个从未收敛 到收敛的过程：而且信道环境发生变化的时候，收敛速度越快均衡器越能 尽快再次达到收敛状态。但是现有的神经网络盲均衡算法的收敛速度仍较 慢，网络的收敛速度有待进一步提高。 3 神经网络具有很强的非线性处理能力，在处理非线性信道均衡问 题时表现出的性能尤为突出。现有的典型神经网络结构比如b p 网络、r n n 网络、r b f 网络等，都已经被用来处理非线性信道盲均衡问题，算法也比 较成熟。但是，这些神经网络结构复杂，计算量较大，硬件实现有困难。 因此，需要设计结构简单而又具备很强的非线性处理能力的新型神经网络 盲均衡器。 1 3 论文主要工作 针对神经网络盲均衡算法存在的问题，本文主要研究了神经网络信 道盲均衡算法在线性信道和非线性信道中的应用，力求能够提出一些性能 良好盲均衡算法。 论文在总结神经网络盲均衡算法国内外发展现状的基础上，主要从 神经网络的网络权值优化、结构优化和网络代价函数三个方面展开研究， 首先尝试提出收敛速度快，运算复杂度低和误码性能良好的神经网络盲均 衡算法；同时对c h e b y s h e v 正交多项式神经网络结构也进行了研究，并将 该网络应用于信道的盲均衡。然后将提出的盲均衡算法分别应用于线性信 道和非线性信道，通过计算机仿真验证它们的有效性。 西南交通大学缕奈晖型磙与= 并篥舞黔苍搭 粪磊酣t i | 嚣锭。钨嚣盟斟雏繇拈：荟浩弧灞荀彰彰引：酽蓄# 简融掣i 辨埝借；朝甄护髓静静明罪i 翅衡算法基于； 难事鲎；瑞谢幕1 5 ；蓍蜀猫量珏黼鬃丢百葙篁锈醛贾j 旨掣参飘畿 穗如矧；| 葫瓣副懿a 痂i i 弼噶珂耍淫喹唧嚎增： 涮嗡崖嗝耀博崧箱辐蕊崭韭以娶鲥豁这类算法抗噪声能力比较 强，但是计算量 大，不易实现“1 。 ( 4 ) 基于神经网络的盲均衡算法 基于神经网络的盲均衡算法是利用人工神经网络处理非线性问题的 能力，来解决通信中非线性信道的均衡问题。在实际的通信系统中，完全 的线性信道是不存在的，这使得上面针对线性信道设计的算法失效。因此， 借助人工神经网络这一工具可成功地将线性盲均衡算法扩展到了非线性 通信系统中。3 。但神经网络的结构参数确定依靠经验。1 且网络的代价函数 选许影响网络收敛的效果。 12 基于神经网络盲均衡算法 盲均衡技术不需要训练序列便能对信道的非理想性特性进行补偿，有 效的消除了通信过程中产生的码间干扰。在快速移动的高速数据环境下， 传输信道的非线性已成为影响信道误码性能的主要因素。因此，非线性信 道的盲均衡技术成为高速无线通信的研究热点。 神经网络为非线性动态系统，它具有大规模并行处理、高度的鲁棒性 等特征，对处理一些复杂的非线性问题特别有效。因此基于神经网络的盲 均衡算法成为非线性信道盲均衡技术的重要分支。 12 1 基于神经网络盲均衡算法分类 目前，利用神经网络处理信道盲均衡的方法主要有以下几种： ( 1 ) 基于前馈神经网络和高阶谱的盲均衡算法 s胁莉且跏向妒于1 9 9 4 年提出采用前馈神经网络和高阶累积量的 盲均衡方案。它是基于信道输出信号的四阶谱对信道进行辩识，而后利用 神 对信道进行辩识，而后利用 西南交通大学硕士研究生论文第1 3 页 由于神经网络具有良好的非线性映射、自适应和并行信息处理能力， 为解决未知不确定非线性的系统辨识问题提供了思路。将遗传算法用于神 经网络辨识器的学习和训i 练，可使辨识器的具有神经网络的广泛映射能力 又具有遗传算法的全局、并行寻优及增强式学习能力。 在本实验中辨识器的结构为顺向辨识器，辨识对象的模型如下： y ，+ 1 ) = ，( y ， ) ，) ，僻一1 ) ，y ，一2 ) ，“( 七) ，“罅一1 ) ) ( 2 1 0 ) 其中 ，瓴，屯，屯，如，砖) = 口而而也一1 ) + 墨】o + 写+ ) ( 2 1 1 ) 采用的测试信号如下： “( 七) s j n ( 疵2 5 )( os t 2 5 0 ) 1 0 ( 2 5 0 t 5 0 0 ) 一1 o ( 5 0 0s t 7 5 0 ) ( 2 1 2 ) 0 3s i n ( 疵2 5 ) + 0 1 s i n ( 础3 2 ) + 0 6 ( s i n 础4 0 ) ( 7 5 0s t ( 1 0 0 0 ) 2 2 3 2 利用嗍g a 优化神经网络权值的具体步骤： ( 1 ) 生成初始种群，其个体为网络各层间的连接权值，种群规模为 n ( 2 0 枷) ( 2 ) 计算种群的熵最和点二。 ( 3 ) 选用的适应度函数为网络理想输出与实际输出的均方差的倒数，即 ，丽一 ( 2 ) 脚。击善。【y ( ) 一夕( ) 】2 ( 2 - 1 4 ) 其中m 删为网络输入输出样本对的个数，y 婶) 和， ) 分别为网络理想输 出和实际输出 ( 4 ) 用( 2 4 ) 式对适应度变换并进行复制操作。 ( 5 ) 计算交换概率并进行交换操作。 ( 6 ) 计算突变概率和个体基因位的多样度并进行突变操作。 ( 7 ) 经过遗传操作后，新一代种群产生，将返回步骤( 2 ) 直到网络收敛。 西南交通大学硕士研究生论文第1 4 页 辨识结果如图2 1 所示，在辨识过程中d m g a 的参数为种群规模为 3 0 ，口：o 0 0 l ，卢= o o l ，运行步数为2 5 0 步：图2 2 中经典g a 的参数为 种群规模为3 0 ，交叉概率为o 7 5 ，突变概率为0 0 0 1 ，运行步数为2 5 0 步。 图2 1 辨识结果 图2 - 2 进化中种群熵的变化 本文提出的一种新型保持群体多样性的遗传算法，不但保证了种群的 多样性和优良性，而且保证了算法主要参数的自适应性。通过d m g a 对 神经网络辨识器的学习和训练，从图2 1 知不仅辨识的效果良好，而且收 敛的速度也比较快。从图2 2 知，d m g a 在进化过程中比经典g a 能更 好的保持种群的多样性。仿真实验证明了其方法是实用且有效的。 2 3 基于遗传算法和神经网络的盲均衡算法 从盲均衡算法的提出至今，人们一直在寻求快速，全局搜索能力强的 优化算法。随着遗传算法的发展，z & 砌它胁g 盖三和形k 止n 艇船于1 9 9 5 提出遗传算法和恒模算法结合的方案求解盲均衡问题【4 1 】，但仿真结果表明 该方案没有取得预想的结果。 西南交通大学硕士研究生论文第1 5 页 从图2 1 和图2 2 可知改进的遗传算法优化神经网络的权值取得了良好 的效果。因此本文尝试将改进的遗传算法( d m g a ) 和神经网络相结合，来求 解盲均衡问题，其中神经网络作为盲均衡器，d m g a 用于优化网络的权值。 2 3 1 盲均衡系统框图 基于前馈神经网络的盲均衡系统框图如图2 3 所示。z 伽) 是发送序列， 以0 ) 是噪声序列，_ ) ，o ) 是接受序列或是信道的输出，宝( n ) 是盲均衡器的输 出。 图2 _ 3 盲均衡系统框图 三层前馈神经网络可任意逼近非线性函数【4 2 1 。因此系统框图中的鄹， 采用三层神经网络，其网络拓扑结构如图2 4 所示。三层巾w 中，各层 神经元之间的连接用权值表示。输入层与隐层间的权值为w 。d ) ， ( f - 1 2 ，m ；，- 1 2 ，七) ，其中f 表示前层的神经元，表示后层的神经元。 隐层与输出层的连接权值为w ，伽) 。假定隐层单元的输入为“i 伽) ，输出 为，伽) ，输出单元的输出为v 白) ，网络总输出为孑仍) 。 y ( n ) y ( n 一1 ) 图2 _ 4 前馈网络拓扑结构图 前馈神经网络的状态方程可表示为 ，( )膏( 一) - - - - - - - + 西南交通大学硕士研究生论文第1 6 页 “，( 咖善帅。一) j ，伽) 一，0 ) v 。) 2 再m ，。) z 0 ) 一，( v o ) ) 式中的，( ) 表示隐层、输出层的输入和输出之间的传递函数。 ( 2 1 5 ) ( 2 一1 6 ) ( 2 1 7 ) ( 2 1 8 ) 2 3 2 实数系统下基于遗传算法和神经网络盲均衡算法 现阶段的通信方式复杂多样，仅数字信号的调制方式就有多，二进制 幅度键控( m a s 列b a s k ) ，频移健控( f s 目，相移健控( p s 目，幅度调制心d ， 正交幅度调制a n 等，不同的调制方式也决定了使用盲均衡方法的不 同，这就要求设计算法和仿真实验中要首先确定所使用的系统。本节在实 数系统下采用幅度调制调制方式进行仿真实验。另外运用神经网络解决盲 均衡问题时，还需要确定网络的学习训练方法、网络传递函数和代价函数 的选择。 1 网络传递函数 网络传递函数选择文献 1 4 】的，0 ) 。x + n 0 一e 。) 他+ e ”) ，因为 该函数具有平滑、渐进和单调的特性，有利于对输入序列进行判别。在实 际的算法应用当中，针对不同的信号和不同的通信信道口的选择应不同， 对于幅度间隔较大的信号，一般取较大的口值，幅度间隔较小的信号取较 小的口值，这样有利于对输出信号进行更好的分类。 2 代价函数 在众多的盲均衡算法中，恒模算法 1 5 】得到了广泛的应用。本文采用 恒模算法中的代价函数： j ：弦o ) i2 一只2 】2 ( 2 1 9 ) 式中，j 0 ) 为神经网络盲均衡器的输出，r 2 与传统恒模算法中的定义相 西南交通大学硕士研究生论文第1 7 页 f - j 。 r 2 = e 【卜研) f 4 】啦0 ) 1 2 】 ( 2 2 0 ) 3 网络学习训练方法 采用本文提出的改进遗传算法( d m g a ) 优化神经网络盲均衡器的权 值。具体操作如下： ( 1 ) 生成初始种群，其个体为网络各层问的连接权值，种群规模为 n ( 3 啦6 0 ) ( 2 ) 计算种群的熵丘和e o 。 ( 3 ) 用式2 1 9 计算各个个体的适应度，并进行复制操作。 ( 4 ) 计算交换概率并进行交换操作。 ( 5 ) 计算突变概率和个体基因位的多样度并进行突变操作。 ( 6 ) 经过遗传操作后，新一代种群产生，将返回步骤( 2 ) 直到网络收敛。 2 4 计算机仿真 为了对所设计的新方案性能进行验证，采用2 e a m 信号进行计算机仿 真。盲均衡器抽头数为9 阶，在输入信号端考虑信噪比的影响，同时叠加3 0 d b 噪声。先对线性信道进行仿真，采用典型的电话信道m ： h 0 ) l o 0 0 5 + o - 0 0 伍一一0 0 2 电- 2 + o _ 8 5 七寸一0 2 1 _ 4 + o 0 4 晓4 一o 0 1 & - 6 ( 2 2 1 ) 图2 _ 5 基于遗传算法的神经网络均衡器的m s e 曲线 在优化过程中d m g a 的参数为种群规模3 0 ，。= o 0 0 1 ，口= o o i ，运行步 数为2 5 0 步。 仿真结果分析：从图2 5 可看出网络并没有收敛而且均方误差也特别大。 通过对仿真中参数的调试，结果仍不理想。仿真过程中发现神经网络的隐 西南交通大学硕士研究生论文第1 8 页 层的单元个数选取对盲均衡的结果有着重要的影响。如何优化网络的结构 是本文的下一个研究内容。 2 5 本章小结 针对遗传算法的一些缺陷，本文提出了一种保持种群多样性的遗传 算法。通过图2 2 可看出改进的遗传算法一直保持较好的种群多样性， 同时该算法在神经网络非线性系统辨识中得到了成功的应用。并尝试将 改进的遗传算法和神经网络相结合的方案求解盲均衡问题，通过计算机 仿真实验可知该方案并没有得到良好的效果，因此用遗传算法和神经网 络结合求解盲均衡问题有待更深一步探讨。 西南交通大学硕士研究生论文第1 9 页 第三章基于紧凑遗传算法的神经网络盲均衡器 紧凑遗传算法“”( c 锄节口c fg 锄e 如爿培d r 鼬坞简称c 6 爿) 由g ，g 嚣r e k ，啦n r ，m h 如g 三d 6 d ，和d 口v 谢eg b 矗冶e 僵三人提出的，以解的概率分布 的形式来表示传统遗传算法中的种群。神经网络中隐层单元个数的选取通 常依靠经验，因此网络的拓扑结构不确定。随着新优化算法的出现，人们 尝试用不同的算法来优化网络结构”“，并取得一定成果。但许多优化算法 由于运行时问长而无法满足盲均衡问题实时性强的要求。因此本文采用精 英紧凑遗传算法【“1 优化神经网络结构，该算法具有操作简单、运行时间短 且存贮量小的优点；并将结构优化的神经网络应用于盲均衡研究中，仿真 结果表明，该神经网络盲均衡器用于线性和非线性信道都具有快的收敛速 度和小的剩余误差。 3 1 紧凑遗传算法 随着遗传算法的发展，近年来基于概率模型的遗传算法研究引起了众 多国外学者的广泛兴趣。最具代表性的工作有屁i 咖提出的基于种群增 强学习算法雎咒“”( p d p h k 如n 6 瓣觑a 删删细f 工阳朋劬对、基于贝叶斯优 化算法口侧，“1 ( 勘烨缸再印砌妇幻n 爿咖一踊m ) 等，特别是由白。增e s 曰 陷疗膏等人提出的紧凑遗传算法h 3 1 ( c 口唧口甜g 锄d f c 彳冶d r 泐m ，简称 c 6 省) ，以解的概率分布的形式来表示传统遗传算法中的种群，从而改变 了传统遗传算法的基于种群个体的选择、交换、变异的基本模式。 3 1 1 紧凑遗传算法的基本思想 国d p s 拧胁一斤等人提出的紧凑遗传算法的基本思想：构造一条与 染色体编码长度一样( f ) 的概率向量( p ) ，以之作为种群构成的母体， 其各位( 基因) 就是该位为1 或o7 的概率。该概率向量各位的值被 初始化为o 5 并在搜索的过程中逐渐向o 或1 移动。它被用来产生 一系列的新个体并能体现c 6 h 在任意时刻的运行状态。利用这个概率向 西南交通大学硕士研究生论文第2 0 页 量，c g a 随机生成一定的新个体并根据这些个体的适应度来更新此概率向 量，更新的目的是使它向拥有最高适应度的个体转化。具体做法就是每代 由母体( 即概率向量) 随机生成s 个个体，对它们进行评价并按适应度进 行排序，逐个对比适应度的大小，设每次比较的优胜染色体为膨册盯， 失败的染色体为三o s e n 更新时使母体的每位都向w i n n e r 的方向移动l n 。 是算法需要选择的重要参数，在算法里它影响着整个运行过程的运算量 和存贮量，甜船s 厅船r m 定义它为算法的种群大小。按照这种方法迭 代计算，当母体各元素均收敛到设定条件后，计算结束，所得的母体就是 所求的满意解。紧凑遗传算法的程序伪码如图3 1 ： 图3 1 紧凑遗传算法的程序伪码框图 西南交通大学硕士研究生论文第2 1 页 紧凑遗传算法的优越性在于：( 1 ) 传统的遗传算法需要保存大量的种 群个体信息，而这种算法只需保存各个时刻搜索解的概率分布情况，因而 可以把运行时种群的存贮量由s g a 所需的f - 减少到f 1 0 9 ( + 1 ) ，从而大 大减少程序运行的空间，提高搜索的速度。( 2 ) 传统的遗传算法往往以所 得最优解与已知最优解的误差作为迭代结束的条件，但实际问题中最优解 是不可知的，这样的迭代结束条件就无从谈起。紧凑遗传算法提出了明确 的收敛条件，也即母体各元素均收敛到o 或l 的某指定大小的领域，从而解 决了这个问题。 3 2 精英紧凑遗传算法 紧凑遗传算法同经典遗传算法一样，也存在“遗传漂移”，“早期收 敛”等问题。“遗传漂移”“”指种群不受变异的影响而均匀地收敛于单一 个体的趋势，其起因来自于选择压力、采样误差和基因重组等因素的影响 遗传算法中的保留精英个体是减小遗传“漂移”的有效方法，它确保了在 下一代可以遗传上一代最优的染色体的基因【4 叫”。这些基因有可能比其他 个体基因对最终结果影响更大。在保留精英个体的同时应维持适当的选择 压力，否则将使种群的多样性丧失，造成早期收敛。另一方面精英个体本 身的优良程度也是导致种群早期收敛的重要因素。如果一个精英个体具有 优良的特性，这样的个体将直接影响种群的选择压力。因此精英个体的强 度需要控制。c 先肌g 肋础砌提出精英的遗传算法畔】，采用保留精英个体 方法的同时，并通过优胜者继承的代数来控制精英个体的强度。这个参数 对种群的多样性起着重要的作用。当达到一定的代数时，概率向量将重新 生成新的个体。这样既保留了精英个体又维持了种群的多样性。其主要思 想是预设定一个固定的阈值口和由概率向量生成一个精英，如果每代进化的 最优个体都是精英个体且已达到一次，则由初始概率向量重新生成新的精 英。精英紧凑遗传算法的程序伪码框图如图3 2 所示。 3 3 基于紧凑遗传算法的神经网络盲均衡器 随着新优化算法的出现，现已有多种新算法应用于神经网络结构的优 化中，如免疫算法f 2 1 j ，粒子群算法【笠l 和遗传算法【2 0 】。但上述的算法操作复 西南交通大学硕士研究生论文第2 4 页 力为s 和种群数m 网络参数初始化：各权值取小于1 大于零的随即数。 ( 2 ) 根据式2 1 8 计算网络的输出。将式3 2 作为评价适应度函数，对s 个个体进行评价令优胜个体为w 加n e r ，另一个为z 盯。根据式3 - 8 更新 概率向量： 层+ 1 ( 咖一e ，( f ) 此吼圹( f ) ) v ( h 由l 盯( f ) - 1 ) p ? “ p 一1 ( 咖 口( f ) 一蛔口( f ) ) v ( n 妇n 口g ) o ) ( 3 。8 ) i彳( w n m p r ( f ) - 伽 a ) ) ( 3 ) 将w m o r 赋给精英或将由概率向量重新生成新的精英。 ( 4 ) 隐层的权值和输出层的权值根据式3 1 5 和式3 7 迭代更新。 ( 5 ) 判断概率向量的各分量是否为0 或为1 ，否则由概率向量重 新随机生成s 个个体，并返回到第二步：是则结束对网络结构的优化并 将精英个体作为网络结构继续训练网络参数直至网络收敛。 3 3 2 计算机仿真 1 线性信道仿真 为了对所设计的新方案性能进行验证，采用2 p a m 和4 p a m 信号进 行计算机仿真。在输入信号端考虑信噪比的影响，同时叠加3 0 d b 噪声。 先对线性信道进行仿真，采用式2 2 1 的典型的电话信道【4 9 j ： 毒蠹i ! 瘸蕊 一辫拳糍瞄嗣榭霉瞄销誊酬扎，鞠墨圈圈盈圈隧圈豳霸 亩1 矿 x 西南交通大学硕士研究生论文第2 6 页 2 非线性信道仿真 采用2 p a m 和删信号进行计算机仿真。在输入端考虑信噪比的影响， 同时叠加3 0 d b 噪声。非线性信道仿真采用数字卫星链路，在数字卫星链路中 卫星放大器经常达到饱和点，其信道模型可以用图3 9 表示其中 月l ( z ) ；0 3 4 8 2 + o 8 7 0 4 z 一1 + o 3 4 8 2 z 一2 圈3 9 非线性信道模型图 1 。蘑趋幽- 2 。矍鳖兰爿 图3 1 02 队m 信号均衡前 后输入和输出 图3 1 14 p a m 信号均衡前 后输入和输出 图3 1 0 和图3 1 1 分别是均衡信号为2 p a m 和4 p a m 时通过本文盲 均衡器的输入和输出。仿真中参数为：当信号为2 p a m 时，盲均衡器的 抽头数目为7 个，隐层单元数目由精英紧凑遗传算法优化为9 个，步长为 0 0 0 8 。当信号为4 p a m 时，盲均衡器的抽头数日为1 1 个，隐层单元数目 由精英紧凑遗传算法优化为1 3 个，步长为o 0 0 2 。从图中的仿真结果表明 了本文的盲均衡器有很好均衡效果。 图3 1 2 和图3 1 4 为文献【5 1 中神经网络盲均衡器输出的均方误差。 仿真中的参数为：当均衡信号为2 p a m 时盲均衡器的抽头数目为7 个， 西南交通大学硕士研究生论文第2 8 页 3 3 3 复数系统下盲均衡算法 前面以p a m 信号为基础讨论了本文提出的盲均衡算法。但在现代 通信系统中，许多信源的调制方式都是相位调制，例如p s k 调制、o a m 调制等。这就要求设计出的盲均衡算法能够适用于复数系统。 当将算法扩展到复值范围时，需要解决两方面的问题。一是对于复数 信号，因为前馈神经网络中存在非线性传输函数，从复变函数的理论来讲， 就必须设计一个合适的复变函数作为网络的传输函数；二是复数信号通过 复数信道时，将不可避免地产生相位偏转，所以，算法不但要纠正信号的 幅度失真，还要恢复信号的相位信息。 首先解决第一个问题，因为复数是由实部和虚部组成，实部与虚部都 是一个实数，所以考虑将网络的结构进行改变。在网络中传输的信号在进 入非线性传递函数前分为两路，其中一路用于传输信号的实部，另一路传 输虚部，通过非线性函数后再合成一路复数信号。其网络结构如图3 1 6 。 图3 1 6 前馈神经网络复值处理单元模型 代价函数选用式3 2 恒模算法的代价函数式 由于神经网络中非线性传递函数的存在，所以网络的权值形式应 该分为实部和虚部两部分；同时将网络的信号也写为复数形式，即 w 0 ) 一w 。加) + j w ，0 )( 3 9 ) _ ) ，( n f ) 。y r ( n f ) + 一，( ，l f )( 3 1 0 ) 伽) 。( ，1 ) + ，0 ) ( 3 _ 1 1 ) 西南交通大学硕士研究生论文第2 9 页 “o ) = k y 一f ) ；，一( n ) y o f ) 一，o ) _ ) ，o 1 ) + j ，一o ) y ，o f ) + 伽) ) ，一一f ) ( 3 。1 2 ) ，0 ) = ，0 肼0 ) ) + 矿 川o ) ) ( 3 - 1 3 ) w 2 ，0 ) - w 2 ，r o ) + 抄