（通信与信息系统专业论文）基于rbf神经网络的turbo乘积码译码.pdf

基于r b f 神经网络的t u r b o 乘积码译砖 专业：通信与信息系统 硕士生：张启 指导教师：刘星成副教授 摘要 本文将t u r b o 乘积码与r b f 神经网络相结合，在c h a s e 译码算法的基础上推 导出r b f 神经网络的t u r b o 乘积码译码算法。该算法在保证误码率性能的基础上， 降低了译码时延。 随着现代数字通信技术的发展，如何提高通信系统的可靠性成为人们关注的 主题。t u r b o 码由于抗衰落、抗干扰能力强，并且译码性能好等特点，在数字通 信中得到广泛的应用。然而不可避免的也带来运算复杂度高、译码时延大等问题 t u r b o 乘积码是子码由分组码构成的t u r b o 码，由于结构简单，因此能够降低运 算的复杂度与此同时，神经网络具有大规模运算、并行处理数据的能力，可以 有效的降低译码时延。这为t u r b o 乘积码译码与神经网络结合提供了良好的契 机。本文正是从这一点出发，详细讨论并推导出r b f 神经网络的t u r b o 乘积码译 码方案，并在软件平台上进行多个码字的仿真实验结果显示：本文所提出的 r b f 神经网络译码算法能获得优异的性能。在相同的信道条件下，低码率的t u r b o 乘积码性能要优于高码率的t u r b o 乘积码的性能。迭代译码是t u r b o 码译码的关 键，t u r b o 乘积码在几次迭代之后就能达到较为理想的误比特率性能。 关键词：t u r b o 乘积码，径向基函数，神经网络，软输入软输出，c h a s e 算法， 迭代译码 d e c o d i n go ft u r b op r o d u c tc o d e sb a s e do nr b f n e u r a l n e t w o r k s m a j o r ：c o m m u n i c a t i o na n di n f o r m a t i o ns y s t e m n a m e ：z h a n gq i s u p e r v i s o r ：a s s o c i a t ep r o f e s s o rl i ux i n g c h e n g a b s t r a c t t h i st h e s i sc o m b i n e st u r b op r o d u c tc o d e sd e c o d i n gw i t ht h ea d v a n t a g e so f r a d i a lb a s i sf u n c t i o n ( r b f ) n e u r a ln e t w o r k s w eh a v ep r o p o s e dan o v e la l g o r i t h m t or e a l i z et h ed e c o d i n ga l g o r i t h mb a s e do nr b fn e u r a ln e t w o r k s ，a n dt h i sa l g o r i t h m n o to n l yg e t sg o o db e r p e r f o r m a n c eb u ta l s od e c r e a s e st h et i m e - d e l a y a st e c h o n l o g yp r o g r e s s e si nm o r d e nd i t i g a lc o m m u n i c a t i o na r e a s ，h o wt o i n c r e a s et h er e l i a b i l i t yo fc o m m u n i c a t i o ns y s t e m sb e c o m e sac o n c e m e dt o p i c t u r b o c o d e s ，m a i n l yb e c a u s eo fi t sg o o da n t i f a d i n ga b i l i t ya n de x c e l l e n tb e rp e r f o r m a n c e ， i sw i d e s p r e a du s e di nd i g i t a lc o m m u n i c a t i o np r o c e s s ，w h i l ei nt h em e a n w h i l ei t s o p e r a t i o nc o m p l e x i t yi s r a t h e rh i g ha n dt h ed e c o d i n gd e l a yi sc o n s i d e r a b l e t u r b o p r o d u c tc o d e sw h i c hi sc o n s t r u c t e db yb l o c kc o d e sh a sas i m p l es t r u c t u r et or e d u c e t h ed e c o d i n gc o m p l e x i t y , w h i l et h en e u r a ln e t w o r k s l a r g es c a r l ec a l c u l a t i o na n d p a r a l l e lp r o c e s s i n ga b i l i t yc a nh e l pt od e c r e a s et h ed e c o d i n gt i m e d e l a y a st h i sp o i n t o fv i e w , t h ed e c o d i n ga l g o r i t h mb a s e do nr b fn e u r a ln e t w o r k si sp r o p o s e di nt h i s t h e s i s a tl a s tw ee m u l a t ew i t hs e v a r a lc o d e so nt h es o f t w a r ep l a t f o r m e x p e r i m e n t s s h o wt h a tt h i sa l g o r i t h mc a ng e tg o o dp e r f o r m a n c e i nt h es a m ec h a n n e lc o n d i t i o n ，t h e l o w e rt h ec o d er a t ei s ，t h eb e t t e rt h eb e rp e r f o r m a n c ec a r lb ea c h i e v e d i t e r a t i v e d e c o d i n gi s t h ek e ym e t h o df o rt u r b op r o d u c tc o d e s ，a n da f t e rs e v e r a lt i m e so f i t e r a t i v e ，t u r b op r o d u c tc o d e sc a ng e ts a t i s f y i n gb e rp e r f o r m a n c e n k e yw o r d s ：t u r b op r o d u c tc o d e s ，r a d i a lb a s i sf u n c t i o n ，n e u r a ln e t w o r k s ， s o f t - i n s o f t - o u t ，c h a s ea l g o r i t h m ，i t e r a t i v ed e c o d i n g ! i i 日录 目录 摘要i a b s t r a c t i i 第l 章前言l 1 1 研究背景及现状l 1 1 1 纠错码在通信系统中的重要性1 1 1 2t u r b o 乘积码的研究与应用2 1 1 3 神经网络的起源与发展3 1 2 神经网络在纠错码中的应用4 1 3 论文选题意义与结构安排5 1 3 1 论文选题意义5 1 3 2 论文涉及内容。6 1 3 3 论文内容安排。6 第2 章数字通信系统与信道编码。9 2 1 数字通信系统的构成9 2 2 最大似然概率译码l0 2 3 信道编码定理1 2 2 4 差错控制系统的分类1 2 2 5 本章小结。l3 第3 章t u r b o 乘积码的编译码原理15 3 1t u r b o 乘积码的编码方案一1 5 3 1 1t u r b o 码的编码1 5 3 1 2t u r b o 乘积码的编码。l5 3 2t u r b o 乘积码的迭代译码原理1 6 3 2 1c h a s e 算法。17 3 2 2 线性分组码的软判决译码1 9 3 2 3t p c 的迭代译码算法2 0 3 3 本章小结2 l i v 目录 第4 章t u r b o 乘积码的r b f 神经网络译码2 3 4 1 人工神经网络的类别和特点2 3 4 1 1 人工神经网络的分类2 3 4 1 2 人工神经网络的特点2 3 4 2 径向基函数神经网络模型2 4 4 3r b f 神经网络的学习2 5 4 4 乘积码的r b f 神经网络译码原理。2 6 4 5 本章小结2 9 第5 章t u r b o 乘积码的r b f 迭代译码仿真31 5 1 仿真参数3 1 5 2 不同t u r b o 乘积码的性能仿真3 l 5 2 1 不同迭代次数下t u r b o 乘积码的译码性能3 2 5 2 2 不同码率的性能比较3 6 5 2 3 r b f 神经网络译码算法与其他算法的比较3 7 5 3 本章小结4 0 第6 章结束语4 1 参考文献4 3 致 射4 7 原创性声明4 9 学位论文使用授权声明5 1 v 第l 章前苦 1 1 研究背景及现状 第l 章前言 1 1 1 纠错码在通信系统中的重要性 随着现代通信技术和计算机技术的迅速发展，每天都在不断涌现新的通信技 术和业务，同时用户对通信质量和数据传输速率的要求也在不断提高。由于通信 信道固有的噪声和衰落特性，信号在经过信道传输到达通信接收端的过程中不可 避免的会收到干扰而出现信号失真。差错控制码就是用来检测和纠正由信道失真 引起的信息传输错误，通过在传输信号中嵌入冗余码元，提高其纠错能力。编码 后的码字一方面提高了信道的纠错能力和信息传输的可靠性，另一方面，又降低 了信息传输的效率。因此，可靠性是以降低效率即有效性为代价换来的。编译码 问题就是在一定的抗干扰能力的要求下，合理设计和选择多余度最小的码字以及 解码算法问题，也就是如何使可靠性和有效性二者能够得以合理兼顾的问题。 1 9 4 8 年，s h a n n o n 提出了著名的有噪信道编码定理【l 】，该定理指出在信息传 输速率低于信道容量时，采用适当的编码技术可以将有扰信道引入的差错减少 到任意低的限度，从而实现可靠通信。虽然该定理仅仅是一个编码的存在性定 理，但却丌创了信息编码理论这个富有活力的研究领域，从理论上给出了纠错码 的理论极限，同时也指明了纠错码研究的方向和目标。 随着信道编码理论的不断发展，信道编码技术在通信工程领域得到了广泛的 应用。特别是数字通信的兴起，为信道编码提供了广阔的应用空间。可以毫不夸 张的说，编码技术应用在各种数字通信系统中。f 是由于应用了信道编码技术， 对数据传输进行差错控制，大大降低了误码率，提高了数据传输的正确率，实现 了稳定通信。 t u r b o 码【2 】是纠错码理论中性能很好的码字，具有很强的抗衰落、抗干扰能 力，因此这使其在情况复杂的移动通信信道上有很大的开发应用潜力，并且已经 被3 g p p 正式采纳为i m t - 2 0 0 0 的高速数据通信的信道编码标准之一。其中被 中山人学顾卜学位论文 国际电联采纳的、具有代表性的3 个3 g 标准w c d m a 、c d m a 2 0 0 0 和 t d s c d m a 均在信道编码中使用了t u r b o 码，用以传输高速率、高质量的通信 业务。对于t u r b o 码的研究的深入，并将t u r b o 码应用到通信过程中，必然会大 大改善通信质量。 1 1 2t u r b o 乘积码的研究与应用 1 9 9 3 年c b e r r o u 等人首次提出t u r b o 码【2 】，它很好的应用了s h a n n o n 信道 编码定理重的随机性编、译码条件，从而获得了几乎接近s h a n n o n 极限的译码性 能。在采用长度为6 5 5 3 6 的随机交织器并译码迭代1 8 次的情况下，在信噪比 e b n o 大于等于0 7 d b 并采用b p s k 调制，码率在l 2 的t u r b o 码在a w g n 信道 上的误比特率小于等于1 0 一，达到了与s h a n n o n 极限仅相差0 7 d b 的优异性能。 该理论一经提出便成为信道编码领域中的研究热点，并被普遍认为t u r b o 码在深空通信、卫星通信和移动通信等数字通信系统中均有迷人的应用前景。 t u r b o 码实现的方法大体有两种类型：t u r b o 乘积码( t p c ，t u r b op r o d u c tc o d e ) 和t u r b o 卷积码( t c c t u r b oc o n v o l u t o n a lc o d e ) 。 乘积码最先是由e l i a s p 在1 9 5 4 年提出的【3 】，由于当时硬件水平的限制， 几十年来限制了它的应用。随着1 9 9 3 年由c b e l l r o u 等人在i c c 9 3 国际会议上 提出t u r b o 码的概念，并随着迭代译码算法的应用，乘积码才逐渐引起人们的 广泛关注。1 9 9 4 年，p y n d i a h 等人在c h 舔e 译码算法【4 】的基础上稍加修改提出 了对乘积码的软输入软输出次优迭代译码算法【5 】，由于这种算法类似于t u r b o 码的译码算法，不同的是构成码由原来的系统卷积码替换为分组码，故他在1 9 9 8 年所写的文献中将乘积码称为分组t u r b o 码( b t c ，b l o c kt u r b oc o d e s ) 6 。另外， 美国c o m t e c ha h a 公司在1 9 9 8 年研发出针对分组t u r b o 码的专用编译码芯片 并将这种码与t u r b o 码相对应，从而提出了t u r b o 乘积码【7 】。为方便行文，本 文后面的篇幅都将统一采用t u r b o 乘积码这一名称。 与t u r b o 卷积码相比较而言，t u r b o 乘积码在实际应用中具有更加优越的性 能。一方面，t u r b o 乘积码比t u r b o 卷积码具有更高的编码效率，另外，t u r b o 乘积码编码采用矩阵行列交织的编码格式，结构简单，同时更有利于软输入软 输出( s i s o ) 译码算法的实现。目前的研究在于如何进一步降低译码复杂度以及减 2 第1 帝前吉 小译码时延，并讨论在未来通信中的应用模式。 文献 8 1 3 , 文献【9 】讨论了采用并行迭代译码的方式，大大降低了乘积码的译 码时延，但是同时会带束存储容量的增大。c a r g o n 等人将迭代译码算法应用于 由r s 码构成的乘积码 1 0 】，文献【1 1 】和文献 1 2 1 讨论了由扩展汉明码构成的乘积 码的迭代译码。在t u r b o 乘积码的应用方面，m o h a m m a dt o r a b i 等人首次提出 t p c o f d m ( o r t h o g o n a lf r e q u e n c yd i v i s i o nm u l t i p l e x i n g ) 系统 1 3 】，并将其应用于 无线局域网( w l a n ，w i r e l e s sl o c a la r e an e t w o r k ) ，能够达到很好的性能。文献 1 4 】 进一步讨论t u r b o 乘积码在4 g 通信系统中的应用，主要是t u r b o 乘积码与空时 分组码( s t b c ，s p a c e t i m eb l o c kc o d e ) 的结合，以及o f d m 结合基于t u r b o 乘 积码的s t b c 编码构成的m i m o o f d m 系统。 1 1 3 神经网络的起源与发展 人工神经网络【1 5 ( a r t i f i c i a ln e u r a ln e t w o r k s ，a n n ) ，亦称为神经网络( n e u r a l n e t w o r k s ，n n ) ，是一个由简单处理单元构成的规模宏大的并行分布式处理器， 是对人脑的抽象、简化和模拟，反映人脑的基本特性。人工神经网络的研究是从 人脑的生理结构出发来研究人的智能行为，模拟人脑信息处理的功能。 现代的神经网络丌始于1 9 4 3 年m c c u l l o c h 和p i t t s 的开创性工作，他们提 出了形式神经元的数学描述和结构，即m p 模型，并证明这样构成的网络原则上 可以计算任何可计算函数，这标志着神经网络和人工只能学科的诞生。 神经网络的第二个重大发展是在1 9 4 9 年h e b b 的著作行为组织学出版， 在书中第一次清楚说明了突触修正的生理学学习规则，是学习系统和自适应系统 的计算模型发展的灵感源泉。 此后，大量学者就神经网络的自适应、联想记忆特性作出突出贡献。然而由 于技术以及硬件实现上的多方面原因，神经网络的发展进入了萧条时期。 直到1 9 8 2 年，j j h o p f i e l d 用能量函数的思想形成了一种了解具有对称突触 连接的递归网络所执行的计算的新方法，并指出信息存储在网络中n n 之间的连 接上，形成了h o p f i e l d 网络。此外，d a v i dr u m e i h a r t 和j a m e sm c c l e l l a n d 提出 用于训练多层感知器的反向传播算法，从而引起了神经网络研究的复兴。 1 9 8 5 年，p o w e l l 提出了多变量插值的径向基函数( r b f ) 方法。1 9 8 8 年， 中山人学硕i ：学位论文 b r o o m h e a d 和l o w e 首先将r b f 应用于神经网络涉及，构成了r b f 神经网络， 将神经网络的设计与数值分析的重要领域和线性适应滤波挂钩，产生了大量的研 究成果。1 9 9 0 年，p o g g i o 和g i r o s i 应用t i k h o n o v 的正则化理论进一步丰富了r b f 神经网络理论。 1 9 8 9 年，m e a d 的模拟v l s i 和神经网络系统一书出版，这本书将生物 神经和集成电路结合在一起，给出了硅视网膜和硅耳蜗。 2 0 世纪9 0 年代初期，v a p n i k 和他的合作者们发明了一类计算功能强大的有 导师学习网络，用于解决模式识别、回归及密度估测问题，这种网络被称为支持 向量机( s v m ，s u p p o r tv e c t o rm a c h i n e s ) ，以有限样本理论的结论为基础。支持向 量机的一个新颖的特征就是在他们的设计中以自然的方式包含了 v p a n i k c h e r v o n e n k s ( v c ) 维数。v c 维数提供了神经网络从一个样本集中学习能 力的一个度量。 神经网络从最开始走到今天，已经确立了他们作为植根于神经科学、心理学、 数学、物理学和工程的交叉学科的地位，并将在理论、设计和应用上继续深入。 1 2 神经网络在纠错码中的应用 在今天的高速数字通信和信息存储系统中，特别需要能提供高可靠性、强容 错性及高速处理大量传输数据的新技术，因此在纠错码研究中引入新的方法和 技术是十分必要的。神经网络模拟人脑的神经信息处理机制，具有并行处理与分 布式存储能力、独特的学习与联想记忆能力、自适应自组织能力及容错能力等。 因此，利用神经网络技术的上述特点解决纠错码技术所面临的问题具有重要理 论意义与实用价值，目前已引起国内外众多学者的广泛注意。作为一种新的方法 和技术，尽管这一研究还处在初级阶段，但是已经取得了一些研究成果，并显示 出较大的潜力和优势 1 6 】。 最早探讨将神经网络技术应用于纠错码的是著名神经网络专家j c p l a t t 和 j j h o p f i e l d ，他们用h o p f i e i d 神经网络译重复码和置换矩阵码，并在译码时间 和纠错性能方面初步取得了好的效果。 j b r u c k 在文献 1 7 中指出神经网络可以用能量函数来表示，能量函数是 多项式函数，而纠错码可以( 或通过变换) 用多项式描述，因此找到了神经网 4 第l 章前苦 络与纠错码的一种结合方式；文献 1 8 中提出用梯度型的递归高阶神经网络进 行分组码的软判决译码，详细分析了怎样较好地选择能量函数来构造网络，并对 ( 7 ，4 ) 汉明码的模拟取得了一定的效果：文献 1 9 借助分组码格图构造了最 小值选择神经网络实现分组码译码，模拟显示其性能同于最大似然译码，而译码 时延减少，易于硬件实现；文献 2 0 通过对h o p f i e l d 网络能量函数的推导， 得出基于平均场退火( m f a ) 的v i t e r b i 算法；r a n n a u t h 等人【2 l 】提出了利 用b p 神经网络来译t u r b o 码，文献【2 2 】初步提出了用r b f 神经网络对线性分 组码的译码思想。 从已有结果来看，用神经网络实现软判决译码，更多的是探讨和验证神经网 络译码方法的可行性，而译码性能不够理想。神经网络的能量函数与纠错码结合 是主流方法，但是针对的只是分组码和卷积码。本文在前人的基础上，利用r b f 神经网络模型进行t u r b o 乘积码的迭代译码，并实现了译码性能的突破。 1 3 论文选题意义与结构安排 1 3 1 论文选题意义 目前数字通信系统j 下朝着高速、宽带、高可靠性方向发展，纠错码技术亦正 面临这一挑战。从理论上来讲神经网络技术与纠错码技术的结合有所突破，已有 的成果也显示了这种趋势，神经网络可以很好的应用到纠错码当中。而t u r b o 乘 积码作为纠错码当中性能很好的码字，有效的与神经网络相结合，必将在未来通 信系统中得到应用。 t u r b o 码的提出是纠错编码技术的突破，它使用了一种全新的译码思想一迭 代译码，可以对译码软输出信息反馈利用，因而可以获得优异的性能。作为由分 组码构成的t u r b o 乘积码，不仅在低信噪比的高噪声环境下性能优越，而且具有 很强的抗衰落、抗干扰能力。并且，随着信噪比的增加性能也同步改善，能有效 避免“地板效应”。目前，t u r b o 乘积码已被作为i e e e 8 0 2 1 6 无线城域网标准的 前向纠错码之- - 3 2 】，并广泛应用于卫星通信、微波、光纤等领域。 神经网络具有集体运算的能力，因而可以以码字为处理单位进行操作，而无 须逐比特进行运算，这为t u r b o 乘积码的译码带来了方便。而且，由于神经网络 中山人学硕1 ：学位论文 具有大规模模拟运算、并行处理和很强的自学习能力等特点，这些特点都能够使 神经网络技术与软判决译码相结合，以获得好的误码率性能，并减小译码时延。 1 3 2 论文涉及内容。 本文以t u r b o 乘积码译码器的迭代软译码算法为基础，通过推导和理论分 析，提出了一种新的基于r b f 神经网络的译码方案，并考察了不同迭代次数、 不同码率对于译码性能的影响。 由于在t u r b o 乘积码的迭代译码过程中，迭代并计算外信息是其中最关键的 一环，直接影响到最终的译码结果和性能好坏。r b f 神经网络选用高斯基函数 作为隐含层函数，用乘积码的许用码字集作为隐含层的中心，能够与乘积码的译 码相结合，作为译码模块求出外信息的值，每次循环迭代并得以更新，因而能够 将r b f 神经网络有效的应用到乘积码译码过程当中。本文通过对t u r b o 乘积码 译码过程中外信息计算的推导，得出基于r b f 神经网络的乘积码译码的方案， 在此基础上进行多个码字的性能仿真，并对结果进行分析。 1 3 3 论文内容安排 本课题来自广东省自然科学基会( 0 4 0 0 9 7 3 9 ) 项目，主要讨论如何将r b f 神经 网络与t u r b o 乘积码迭代译码结合的问题，采用理论推导然后软件仿真实现的方 法论证。 第l 章即本章，介绍纠错码在现代通信系统中的应用，引出t u r b o 乘积码的发 展和当前研究现状。之后介绍了神经网络的发展简史，并就目l j i 神经网 络在纠错码中的应用作了简要的阐述。最后，简述论文选题意义和内容 安排。 第2 章首先介绍数字通信系统的基本结构，接着讨论了信道编码定理和最大似 然概率译码方法，最后对差错控制系统的几种类型作了介绍。 第3 章重点介绍乘积码的编译码原理以及现有的译码技术，同时对c h a s e 算法 作了详细的介绍，为第4 章的推导奠定了理论基础。 第4 章介绍了r b f 神经网络的网络模型和网络参数，分析和推导了t u r b o 乘 积码的r b f 神经网络译码算法。 6 第1 章前苦 第5 章针对多个由b c h 码和扩展b c h 码【2 3 】组成的t u r b o 乘积码进行性能仿 真，讨论迭代次数对于t u r b o 乘积码性能的影m 并从码率角度进行分 析。 第6 章对全文工作进行总结，提出有待于进一步研究的问题。 第2 章数。，通信系统l j 信道编码 第2 章数字通信系统与信道编码 2 1 数字通信系统的构成 数字通信系统的基本组成结构如图2 - 1 所示。 图2 1数字通信系统基本组成结构 图中，信源可以是模拟的或离散的。通常，用取样及模数转换器将模拟信号 表示为数字符号的序列。在传输l j ，一般希望尽可能多地消除信源信息中的冗余。 将任意信源有效地转换为数字消息的方法，叫做信源编码技术。 信道编码的对象是信源编码输出的数字序列，又称为信息序列。数字序列通 常由二元符号l 、o 组成，并且符号l 和0 是独立等概的。信道编码又叫差错控 制编码。它的基本原理是：在发送端给被传输的信息序列附加一些监督码元，这 些多余的监督码元与信息元之问以某种特定的规则相互关联。接收端按既定的规 则检验信息码元与监督码元之l 日j 的关系，一旦传输过程中发生了错误，信息码元 与监督位之间的关系就会受到破坏，从而可以发现错误，甚至可以纠正错误。采 用信道编码技术后，对传输中可能或已经出现的差错进行控制，可以使误码率降 低到用户允许的程度。信道编码将不带规律性( 或规律性不强) 的数字信号变换 为带规律性( 或加强了规律性) 的数字信号，信道译码器则利用这些规律性来鉴 9 中山人学硕+ ：学位论文 是否发生错误进而纠j 下错误。信道编码的主要方法是增大码率或频带，也就是 大所需的信道容量。 调制器的作用是使编码器的输出与传输信道相匹配。进入调制器的是二元或 元的编码符号，而调制器输出的是适合在物理传输媒介上传输的波形。 传输媒质又称波形信道，它包括从调制器输出至解调器输入的所有硬设备和 输媒质或存储媒质。由于硬设备中的热噪声和非线性失真、传输媒质中的各种 然的和人为的干扰以及传输过程中的多径效应等不利因素，到达接受端的信号 可避免地会产生失真，从而使解调器的输出出现错误。把引起接收信号产生失 的各种干扰、噪声等归结成一个噪声源。信道参数中，发送功率是系统考虑的 个重要因素，它决定了接收信息的精确程度；带宽是另一个与性能有关的重要 数，它限制了信道所使用的调制波形的速率。解调器根据接收信号，判决发送 码元是o 还是1 。由于在接收信号中存在有噪声，这种判决结果可能有错误。 差错控制系统中，有时还要求解调器输出有关判决结果的可靠信息，送给译码 ，以提高正确译码的概率。 信道译码是信道编码的逆过程。由于信道干扰的影响，从解调器输出的数字 列可能有错误，因此译码器要完成比编码器更为复杂的运算，以纠正这些错误。 道译码器是差错控制系统的主要组成部分，其性能的好坏、速度的快慢，往往 决定了整个差错控制系统的性能和成本。对特定的码类如何寻找译码错误概率 小、译码速度快、设备简单的译码算法，是纠错编码理论中一个非常重要的课题。 信源译码是信源编码的反变换。信源译码器把信道译码器输出的经过纠错的 信息序列，恢复成信源原始发送的消息送给用户。 2 2 最大似然概率译码 由图2 1 可知，信道输出的r 是一个二进制序列，而译码器的输出是一个信 息序列m 的估值序列m 。 译码器的基本任务就是根据一套译码规则，由接收序列尺给出与发送的信息 序列m 最接近的估值序列户。由于m 与码字c 之自j 存在一一对应关系，所以这 等价于译码器根据r 产生一个c 的估值序列c 。显然，当且仅当c - - c 时，m = m ，这时译码器正确译码。 1 0 第2 帝数。，通信系统j 信道编码 如果译码器输出的c c ，则译码器产生了错误译码。之所以产生错误译码 是由于：信道干扰很严重，超过了码本身的纠错能力；其次，由于译码设备的故 障。当给定接收序列尺时，译码器的条件译码错误概率定义为： p ( e1 0 = p ( c ci 尺) ( 2 - 1 ) 所以译码器的错误译码概率： 最= p ( er ) 尸( 尺) ( 2 2 ) 月 其中p ( r ) 是接收r 的概率，与译码方法无关，所以译码错误概率最小的最 佳译码规则是使 m i n p i ：2m | e f i n p ( ei 尺) - m i n p ( c * elr ) ( 2 - 3 ) 由于唧n 尸( c cr ) j m a xp ( c = cr ) ，因此如果译码器对输入的r ，能 在2 个码字中选择一个使p ( c = c ir ) 最大的码字g 作为c 的估值序列c ，则这 种译码规则一定使译码器输出错误概率最小，称这种译码规则为最大后验概率译 码【2 3 】。 由贝叶斯公式尸( c fir ) = 旦紫可知，若发端发送每个码字的概率 尸( g ) 均相同，且由于尸( 尺) 与译码方法无关，得到： m a xp ( c ，ir ) jm a xp ( rc ，) ( 2 4 ) i = 1 3 7 一i t 2 ，一2 这个算法在实质上与最大后验概率译码算法是一致的，称为最大似然译然译 p ，p l ，、 码( m l d ) 。函数ju 、i 。7 称为似然函数，相应的译码器成为最大似然译码器。 为降低计算的复杂性，可以采用等价的对数形式的似然函数： 川擀炉p g b 刖旧= 川m 工a x 。p g b 尸( i ；协 ( 2 5 ) 对于a w g n 信道， 刖i c ) = ( 击) n e x p二兀o ( - 一_ ) 2 f f i l 2 0 2 ( 2 - 6 ) 信道编码定理告诉我们，只要信息传输速率不超过信道容量c ，总可以找到用差 错控制编码的方法使信道输出的错误减至任意小。 2 4 差错控制系统的分类 应用纠错码进行差错控制，一般采用四种方式： ( 1 )自动重发请求方式a r q ( a u t o m a t i cr e p e a tr e q u e s t ) ：采用a r q 方式时，发 送方发送经过检错编码的码字，接收方译码时判断接收码字是否有错，并将 结果反馈告知发送方。发送方根据反馈信号把接收方认为有错的信息再次发 送，直至接收方确认正确为止。该方式的缺点是需要双向信道，优点是译码 电路简单，容易买现。 1 2 第2 帝数，通f 膏系统j 信道编 i 马 ( 2 ) 前向纠错方式f e c ( f o r w a r de r r o rc o n t r 0 1 ) ：采用f e c 方式时，发送方发送 的是可纠f 错误的码字，接收方译码时，根据编码规则可自动纠正接收码字 传输中的差错。该方式不需要反馈信道，能用于单向通信，译码延迟固定， 适合于实时传输系统。但是其译码电路复杂，成本高；所选择的纠错码必须 与所用信道的差错统计特性相一致；需要的附加冗余码较多，一次传输效率 较低。随着编码理论和大规模集成电路的不断发展，该方式j 下得到同益广泛 的应用。 ( 3 ) 混合纠错方式h e c ( h y b r i de r r o rc o n t r 0 1 ) ：h e c 是上述两种方式的综合， 发送方发送的是既可检错又可纠错的码字，接收方译码时，若发现错误的码 元个数在码的纠错范围内，则自动纠正；若发现出错的个数超出了码的纠错 能力，则只进行检错，并反馈告知发送方重发。 ( 4 ) 信息反馈方式i r q ( i n f o r m a t i o nr e p e a tr e q u e s t ) ：采用i r q 方式时，接收方 把收到的数据原封不动的通过反馈信道送回发送方，发送方比较发送的数据 和反馈回来的数据，从而发现错误，并把错误的消息再次传送，最后达到使 对方f 确接收消息的目的。 2 5 本章小结 本章首先介绍了组成数字通信系统的基本模块，接着介绍最大似然概率译码 的原理，以及信道编码定理，它是纠错编码技术的理论基础。最后讨论了在数字 通信系统中常用的差错控制方式。 第3 章t u r b o 乘积码的编译码原理 第3 章t u r b o 乘积码的编译码原理 3 1t u r b o 乘积码的编码方案 3 1 1t u r b o 码的编码 c b e r r o u 等人最初提出t u r b o 码采用的使并行级联卷积码的结构【2 】，如下 图所示： 图3 - lt u r b o 码的编码器结构 t u r b o 码编码器【2 4 】主要由分量编码器、交织器以及删余矩阵和复接器组成。 分量码一般选择为递归系统卷积码。 在t u r b o 编码过程中，两个分量码的输入信息序列是相同的，长度为的信 息序列 ) 在送入第一个分量编码器的同时作为系统输出 ) 直接送至复接器， 同时 ) 经过交织器后的交织序列 材。 送入第二个分量编码器。两个分量编码器 输入序列仅仅是码元的输入顺序不同。两个分量编码器输出的校验序列分别为 p 和 x ：，) 。为提高码率和系统频谱效率，可以将两个校验序列经过删余后( 得 到 矸 ) 再与系统输出 ) 一起复接构成码字序列 c k 。 3 1 2t u r b o 乘积码的编码 t u r b o 乘积码可以由二维或多维的分组码构成，本文采用二维t u r b o 乘积码。 用两个线性系统分组码g ( n l ，k l ，d j ) ，c 2 ( n 2 ，k 2 ，d 2 ) 构成乘积码p = c ioc 2 ，其中 胁，岛，西( i = 1 ，2 ) 分别表示码字长度、信息比特数和最小汉明距离。 中山人学硕1 j 学位论文 t u r b o 乘积码的编码结构如图3 2 所示，过程如下： ( 1 ) 将k x k 2 个信息比特排成k i 行和如列的信息阵列； ( 2 ) 用线性分组码c 2 对k l 行进行编码； ( 3 ) 用线性分组码c l 对2 列进行编码。 一2 + il r。 1 咒2 ，一 行 i 信息 校 比特 验 1 校验 列校验 的校验 图3 2t u r b o 乘积码的编码结构 以上步骤( 2 ) 和( 3 ) 不能同时进行，因此这样的编码过程属串行级联方式。得 n - 维t u r b o 乘积码的参数为：刀= 刀lxr 1 2 ，k = k lx 恕，d = d lx , 2 ，码率为r = r lxr 2 ，其中r i 是码c i 的码率，r i - 岛刀，( 卢l ，2 ) 。 通常为了降低编码器和译码器的复杂度，采用两个相同的线性分组码构成 t u r b o 乘积码，即耿c i = c 2 。 和图3 1 中传统t u r b o 码的编码方式相比较，t u r b o 乘积码的编码不需要交 织器，因而编码实现更为简单。 3 2t u r b o 乘积码的迭代译码原理 e l i a s 提出的乘积码译码方法是采用硬判决的方式，级联译码【3 】。由于硬判 决译码的缺点是存在被称为永久错误图样的错误事件 2 5 1 ，虽然乘积码的硬判决 译码器复杂度低，容易实现，但是软判决译码器由于使用了软信息，更能提高通 信系统的性能。一般而言，采用软判决译码可以获得超过3 d b 的编码增益。早 期人们提出的软判决译码方法有纠错纠删译码算法 2 6 1 、软输出维特比译码算法 1 6 第3 市t u r b o 乘积码的编译码原理 ( s o v a ) 2 7 】以及带外信息的迭代s i s o 算法 2 8 】，但是由这些算法构成的译码器 结构相当复杂，对高速通信很难实现。而且这些方法常常用网格操作，而没有使 用构成码的代数译码器。直到p y n d i a h 对c h a s e 算法作出修改提出了的迭代软输 入软输出次优译码算法，t u r b o 乘积码的译码才得到实现并大量应用。下面将详 细介绍基于c h a s e 算法的软输入软输出迭代译码算法。 3 2 1c h a s e 算法 1 9 7 2 年c h a s e 提出了一种使码字错误最小的软判决译码算法，它的性能接 近最大似然译码。在该算法中，利用硬判决，根据不同的试探序列产生几个候选 码字，然后把它们与接收序列进行比较，挑选一个与接收序列有最近软距离的候 选码字作为译码器的输出码字。 设发送码字c ，= ( c t 。，q 2 ，q 。) ， 接收序列 r = ( ，r 2 ，) = c ，+ e = ( q l + q ，c ，2 + p 2 ，+ 巳) ( 3 一1 ) 它的硬判决序列心= ( ，r 2 ，) 。信道错误图样e = r ，一c ，= ( q ，e 2 c 巳) ， 相应的硬判决错误图样e = ( q ，p ：，巳) ，此错误图样的汉明重量为 一 ( e ) = q 。 ，= i 二进制硬判决译码器的任务是寻找一个码字，或等价于寻找一个错误图样 厶，使 ( 厶) 【( 巩- 1 ) 2 j ( 3 - 2 ) 若此不等式满足，则译码器能够找到一个唯一的码字输出；否则就找不到。 这时译码器指出接收序列中有不可纠j 下的错误图样，这种译码就是通常所说的不 完备译码。但是，对于完备译码来说，由于译码器必须进行判决，输出一个码字， 因此完备译码器是寻找一个码组使 m i n ( 足一c ) ，= l ，2 ，2 ( 3 - 3 ) 所以完备译码器总能找到一个码字c j ，即使w ( r q ) 【- ( 吨- 1 ) 2 也在所 不顾。 1 7 r， 中山人学硕十学位论文 应用上述的类似方法，可以定义一个利用信道测量信息或码元可信度信息的 完备软译码器，它译出的码字满足：