（通信与信息系统专业论文）分组turbo码rbf神经网络译码方法研究.pdf

摘要 分组t u r b o 码r b f 神经网络译码方法研究 专业：通信与信息系统 硕士生：陈卓峰 指导老师：刘星成副教授 摘要 t u r b o 码是纠错编码技术的一个突破，它使用了一种全新的译码思想：迭代 译码。虽然分组t u r b o 码的性能优异，但同时也有运算复杂度高和译码时延大 等缺点。为了降低译码的运算量和译码所带来的时延，本文把神经网络与分组 t u r b o 码的译码相结合，使用神经网络模型来简化分组t u r b o 码的译码，利用 神经网络的优点来降低译码复杂度和减少译码时延。 本文通过对t u r b o 乘积码c r p q 外信息的推导，利用径向基函数( r b f ) 神经 网络模型，对t u r b o 码分量译码器进行了修改，提出了一种新的基于r b f 神 经网络的迭代译码算法。并针对分组t u r b o 码( b t c r - b c n ( n ，的b t c 码和 t u r b o 乘积码一b c h m ，的2t p c 码分别提出了相应的r b f 神经网络迭代译码 方案。这两种方案译码复杂度相差不大，比起m a p 类算法均大大地降低了译 码运算复杂度，提高了译码处理速度，并获得了很好的误比特率( b i te r r o r r a t e ， b e r ) 性能。在码率较高的情况下，r b f 神经网络译码t u r b o 乘积码的性能较 好，在码率较低的情况下，r b f 译码分组t u r b o 码的性能则较优。同时，由于 r b f 神经网络的结构简单对称，因此，这两种r b f 译码方案均易于用硬件实 现。 a b s h a c l 关犍词：分组t u r b ot 鸡( b t c ) ，t u r b o 乘积码扛p c ) ，迭代译码，径向基函数f ) 神经网络( n n ) i i 一垒! ! ! 些! r e s e a r c ho nd e c o d i n gs c h e m e so fb l o c k t u r b oc o d e sw i t h r b fn e u r a ln c t w o r k s m a j o r ： c o m m u n i c a t i o na n di n f o r m a t i o n s y s t e m n a m e ：c h e nz h u o f e n g s u p e r v i s o r ：a s s o c i a t ep r o f e s s o rl i ux i n g c h e n g a b s t r a c t t u r b oc o d e sa r eb r e a k t h r o u g h si nt h ef i e l do fe r r o rc o r r e c t i o nc o d i n g , a sa b r a n dn e wd e c o d i n gc o n c e p t i t e r a t i v ed e c o d i n gw a s e m p l o y e d a l t h o u g ht h e p e r f o r m a n c eo f t u r b oc o d e si se x c e l l e n t ，i t so p e r a t i o nc o m p l e x i t yi sr a t h e rh i g ha n d t h ed e c o d i n gd e l a yi sc o n s i d e r a b l e i no r d e rt od e c r e a s ed e c o d i n gc o m p l e x i t ya n d i n c r e a s ed e c o d i n gs p e e d ，w ec o m b i n et h ed e c o d i n gs c h e m ew i t hn e u r a ln e t w o r k s ( n n ) ，a n de m p l o ya na p p r o p r i a t en nm o d e lt os i m p l i f yt h es c h e m eo fd e c o d i n g b l o c kt u r b oc o d e sa n dt u r b op r o d u c tc o d e s u s i n gt h ec h a r a c t e r i s t i c so fn n b ym o d i f y i n gt h em o d e lo fr b fn na n dd e d u c i n gt h ee x t e m a li n f o r m a t i o no f t h et u r b op r o d u c tc o d e sf f p c ) ，an o v e li t e r a t e dd e c o d i n g a l g o r i t h mi sp r o p o s e d t w oi t e r a t e dd e c o d i n gs c h e m e sa r es u g g e s t e df o rb c h ( n ，k ) b l o c kt u r b oc o d e s ( b t c ) a n db c h ( n ，) 2t u r b op r o d u c tc o d e s ( t p c ) r e s p e c t i v e l yw i t hr b fn n t h e s et w os c h e m e s d e c o d i n gc o m p l e x i t i e sa r ea l m o s tt h es a m e c o m p a r i n gt ot h e m a p , l o g m a pa n dm a x l o g - m a p t h e s et w os c h e m e sd e c r e a s et h eo p e r a t i o n c o m p l e x i t y , i n c r e a s et h ed e c o d i n gs p e e da n di m p r o v et h ed e c o d i n gd e l a yw h i l e b e t t e rp e r f o r m a n c eo fb e r i sa c h i e v e d ，a n di nt h eh i g hc o d er a t es i t u a t i o n ，r b f d e c o d i n gt p ch a sb e t t e rp e r f o r m a n c et h a nb t c ，w h i l ei nt h el o wc o d er a t e i n a b s t r a c t s i t u a t i o n ，r b fd e c o d i n gb t c i sb e t t e r f u r t h e r m o r e ，t h ep r o p o s e dr b fd e c o d i n g a l g o r i t h m sa r ea b l et ob ei m p l e m e n t e dw i t hh a r d w a r ee a s i l yd u e t ot h es i m p l i c i t y a n ds y m m e t r yo ft h er b fm o d e l k e yw o r d s ：b l o c kt u r b oc o d e s ( b t c ) ，t u r b op r o d u c tc o d e s ( t p c ) , h e m t i v e d e c o d i n g , r a d i a lb a s i sf u n a i o n ( r b f ) ，n e u r a ln e t w o r k s ( n n ) 1 v 第1 章绪论 第1 章绪论 1 1 通信系统与信道编码定理 随着信息时代的到来与发展，持续增长的信息传输和交换给通信技术提出了 越来越多的课题。快速、可靠、便捷的通信方式一直是现代通信所追求的目标， 信息的可靠传输是通信的最基本也是最重要的环节。 1 1 1 数字通信系统 数字通信系统如图1 1 所示。 图1 1 典型数字通信系统框图 图中的信源编码又称有效编码，它是为了使模拟信号数字化及为了提高数字 信号传输的有效性而采取的编码。信源发出的信息总有冗余成分，也就是说在传 输和恢复消息时有一些信息是不必要的。信源编码的任务就是要进行无冗余或是 少冗余编码，从而节约信息传输带宽，提高传输效率。 狭义的信道编码也就是纠错编码，它是为了降低信息码元传输的误码率，提 分组t u r b o 码r b f 神经网络译码方法研究 高数字通信的可靠性而采取的编码。由于信道存在各种噪声和干扰，不可避免地 使信号在信道中传输失真。对于数字信号来说，失真的信号会导致码元的误判决， 产生差错。对信源数据加以适当的保护措施可以避免或减少这种误判的发生。这 种保护措施被称为差错控制技术，纠错编码是应用最广泛的差错控制技术。 采用纠错编码以后，对传输中可能或己经出现的差错进行控制，可以使误码 率降低到用户允许的程度。信道编码是将无规律( 或规律性不强) 的数据变换为带 有规律的数据，信道译码利用这种外加的规律来鉴别错误并纠正之。 作为提高数字传输可靠性的技术之一，信道编码在数字通信中得到了广泛的 应用。如在计算机通信中，采用了简单检错码和循环码；在移动通信系统中， g s m 系统采用了奇偶校验码和卷积码，a m p s 及t a c s 系统采用了b c h 码，在 第3 代移动通信系统中，采用了卷积码和t u r b o 码【2 】【3 】。可以说，在许多数字 通信系统中，没有信道编码就不可能顺利地完成通信任务。 1 、1 2 信道编码定理 香农定理的主要内容如下：有噪信道的信道容量c 与信道带宽有如下得 关系【4 】： c = w l 0 9 2 ( 1 + s n )( 1 1 ) 式中，s 为信号功率；为噪声功率。 若只是信号功率，z 为信号的宽度，丘为信号的能量，则有只= e ，t 和 s = 只w 。对于任一小于信道容量c 的信息传输速率，存在一个码长为n ，码 率为r 的分组码，若用最大似然译码，则其译码的错误概率由下式决定f 1 】： p es a e n e t , ( r ) ( 卜2 ) 式中，彳为常数；如僻) 为分组码的误差指数。 对于码率为尺，约束长度为n 。的卷积码，译码差错概率则由下式确定【1 ： p es b e 吨t r ( 卜3 ) 式中，b 为常数； e 。俾) 为卷积码的误差指数。 若信息传输速率4 、于信道容量，则历 ) 和& 僻) 都是尺的正实函数。因此， 第1 章绪论 这个定理告诉我们，只要信息传输速率不超过信道容量c ，总可以找到用差错控 制编码的方法使信道输出的错误减至任意小。 1 1 3 信道编码基础知识 1 随机错误 随机错误是由随机噪声引起的错误。由于随机噪声的特性，该错误的特点是： 各码元是否发生错误是互相独立的，通常不会成片地出现错误。 2 突发错误 突发错误是由突发噪声引起的错误。由于突发噪声的特性，使“各个码元是 否错误”存在相关性。因此，这种错误是成片出现的。在一个突发错误持续长度 内，开头和最末的码元总是错的，中间的一些码元则可以出错也可以不出错，但 从统计角度看，中间的码元出错的几率较高。 3 高斯正态分布 高斯正态分布的表达式为： y 2 志唧h 等) 2 ) c 1 一q 其中，s 表示标准方差，为均值。高斯分布以均值所对应的纵轴对称，峰 值处于均值处，最小值在o o 处，形状如同“钟形”。其概率密度函数曲线如图1 2 所示。 分组t u r b o 码r b f 神经网络译码方法研究 y j x 图1 - - 2 高斯概率密度函数曲线 在考虑信道编码的影响后，归一化信噪比和噪声方差之间的关系如下【1 】： 1 2t u r b o 码的发展及研究现状 自从香农的有噪信道编码定理【4 1 提出之后，众多研究人员沿着香农所指的方 向进行了不懈地探索，并得到了许多新纠错编码方法。然而在1 9 9 3 年之前，最 佳纠错码的性能与香农理论极限始终存在2 - 3 d b 的差距，因此，在t u r b o 码提出 之前，信道截止速率一直被认为是纠错码性能的实际极限【3 9 】，香农极限仅仅是 理论上的极限，是不可能达到的。 1 9 9 3 年，在国际通信会议( i c c ) _ k 法国学者c b e r r o u 等人首次提出了t u r b o 码【2 】。在加性高斯白噪声的环境下，采用编码效率r = l 2 ，交织长度为6 5 5 3 6 的t u r b o 码，经过1 8 次迭代译码后，在晚0 = o 7 d b 时，其误码率已低于1 0 ， 与香农极限只相差0 7 d b 。t u r b o 码以其优异的性能引起各国有关研究人员的强 烈关注，成为研究的热点课题。其后的研究主要是t u r b o 码的设计和理论分析， 4 第1 章绪论 t u r b o 码的译码算法以及后来的t u r b o 码应用研究。 1 2 1t u r b o 码的设计和理论分析 在t u r b o 码的设计和理论研究方面，首先进行t u r b o 码结构的研究。组成 t u r b o 码的字码的选择，可以是典型的卷积码，也可以是分组码【6 】【7 】【8 】。r p y n d i a h 在1 9 9 4 年提出了b t c 码( b l o c kt u r b oc o d e s ) 6 7 ，使分组码应用到 t u r b o 码中去，并能在较高码率的情况下获得很好的误比特率( b i te r r o rr a t e ， b e r ) 性能。其后，将该方案从b c h 码推广到r s 码【9 】，同样获得了很好的误比 特率性能。然而，这是基于长分组码进行的，因而运算复杂度较高。 交织器的设计对t u r b o 码同样至关重要，开始的研究主要注意的是交织器对 t u r b o 码的性能和时延的影响。而随着研究的深入和t u r b o 码逐步走向应用的层 面，研究发现可以通过改进交织器的结构来使t u r b o 码译码并行进行 2 3 1 ，即使 应用双精度的s o v a 译码算法性能也不会降低很多非常接近l o g m a p 译码 算法的性能。在国内，王育民等人设计了复合型交织器【1 0 】。 在译码算法研究方面，主要是在最大后验概率( m a p ) 算法和软输出v i t e r b i 算法( s o v a ) 的基础上寻求新的算法和对原有算法进行改进，降低译码复杂度。 如王新梅等人对级联系统的软输出译码算法作了研究【1 1 】，李建东等针对无线 o f d m 系统中的频率选择性衰落信道进行了s o v a 译码算法的研究 1 2 】，提出 了盲信道估计的s o v a 和差分s o v a 两种译码算法。 1 2 2 t u r b o 码与b t c 码应用的研究 在第3 代移动通信系统的建议中，无论是u m t sf w c d m a ) 还是i s 2 0 0 0 ( c d m a 2 0 0 0 ) ，都已将t u r b o 码作为高速率、高质量数据传输中信道编码方案的 标准。 t u r b o 码与b t c 码的应用研究主要集中在以下几个方面： 1 t u r b o b t c 码与调制技术结合 以r a j a t h e v a 等人【1 3 】为代表进行的网格编码调制( t c m ) 和t u r b o 编码相 分组t u r b o 码r b f 神经网络译码方法研究 结合的所谓t - t c m 联合编码调制研究；h u i j u nc h e n 等人【1 4 】按照3 g p p 标 准，提出了一种针对t u r b o c r c 码的高频谱效率的调制方法，主要应用于由 多重c r c 数据包组成t u r b o 码的数据帧。他们在译码端提出了一种新的译 码算法，可以利用已有的正确译码的信息对未译码信息进行译码，提高译码 性能，大大降低复杂度。同时，这种方法所具备的错误定位能力能够应用于 其他的差错控制技术，如a r q 。 在国内，姚彦等人的自适应编码调制方案可以获得较大的s n r 增益，利 用t u r b o 编码调制在o f d m 子载波上的分集能力可以有效对抗信道时变带来 的吞吐性能恶化【1 5 】。宋文涛等人提出的t u r b o 编码多元调制方案是一种功 率和频谱高效的编码调制方式，它比传统的网格编码调制( t c m ) 方式有更好 的性能【1 6 】。他们在该研究基础上进步提出了一种用于慢衰落信道上的实 用自适应t u r b o 编码调制a - t u c m 方案。该方案由码率可变的t u r b o 编 码器和速率、功率可变的m q a m 调制器组成，实现复杂度较低。实验结果 表明，该a t u c m 优化方案比传统的8 状态t c m 在b e r = 1 0 6 时性能提高了 2 1 d b 。 2 t u r b o b t c 码与分集技术相结合 为了提高无线数据通信的速率和抵抗无线信道的衰落，一些学者提出了 基于发送分集的空时联合编码。它充分利用多发送天线的空间分集和采用信 道编码和交织的时间分集，极大地提高了频带利用率。在t u r b o 码与空时码、 o f d m 系统、m i m o 系统以及分集接收技术中的应用中，也有大量的研究成 果报道【1 3 】【1 7 】【1 8 】【1 9 】【2 0 】。 3 t u r b o b t c 码与信源编码的结合 多媒体传输需要处理不同的压缩和未压缩的信源信号，如：数据、文本、 图像、语音和视频等。在无线信道中，误码率非常高，联合信源信道编码和 译码方法是非常有利的，它是信息论发展的一个趋势。r a i b r o y c h a r o e n 等人 【2 1 把t u r b o 码应用于h 2 6 4 a v c 视频传输。y u ew a n g 等 2 2 】使用不同的 6 第1 章绪论 b t c 码来适应不同的调制方式，使得图像传输的q o s 有保证。 4 t u r b o b t c 码译码器的研制 澳大利亚由p i e t r o b o n 领导的通信研究组，他们研究出的p c d 0 3 vt u r b o 码译码器，能使用8 状态1 2 至1 5 速率，与3 g p p 3 g p p 2 兼容，在迭代5 次 时译码速度可达6 1m b i t s 。目前在o r e g o ns t a t eu n i v e r s i t y 从事纠错码研究 的z w a n g 对t u r b o 码交织器的设计以及译码的实现作了较深入研究，能够 大大提高t u r b o 码译码器的译码速度 2 3 1 。y u n o n gf a n g 等人【2 4 】用f p g a 实 现了一个t u r b o 码联合检测和译码的译码器。它建立在s i s o 的无线数据包 传输系统上，使用外信息反馈的方法，迭代3 次，使数据速率达到1 5 m b p s 。 y a n h u it o n g 等人 2 5 1 1 2 6 1 l t 较现存的4 种t u r b o 码译码算法的性能和复杂度， 认为l o g m a p 译码算法具有最佳的折衷算法，并最终用v h d l 作为硬件描 述语言实现了该算法。 5 t u r b o 码译码的功耗问题 最近段时间，许多学者把研究重点从提高译码性能，转到提高译码能 量效率上来了。k a n g 等人【2 7 】开始了在这个新领域的研究工作。a i m o h a n d e s 等 3 1 1 同样在能量方面做了研究，并且，他们的工作主要是针对3 g 无线终 端。k a z a 等人【2 8 】在降低t u r b o 码译码器能量效率方面作了深入的研究，并 实现了在a w g n 和衰落信道下的，基于m a p 译码算法的能量折衷算法。他 们通过组合一些技术来提高能量的使用效率，如删减网格，减少状态的数目， 对外信息进行调整，应用滑动窗及停止迭代判决等方法。最后以轻微的性能 损失换取的能量效率大大提高。m a r i n 等人【2 9 】在高速可编程平台_ e ( d s p 和 f p g a ) ，实现了t u r b o 码的编码器和译码器的性能优化，提高了纠错率和译 码速度，降低了功耗。他们的工作主要是针对l o g m a p 算法，使这种次最 优的算法接近了理论值的性能。d o b k i n 等人 3 0 1 提出了一种新的并行交织方 法和译码算法，在交织器和译码器的共同作用下，把译码的硬件运算时间缩 短了2 0 倍，取得的误码率相同。这样一来，随着芯片性能的提升，译码的 硬件运算时间和吞吐量都能够成正比改善。 分组t u r b o 码r b f 神经网络译码方法研究 1 3 人工神经网络的特点和发展 人工神经网络( a r t i f i c i a ln e u r a ln e t w o r k s ，a n n ) ，亦称为神经网络( n e u r a l n e t w o r k s ，n n ) ，是由大量神经元互连而成的网络，是对人脑的抽象、简化和模 拟，反映人脑的基本特性。人工神经网络的研究是从人脑的生理结构出发来研究 人的智能行为，模拟人脑信息处理的功能。 1 3 1 人工神经网络的特点 神经网络有如下特点【5 】： 1 神经网络的信息存储与处理( 计算) 是合二为一的，即信息的存储体现在神经 元互连的分布上； 2 神经网络具有并行运算的能力； 3 神经网络具有很强的鲁棒性和容错性，善于联想、概括、类比和推广，任何 局部的损伤不会影响整体结果； 4 具有很强的自学习能力，能为新的输入产生合理的输出，可在学习过程之中 不断完善自己，具有创新特点； 5 神经网络是一大规模自适应非线性动力系统，具有集体运算的能力。 1 3 2 神经网络与通信研究的结合 在利用神经网络技术译分组码方面，t a l l i n i 等人提出了用该技术译分组 码h a m m i n g 码和r e e d - m u l l e r 码【3 2 】。e l - k h a m y 等人使用人工神经网络来 对分组码进行译码【3 3 】，并与软判决译码和硬判决译码进行了性能比较。由于神 经网络的并行处理能力，使得神经网络译码适合于高速的数据通信。r a n n a u t h 等人提出了利用b p 神经网络来译t u r b o 码1 3 4 ，尽管复杂度可以降低，但取得 的误码率结果并不理想。 径向基函数模型( r a d i a lb a s i sf u n c t i o n ，r b f ) 5 】【3 5 3 6 1 能通过隐含层对输 入矢量进行变换，将低维的模式输入数据变换到高维空间内，使得在低维空间 第1 章绪论 内线性不可分的问题在高维空间内线性可分【5 】。因此，该模型比较适用于译码 这类非线性归类的问题。就目前的研究而言，r b f 仅仅被应用于均衡器，在这 方面研究比较活跃的有lh a n z o 等人【3 5 】【3 6 】。他们提出了一种方案，在软输入 软输出( s o f ti ns o f to u t ，s i s o ) s i s o r b f 均衡器与s i s o 信道译码器之间进行 信息交换，完成迭代处理。 但是，到目前为止，还没有研究把r b f 神经网络技术应用于分组t u r b o 码 和乘积码的译码。 1 4 本文的主要工作和创新之处 1 4 1 本文的意义 t u r b o 码【2 】【3 】和分组t u r b o 码【6 】【7 】是纠错编码技术的突破，它使用了一种 全新的译码思想迭代译码。迭代译码技术允许成员译码器采用相对简单的 译码算法分别译码，是一种次优译码方法，与最大似然译码方法相比，性能相 近，但减少了计算的复杂度。然而，由于迭代译码器要进行迭代运算，而且数 据要进行交织，因此，分组t u r b o 码译码器时延较大，而这一点严重阻碍了t u r b o 码在通信系统中的应用。 神经网络0 o n ) 是一个大规模自适应非线性动力系统，具有集体运算的能力， 因而可以以码字为处理单位进行操作，而无须逐比特进行运算，这为分组t u r b o 码的译码带来了方便。而且，由于神经网络具有大规模模拟运算、并行处理和 很强的自学习能力等特点，而这些特点都能够使神经网络技术与软判决译码相 结合，以获得好的误码率性能，大大降低译码复杂度，并减小译码时延。 t u r b o 码虽然性能优异，但有运算复杂度高和译码时延大的缺点。为了降低 译码的运算量和译码所带来的时延，本文把分组t u r b o 码的译码与神经网络结 合，利用神经网络模型来简化分组t u r b o 码的译码，利用神经网络的大规模模 拟运算和并行处理等优点来降低译码复杂度和减少译码时延。 9 分组t u r b o 码r b f 神经网络译码方法研究 1 4 2 本文创新点 t u r b o 码有着很好的性能，而神经网络径向基函数模型有着非常优秀的非线 性分类能力，可以预期将r b f 神经网络应用到t u r b o 码的译码中将取得很好的 效果。而且，到目前为止，还没有研究把r b f 神经网络技术应用于分组t u r b o 码的译码。 本文提出了一种无外信息的r b f 迭代译分组t u r b o 码( b t c ) 的方案，一种新 的针对r b f 神经网络的外信息算法。并且成功地将该新的算法应用到r b f 神 经网络迭代t u r b o 乘积9 3 ( t p c ) 的译码方案中去。这两种r b f 神经网络迭代译 码方案都能使神经网络和分组t u r b o 码的译码很好地结合起来，并能大大降低 译码的运算复杂度，减少译码时延，同时也能得到很好的译码性能。 1 4 3 本文主要工作安排 ， 本文受广东省自然科学基金( 0 4 0 0 9 7 3 9 ) 和东南大学移动通信国家重点实验室 开放基金( a 0 4 0 3 ) f f 匀资助，主要对神经网络与分组t u r b o 码迭代译码的结合进行 研究，并采用计算机仿真的方法进行系统模拟。具体的内容安排如下： 第2 章介绍了t u r b o 码的基本原理，主要包括t u r b o 码的编译码结构以及基 本的译码算法，即m a p 、l o g m a p 和m a x l o g m a p 算法。 第3 章主要介绍了人工神经网络r b f 模型和线性分组码r b f 译码模型，提 出了针对b c h ( n ，后) 分组t u r b o 码的r b f 神经网络译码模型，并且提出了训练权 值和固定权值两种迭代译码方法。最后与m a p 类算法进行译码复杂度的比较。 第4 章通过对t u r b o 乘积码外信息计算的推导，对r b f 神经网络模型的修改， 提出了一种新颖的r b f 神经网络迭代译t u r b o 乘积码的方案，并与第3 章所提 出的r b f 译码分组t u r b o 码方案就译码性能，运算复杂度等方面进行了详尽的 比较。 最后对全文工作进行了总结。 1 0 第2 章t u r b o 码的编译码原理 第2 章t u r b o 码的编译码原理 t u r b o 码通过在编码器中引入随机交织器，使码字具有近似随机的特性；通 过分量码的并行级联实现了通过短码( 分量码) 构造长码( 1 r u r b o 码) 的方法；在接 收端采用了次最优的迭代译码算法，而分量码采用的是最优的最大后验概率译 码算法，同时通过迭代过程可使译码性能接近最大似然译碉a j 3 9 。 2 1t u r b o 码的编码器结构 t u r b o 码编码器【2 】主要由分量编码器、交织器以及删余矩阵和复接器组成。 分量码可以是分组码( b l o c kc o d e ，b c ) 、递归系统卷积石l q ( r s c ) 、非递归卷积码 ( n r c ) 或非系f j 跚l q ( n r c ) 。通常两个分量码采用相同的生成矩阵。t u r b o 码编码 器结构如图2 1 所示。 图2 1t u r b o 码编码器结构方框图 在t u r b o 编码过程中，两个分量码的输入信息序列是相同的，长度为的 信息序y u u 。】在送入第一个分量编码器的同时作为系统输出“直接送至复接 器，同时忸。) 经过交织器，后的交织序列缸。) 送入第二个分量编码器。其中 n ：i ( k ) ，0 ，2 ，k n 一1 。，( ) 为交织映射函数，为交织长度，即信息序列长 度。两个分量编码器输入序列仅仅是码元的输入顺序不同。两个分量编码器输 出的校验序列分别为怯p 】- 和扛：p 】。为提高码率和系统频谱效率，可以将两个 校验序列经过删余后( 得到缸f ) 再与系统输出缸；】- 一起，经过复接器构成码字 分组t u r b o 码r b f 神经网络译码方法研究 序n c 。) 。 2 2 交织器 在t u r b o 码系统中，交织器是非常重要的组成部分，在t u r b o 码的编译码中 起着关键性的作用。c b e r r o u 等人【2 】【3 】在t u r b o 码提出伊始就给出了设计性能 较好的交织器的特点和基本原则： 1 通过增加交织器的长度，可以使译码性能得到提高； 2 交织器应该使输入序列尽可能地随机化，从而避免编码生成低重量码字的 信息序列在交织后编码仍旧生成低重量码字，导致t u r b o 码的自由距离减 少。 2 2 1 交织器的基本概念 交织实际上就是将数据序列中元素的位置进行重置，从而得到交织序列的 过程【3 7 】【3 8 。这个过程的逆过程就是在交织序列的基础上将交织序列中的元素 恢复原有顺序，从而恢复原始序列的过程，这个过程称为解交织。实现交织和 解交织的组件称为交织器和解交织器。 2 2 2 交织器的设计 从信息论的角度看，在t u r b o 码编码器中引入交织器的目的是实现随机性 编码。根据不同的设计思想，交织器大概可以分成两类 3 9 1 ：规则交织器和随 机交织器。规则交织器通常按照定的规则来实现交织，通常比较容易实现。 对于长度有限的输入信息序列而言，交织长度有限，实现完全随机是不可能的， 所以基于随机性准则设计的交织器通常称为伪随机交织器。 交织长度越短，随机性越差，这样按照一定的规则设计的交织器可以得到 比随机交织器更好的性能。而交织长度较大时，伪随机交织器或者满足一定距 离属性要求的随机交织器可以获得比较好的性能。 1 2 第2 章t u r b o 码的编译码原理 2 2 3 分组交织器 分组交织器的交织映射过程可以描述为：将数据序列按行的顺序写入m x n 矩阵，然后按列的顺序读出，即完成交织。相应的解交织过程就是将交织后的 数据序列按列的顺序写入，然后按行的顺序读出即可。交织过程如图2 2 所示。 写入 读 出 12n n + ln + 2 ( m 一1 ) x n + l ( m 一1 ) x n + 2 m x n 图2 2 分组交织映射示意图 其交织映射函数i ( i ) 口- f f f 表示为【3 9 】： ， ，( f ) = 【g 一1 ) m o d n x m + 【( i 一1 ) nj + 1 ， f = 1 ，2 ，n( 2 1 ) 其中为交织长度，_ m x n 。 图2 3 给出了一个长度为1 5 x l l 的分组交织器的输入输出比特的映射位置 图，此图可以很直观地描述交织过程及其对输入数据的离散特性。 分组t u r b o 码r b f 神经网络译码方法研究 捌 毯 羽 簿 1 8 0 1 6 0 1 4 0 1 2 0 1 0 0 02 04 06 08 01 0 01 2 01 4 01 6 01 8 0 输入位置：i 图2 3 分组交织器的输入输出位置映射关系图 2 2 4 伪随机交织器 伪随机交织器是指交织映射随机生成的交织器。每个长度为的伪随机交 织共有! 种可能的交织形式。图2 4 给出了一个长度为1 6 5 的伪随机交织器 的输入输出位置映射关系图【3 9 】。从图2 - - 4 可以看出，有些元素之间的距离非 常小，这样会导致对某些错误序列的离散程度不够，这样会对t u r b o 的性能造 成不利的影响。 此交织器的构造过程如下( 交织长度为忉【3 9 】： 1 从集合s = 1 ，2 ， 中随机选择个整数f 1 的概率为p ( i l ) = l n ，将选择的 f 1 记为从1 ) ，同时将i l 从集合s 中删除，得到的新的集合记为s 1 。 2 在第k 步，从集合s = i e s ，f i a , i ：，t 一，) 中随机选择一个整数如，其相 应的选取概率为p ( 曲= 1 ( _ “1 ) ，将选择的政记为，同时将i k 从集合& 一1 中删除，得到的新的集合记为& 。 3 当k = 时，得到几忉，相应的选取概率为p ( i ) = 1 ，s = ，交织过程结 束。 1 4 约 o 不。 图2 - - 4 伪随机交织器的输入输出位置映射关系图 2 3t u r b o 码的译码器结构 与图2 1 给出的传统t u r b o 码编码器相对应的迭代译码器【3 9 】如图2 - - 5 所 图2 - - 5t u r b o 码译码结构框图 分组t u r b o 码r b f 神经网络译码方法研究 对于第k 个待译码比特，t u r b o 译码器中每个分量译码器都包括系统信息 a 。( c 5 ；，) 、校验信息a 。( c o ；，) 和先验信息a 谊 七) 。其中，先验信息a 抽 七) 是由另一个分量译码器生成的外部信息a ，_ f 。u 七) 经解交织( 或交织) 后的对数 似然比值。译码输出为对数似然比a 膳 ；d ) ，其中i = 1 ，2 。 在迭代过程中，分量译码器1 的输出a 他 ；d ) 可表示为系统信息a 。( c 5 ；，) 、 先验信息a 。u 。) 和外部信息人k 。) 之和的形式： a n ；d ) = a 。( c 5 ；，) + a k t ) + a k t ) ，( 2 2 ) 其中， 人k ，似) ) = 人知 j ) ， ( 2 - - 3 ) 为交织映射函数。 注意，在第一次迭代时 a 2 。( “女) = 0 ，( 2 4 ) 从而， a k t ) = 0 。( 2 5 ) 由于分量译码器1 生成的外部信息a 。 。) 与先验信息人。 。) 和系统信息 a 。( c 5 ；，) 无关，故可在交织后作为分量译码器2 的先验信息输入，从而提高译 码的准确性。 同样，对于分量译码器2 ，其外部信息a ：。 。) 为输出对数似然比a ：。 ；d ) 减 去系统信息a 小) ( c 5 ；，) ( 经过交织映射) 和先验信息a ：。 。) 的结果，即： a 2 。 ) = a 2 ( k ) ；d ) 一a 小) c 5 ；，) 一a 2 。 t ) ， ( 2 - - 6 ) 其中， a 2 。帆) = a ku j 肚) ) ，( 2 7 ) 外部信息a ：。 。) 解交织后反馈为分量译码器1 的先验输入，完成一轮迭代译 码。 随着迭代次数的增加，两个分量译码器得到的外部信息值对译码性能提高 的作用越来越小，在达到一定迭代次数后，译码性能不再提高。这时，将分量 1 6 第2 章t u r b o 码的编译码原理 译码器2 的输出对数似然比解交织，再进行硬判决即得到译码输出。 2 4t u r b o 码的译码算法 2 4 1 最大后验概率译码( m a p ) 算法 图中“边”的概念，有时也叫做分支；如 0 、 ； 罢三嚣淼篓s s 咄f f ( e ) 膊嬲l j ，识e ，国。) 是边e 的起始状态和中止状态；比。0 ) 代表，! 佬、k “； 信息符号，c 。( e ) 代表码字符号，七为时间 、 索引。可见，在k 时刻，输入信息比特和七时刻k + l 时刻 起始状态唯一确定了输出码字、结束状态 图2 - - 6网格图中边的概念 “。七时刻的输入信息比特： c 。七时刻的编码输出码字； x ? 发送符号从i 时刻的信号x 到歹时刻的曷所对应的序列； 接收符号从i 时刻的信号k 到_ 时刻的巧所对应的序列。 1 7 分组t u r b o 码r b f 神经网络译码方法研究 对于b p s k 调制可以定义发送符号与编码比特的关系为： 叉l = 巨( 2 q 一1 ) ，k = 1 2 ，n ，( 2 - 8 ) 其中e 。是信号平均功率。 k 时刻译码输出信息比特概率p 。 ；d ) 为【3 9 】： p 。 ；d ) = p 。一口jx ) 2 丽i 。船m 加k e ( e ) ，e 1 k - 1 ，y k ，喘) 竺丽1 万。器( ) 圪反( 柏) ( z 一功 当k 时刻状态s 。已知时，k 时刻以后发生的事件与之前的输入无关。因此， 上述概率a 。o ) 和鼠( s ) 可分别通过前向和后向递推得蛰j 3 9 1 ： a 。o ) = p o ；( p ) = 5 ，砰。1 ) = 吼一，o ! ( e ) ) 几 ) ， k = 1 ，2 ，一1 ， ( 2 1 0 ) e ：s f 【e ) 反( s ) = p ( 璀。is 。e ( p ) ) = 反。( 5 厶( e ) ) 儿+ ，( e ) ， k = 一1 ，n 一2 ，2 ，1 ， ( 2 1 1 ) 式( 2 - - 9 ) q hy 。0 ) 称为边的度量，利用贝叶斯公式，有： n p ) = p g 0 ) ，ki s ；o ) ) = p o ) i q ) ) p ( x 。i e ) p ( y ki x k ) ， u ：勿 ( 2 1 2 ) 其中，第一项为状态转移概率，它由信息比特的先验信息a 。 。) 决定： 其中， p ( s ：( e ) ls s ( e ) ) = pu k = 1 ) = 瓦e x 磊p ( a 砭( u k 丽) ) ， p u k = 0 ) 2 瓦葡1 砑丽， 呦高尺一心b 一以 堕忉后 一 一尝 烈一 祟吐i 吼i | | | ；烈一黼 蠢 一西 l一 l o = = 第2 章t u r b o 码的编译码原理 a 。 t ) = l g 瓦p ( u k 面= 1 ) ， ( 2 1 4 ) l g 为常用对数。第二项p ( 五i e ) 根据x 。是否与边e 有关而取值为1 或0 。最后 一项根据信道模型的不同而有所区别。对于a w g n 信道上采用b p s k 调制的传 输而言，有【3 9 】： 删耻壶唧( - 一) o 对于二元输入而言，可以以对数似然比( l u 乇) 作为判决函数： 地h g 黼 = l g 口t 一。( ( e ) ) “o ) 展o o ) ) 。 w ( e ) 。l 。器( 啾s 呦以讹雠 最后，根据i ( u 。) 的值进行判决： f 1 ，a 帆) 0 2 1o ，h ( u t ) 乏o 。 ( 2 1 5 ) ( 2 1 6 ) ( 2 1 7 ) 类似于式( 2 9 ) ，可以得到m a p 算法的输出码字后验概率为： p 。 ；d ) = p ( 气= clx ) 2 丽1 。( 棚删反( 柏) 2 。1 8 其中，i 高巧对于给定的信息序列是一个常数，可以在计算中省略。 2 4 2 l o g - m a p 算法 l o g - m a p 算法是m a p 算法在对数域中的一种变换形式，实现要比m a p 算 法简单。 在l o g m a p 算法中，m 。( e ) 、a k ( s ) 矛1 1 b 。o ) 分别与m a p 算法中的( e ) 、 s ) 和反( s ) 相对应，它们之间满足对数关系： m k ( e ) = l g y e ) ，( 2 1 9 ) 1 9 分组t u r b o 码r b f 神经网络译码方法研究 4 ( 5 ) = l g a t ( s ) ， b 。o ) = l g f l 。( s ) 。 ( 2 2 0 ) ( 2 2 1 ) 在m a p 算法的推导中已知，n ( e ) 表达式中p ( x 。l e ) 根据石。是否与边e 有 关而取值为1 和o ；概率p ( s p ) i ) ) 的取值由信息比特的先验信息a 。 。) 来 决定，对式( 2 - - 1 3 ) 取对数【3 9 】： l n p ( s ( e ) i s i ( e ) ) = a 口( u k ) - l g ( 1 + e x p ( a 口 女) ) ) h u 。k ：- - 。1 。( 2 2 2 ) 对于噪声方差为n o 2 的a w g