信息论与编码 第6章 信道编码

1、第1章：概述，第2章：信源熵，第3章：信道容量，第4章：信息率失真函数，第5章：信源编码，第6章：信道编码，第7章：密码系统的安全测量，6.1信道编码的概念，6.2线性分组码，6.3循环码，6.4卷积码，6.1.1信道编码的功能和分类，6.1.2:编码信道，6.1.3:检错和纠错的原理，6.1.4:检错和纠错的方式和能力。信道编码旨在信道上正确传输信息，可分为两个层次的问题：如何正确接收携带信息的信号线编码，如何避免少量错误信号对信息内容的影响，纠错编码，广义信道编码=设计和实现在特定信道上传输信息的传输信号或信号格式，描述编码用于特定数据信号的描述约束编码， 针对特定信号特性的约束扩频编码，

2、用于扩展信号频谱以近似白噪声频谱并满足某些相关特性的纠错编码，以及用于检测和纠正信号传输期间由噪声干扰引起的错误的纠错编码，1，2，3，4，6.1.1:信道编码的功能和分类6.1.2编码信道6.1.3:检错和纠错的原理6.1.4:检错和纠错的模式和能力，消息，编码信道模型。 当码字C和接受向量R都由二进制序列列出时，该编码信道被称为二进制信道C=(c0，c1，cn-1 P(0/1)=p(1/0)=p0，那么该信道被称为无记忆二进制对称信道BSC。BSC的输入-输出关系，BSC等效为：错误模式：随机序列或，位1上的一个随机错误：长突发错误：位1和位1之间有许多错误。对于BSC信道，总有1/2的转

3、移概率，位传输中出现的错误越多。因此，通常认为有错误的模式是错误较少的模式。在二进制软判决信道中，每个无记忆编码信道的二进制符号输出由多个比特(理想情况下为实数)表示，信道干扰Z是一个具有零均值正态分布的随机变量，噪声干扰功率是均方误差，Z的概率分布是。对于BPSK调制，二进制输入符号是值为1或-1的二进制符号，6.1.1:信道编码的功能和分类6.1.2:编码信道的检错和纠错原理6.1.3:检错和纠错的方法和能力，其中检错和纠错是基于信道输出序列本身来判断是否有可能发送或纠正导致不平等的错误。冗余编码：码字长度必须大于消息长度；编码率：每个码字的序列符号(或符号)传输的平均消息比特数；偶(或奇

4、)校验法：达到检错和纠错目的的基本方法。偶数校验位是一个二进制符号，它使得下面的校验等式适用于消息，即偶数校验码码字、具有码率的偶数校验码以及所有可能的码字。校验方程为1，表示一定有奇数个错误，校验方程为0，表示可能有偶数个错误。m0 m1 m2 mk1 p=0 (mod 2)称为c=(m0，m1，m2mk-1，P)奇偶校验位P的编码公式为：P=m0 m1 mk-1，编码可以生成多个奇偶校验位，即一个奇偶校验位可以由部分或全部报文位按照一定的校验公式生成，例如，用于数组报文的垂直和水平校验的码字和它们的码率分别为，重复报文位是达到检错和纠错目的的第二种基本方法重复代码是一种有码率的代码，只有两

5、个码字相加。重复代码可以检测任何少于错误的错误模式，并纠正任何少于错误的错误模式。三重码、等重码或固定比率码用于纠正1位错误：实现检错和纠错的第三种方法。码字的权重被设计成恒定的，也就是说，例如，用于表示从0到9的数字的具有相等权重3/5的代码被显示在下表中，并且其码率r是，具有相等权重3/5和相等权重3/5的代码可以检测所有奇数编号的错误，并且对于一些码字的传输可以检测一些偶数编号的错误。6.1.1:信道编码的功能和分类6.1.2:编码信道6.1.3:检错和纠错的原理6.1.4检错和纠错的方法和能力，纠错码的应用方法：前向纠错(FEC)、自动重复请求(ARQ)、混合纠错(HEC)和信息反馈(

6、IRQ)汉明距离常用来描述检错和纠错的数量。对于两个N长的向量U和V，汉明距离是：最小汉明距离(最小码距离D):任意两个码字之间的最小汉明距离，定理是一个最小距离的纠错码。以下三个结论中只有一个成立：(1)任何小于或等于1的误差都可以被检测到；(2)可以纠正小于或等于的任何错误；(3)它可以检测小于等于L的任何错误，同时纠正小于等于T的错误，其中L和T满足最小码距和检错纠错能力，错误概率：通信是统计过程时检错纠错能力的统计特征。对于完全随机的消息源，最大化相当于最小化BSC信道，最小错误概率解码相当于最小距离解码，最小距离解码使接收向量和输出码字之间的距离最小化，即信息比特信噪比：发送一比特信

7、息所需的最小信噪比，以及比特错误概率(也称为比特差错率)和信噪比之间的关系如下图所示。采用纠错码后，实现了编码增益、6.2线性码的描述、6.2.1线性分组码、6.2.2线性分组码的解码、6.2.3码例和码的重构、6.2.2线性分组码的描述、6.2.3线性分组码的解码、6.2.3码例和码的重构，其中一个(n，k) G是k行、n列和k(nk)列的矩阵，称为生成矩阵。对于二进制编码，是一个二进制向量，它是一个二进制矩阵，向量和矩阵。矩阵和矩阵之间的基本运算是模二加法和模二乘法。表6.2.1模二加法/乘法表，示例6.2.1 3重复码是(3，1)线性分组码，示例6.2.2 (4，3)偶数校验码是(4，3

8、)线性分组码，并且当给出生成矩阵时，线性分组码具有以下属性：(1)零向量必须是1。(2)任何两个码字的和仍然是一个码字；(3)任何码字都是线矢量的线性组合；(4)线性分组码的最小距离等于最小非零码字权重。根据偶奇偶校验码的检错概念，通过计算接收向量的所有校验方程值是否都为0，可以判断传输是否可能有错误，然后必须满足矩阵。显然，每一列或每一行确定了一个可能的分组码校验方程，并且线性不相关的行数必须至少等于该码的所有可能的校验方程。这种矩阵称为线性分组码的一致校验矩阵。每行是一个码字，其中g是k行，n列；h是r行和n列。根据线性空间理论，当H的行秩为R时，由H生成的作为(N，R)线性分组码生成矩阵

9、的码是与G的相应空间正交的R维线性子空间，称为(N，k)线性分组码的对偶码或偶空间，并且以下维关系成立，并且定理是满足以下公式的任何N维向量A是(N，k)线性分组码的码字，其中系统码：生成矩阵具有以下形式。在码字集不变的情况下，任何线性分组码都可以与系统码一一对应。对于系统代码对应的一致校验矩阵，注意和仍然满足。将线性分组码的均匀校验矩阵作为生成矩阵生成的线性分组码称为原始线性分组码的对偶码。(5，3)线性分组码的例子6.2.3，其中该行的初等变换过程是(表示第I行)，(5，3)线性分组码的例子，线性分组码的最小码距离可以容易地由均匀校验矩阵确定，并且线性分组码的最小码距离是，当并且仅当在其均

10、匀校验矩阵H中的任何一列是线性独立的并且某一列是线性相关的。这个定理实际上给出了一种计算线性分组码最小码距的方法。6.2.1线性分组码的描述6.2.2线性分组码的解码6.2.3码示例和码的重构、解码的概念、检错解码：解码器的输出是当前接收向量R and R是否有错误的符号S，即。r=c-e=c e，纠错解码的解码成功状态：在解码码字的错误概率最小的情况下，即纠错解码的解码失败状态：解码器无法输出准确的码字，通常此时的输出y与检错解码的输出相同。定义：(n，k)线性分组码的伴随是一个r(r=n-k)维向量s，那么在传输中一定有错误，那么要么在传输中没有错误，要么错误模式只是一个码字。代码组可能由

11、于传输中的干扰而出错，例如，传输的代码组是C，但接收的代码组是R，它们是N位代码的行向量，因此我们将erc定义为错误代码向量和错误模式。其中，Q元线性分组码的定理可以纠正T误差，满足：当q=2时，即二进制码，取等号时称为完全码。(1)根据最可能的误差模式e，计算相应的伴随公式s，并构造伴随误差模式表；(2)计算接收向量的伴随公式s；(3)查表；(4)误差校正计算。s是1r的向量，所以这是可能的。然而，错误模式E的数目比E的数目大得多，因此必须有多个错误模式对应于相同的校正子。标准数组：(7，4)代码，例如，(6，3)代码生成矩阵G如下，并且列出了S和E的比较表。在接收到码字r1 1 1 0 1

12、 1后，求解相应的正确码字c和消息码字m.解决方案：已知生成矩阵是Ik、Q、并且我们知道有23种形式的S，并且有8个对应的E向量具有最小的代码权重。S和E的比较表如下：(6，3)码仅具有一位纠错能力，s111对应于双重错误情况，即超出了该码的纠错能力范围。查表表明，e矢量是e=0.10000，这样我们就可以得到正确的码字c，也就是说，所以消息码字是：6.2.1描述线性分组码6.2.2解码线性分组码6.2.3码例和码重构，常见的线性分组码有重复码、汉明码、里德-穆勒码等。汉明码的对偶码是线性分组码，称为最大长度码。因为所有非零码字具有相同的权重，所以也称为等距码或单形码。例6.2.4二进制(7，

13、4)汉明码的系统码形式的矩阵和校验矩阵分别是，等效的编码方程是伴随计算方程。(2)哈达玛码，它是从哈达玛矩阵导出的纠错码。阶的实哈达玛矩阵由元素为1，-1的矩阵递归定义。例如，哈达玛矩阵是一个正交矩阵，即其中任意两行(列)的点积为0，即超正交矩阵：在哈达玛矩阵的第一列(所有1列)被移除后，任意两行的点积为-1。哈达玛矩阵的元素1/-1被映射到0/1，那么哈达玛矩阵映射之后的行向量是二进制向量，并且这些二进制向量中的一些或全部构成标准0/1二进制意义上的分组码，这被称为哈达玛码。哈达玛码有三种选择形式：正交码、双正交码和超正交码。(a)正交码：将所有行向量的0/1映射向量作为码字。(b)双正交码

14、：取and-的所有行向量的0/1映射向量作为码字。超正交码：将所有行向量的0/1映射向量作为码字。可以证明正交码、双正交码和超正交码都是线性分组码。在例6.2.5 (7，3)中，超正交码的超正交矩阵和生成矩阵G分别是，(3)里德-穆勒，顺序码是线性分组码，它满足以下要求：1)每个子矩阵被定义为由所有1个向量组成的矩阵。2)它是一个矩阵，所有可能的M元组构成矩阵的列向量。3)所有两个不同行向量的叉积是所有行向量的矩阵。所有三个不同行向量的叉积(两个向量的叉积为4)构成所有行向量的矩阵。5)所有行向量的矩阵由所有不同行向量的叉积形成。例6.2.6的RM码的每个子矩阵都具有，并且该码的对偶码仍然是Reed-Muller码。(4)格雷码二进制格雷码是一个完整的线性分组码，可以纠正三个错误，满足以下要求：n=23 k=12。因为一些二进制(23，12)码可以纠正小于或等于3的任何错误，6.3循环码，6.3.1循环码的多项式描述和6.3.2循环码6.3.5循环码的编码电路，6.3.6伴随多项式和循环码的检测，6.3.7BCH码和RS码，6.3.1循环码的多项式描述，6.3.2循环码的生成矩阵，6.3.3系统循环码，6.3.4多项式