彭代渊王玲-信息论与编码理论-第六章习题解答

第第 6 章章 信道编码信道编码概述概述 1计算码长 n=5 的二元重复码的平均译码错误概率。假设无记忆二元对称信道错误 传递概率为 p。此码能检测出多少位错误？又能纠正多少位错误？如令 p =0.01,平均 译码错误概率是多大？ 解： 码长 n=5 的二元重复码是（00000，11111） ，码间最短距离为 5， dmin=5=e+1 e=4 可以检测出小于等于 4 位以下的错误。 dmin=5=22+1=2t+1 t=2 可以纠正 2 位及 2 位以下的错误。 5544332 555 5 (1)(1) 0.98 10 E E PC pC ppC pp P p=0. 01 2 设有一个离散无记忆信道，其信道矩阵为 1/2 1/3 1/6 1/6 1/2 1/3 . 1/3 1/6 1/2 P 若信源概率分布为 p(x1)=1/2，p(x2)=p(x3)=1/4，求最佳译码时的平均错误译码概率。 解： 极大似然译码规则译码时，由转移概率矩阵可知：第一列中 1 2 ，第二列中 1 2 ，第三 列中 1 2 为转移概率的最大值，所以平均错误概率为： 1111111111 ()()() 2364364362 E P 最小错误概率译码，输入 x 与输出 y 的联合概率分布为： 1 11 , 4 6 12 11 1 , 24 8 12 111 , 12 24 8 11111111 ()()() 2412824121224 E P 由于 111 242 可以看出最佳译码为最小错误概率译码，平均错误概率为 11 24 3 将 M 个消息编成长为 n 的二元数字序列，此特定的 M 个二元序列从 2n个可 选择的序列中独立地等概率地选出。设采用最大似然译码规则译码，求在图 6-8 中(a)、(b)、(c)三种信道下的平均错误译码概率。 图 6-8 三个信道 解： （1）由图可知，其转移概率矩阵为： 1-p p p 1-p 该信道任意一个序列译码错误概率为： 0n0n1n-11nn0nn nnn n 111 p=1-(1-p)(1-p) C () +1-(1-p)(1-p) C () +.+1-(1-p)(1-p)C () 222 =1-(1-p) 平均译码错误概率为： 2 22 nn 1-(1-p)1-(1-p) E nn MM PM （2）由图可知，其转移概率矩阵为： 1 0 p 1-p 任意一个序列译码错误的概率为： n0nn-11n0nn nnn n 111 p=1-(1-p) C () +1-(1-p) C () +.+1-(1-p)C () 222 2-p =1-() 2 平均译码错误概率为： 2 22 nn 2-p2-p 1-()1-() 22 E nn MM PM (a) p p 1 p 0 0 1 p 1 1 1 0 0 1 p 1 1 p (b) E 1 p 0 0 1 p 1 1 p p (c) （3）由图可知，其转移概率矩阵为： 1-p p 0 0 p 1-p 一个序列错误译码的概率为： n0nn1nnnn nnn n 111 p=1-(1-p) C () +1-(1-p) C () +.+1-(1-p) C () 222 =1-(1-p) 平均译码错误概率为： 2 22 nn 1-(1-p)1-(1-p) E nn MM PM 4某一个信道输入 X 的符号集为0, 1/2, 1，输出 Y 的符号集为0, 1，信道矩阵为 1 0 1/2 1/2 . 0 1 P 现有 4 个消息的信源通过该信道传输，设每个消息等概出现。若对信源进行编码，选 用的码为 C=(0, 0, 1/2, 1/2)，(0, 1, 1/2, 1/2)，(1, 0, 1/2, 1/2)，(1,1, 1/2, 1/2) 。译码规 则为 123412 1 1 (,),. 2 2 f y yyyy y 解： (1) 求信息传输率； log41 2 R n bit/符号 (2) 求平均错误译码概率。 根据信道的传输特性，可知可以输出 24=16 种序列，可以分成 4 个子集，分别为： 134 234 334 434 11 =(0 0 )(0 0 y y ) 22 11 =(0 1 )(0 1 y y ) 22 11 =(1 0 )(1 0 y y ) 22 11 =(1 1 )(1 1 y y ) 22 34 y ,y (0 1) 传输信道如下所示： 信息论与编码理论 4 11 (0 0 ) 22 11 (0 1 ) 22 11 (1 0 ) 22 11 (1 1 ) 22 0000 0001 0010 0011 0100 0101 0110 0111 1000 1001 1010 1011 1100 1101 1110 1111 1111 0 0 0 0 0 0 0 0 0 0 0 0 4444 1111 0 0 0 0 0 4444 0 0 0 0 0 0 0 1111 0 0 0 0 0 0 0 0 0 0 0 0 4444 1111 0 0 0 0 0 0 0 0 0 0 0 0 4