彭代渊王玲-信息论与编码理论-第六章习题解答

1、信息论与编码理论倍道编码概述1. 计算码长n=5的二元毛复码的平均译码错误概率。假设无记忆二元对称信道错误 传递概率为p此码能检测出多少位错误？又能纠正多少位错误？如令p =0 01,平均 译码错误概率是多大？解： 码长n=5的二元重复码是(00000, 11111),码间般短距离为5, dira5=e+l e=4可以检测出小于等于4位以下的错误。 =5=2X2+1=21+1 t=2可以纠正2位及2位以卞的错误。匕=C； p5 + C； p4 (1 一 p) + C： p3 (1-P)2 p= 0.01=0.98xl052. 设有一个离散无记忆信道.其信道矩阵为1/2 1/3 1/6P= 1/

2、6 1/2 1/31/3 1/6 1/2若信源概率分布为p(xAl/2, p(x2p(X3l/4,求最佳译码时的平均错误译码概率。 解： 极人似然译码规则译码时，由转移概率矩阵可知：第-列中.第二列社，第三 列中丄为转移概率的最大值，所以平均错误概率为：2门11r1iixizi1、1匕=X (+) + x(-+ _)+ - x(+ ) = E23643 64362小错误概率译码，输入X与输出y的联合概率分布为:丄丄46121 1 124,8，121 1 112248n /11、1、1、11R? = ( + ) + ( + ) + ( + )=24 1282412 122411 1由于-242可

3、以看出最佳译码为最小错误概率译码，平均错误概率为二243. 将M个消息编成长为n的二元数字序列，此特定的M个二元序列从于个可 选择的序列中独立地等概率地选出。设采用最大似然译码规则译码，求在图 68中（a）、（b）、（c）三种信道下的平均错谋译码概率。0E13信息论与编码理论#信息论与编码理论图68三个信逍（1）由图可知.其转移概率矩阵为:l-p P P 1 - P_#信息论与编码理论#信息论与编码理论该信道任意一个斥列译码错误概率为：尸l-（lp）（lp）C：G）+l-（lpHlp 严C：（扣 +l-（l-pr（lT）0C：（l）M二1一（1计 平均译码错误概率为：& = M x-xl-(l

4、-p)n= -xl-(l-p)n（2）由图可知，其转移概率矩阵为：)0 P 1 - p_任意一个序列译码错误的概率为:p=l-(l-p)nc：(i)a+l-(l-prct(ir+l-(l-p)C：(i)n乙乙乙=1-(讣2平均译码错误概率为：2n L 2 2 L 2(3)由图可知.其转移概率矩阵为:1-p p 00 p l-p一个序列错误译码的概率为：p= 1 - (1 -p)n c：( | )n+ 1 - (1 -P)n C( 1 )n+l-(l-p)nC：(l)n乙乙乙I=l-(l-p)n平均译码错误概率为：Pe =MX 貨 xl-(l_p)n=%xl-(l-p)n4. 某一个信道输入X的

5、符号集为0, 1/2,1,输出Y的符号集为0,1,信道矩阵为1 01/2 1/20 1现有4个消息的信源通过该信道传输，设每个消息等概出现。若对信源进行编码，选 用的码为 C=(0, 0, 1/2, 1/2), (0, 1, 1/2, 1/2), (1, 0, 1/2, 1/2), (1,1, 1/2, 1/2) 译码规 则为解：(1) 求信息传输率：R= 1og4 = 1 st/符号11 2(2) 求平均错谋译码概率。根据信道的传输特性，町知町以输出于=16种序列，可以分成4个子集，分别为: a!=(0 0 i -) (0 0 y3 y j2y3, y f (0 1)(i i y3 y.)%=(17)-*(l 0 y5 yj传输信道如下所示:(00|(1 01.2(1 10000 0001 00100011 0100 0101 0110 0111looo looi loio ion uoo uoi mo mi11110000000000004444000011110000000044440000000011110000444400000000000011114444