《信息与编码理论》 试卷及答案 试卷（一）

《信息与编码理论》试卷（一）考试时间120分钟总分总分班级学号姓名一二三四五六七1.（15分）彩色电视显象管的屏幕上有5×105个象元，设每个象元有64种彩色度，每种彩度又有16种不同的亮度层次，如果所有的彩色品种和亮度层次的组合均以等概率出现并且各个组合之间相互独立。计算每秒传送25帧图象所需要的信道容量；如果在加性高斯白噪声信道上信号与噪声平均功率的比值为63，为实时传送彩色电视的图象，信道的带宽应为多大？2．（15分）已知一个信源包含八个符号消息,它们的概率分布如下表,ABCDEFGH0.10.180.40.050.060.10.070.04该信源每秒钟内发出一个符号,求该信源的熵及信息传输速率。对八个符号作二进制码元的霍夫曼编码,写出各代码组,并求出编码效率。对八个符号作三进制码元的霍夫曼编码,写出各代码组,并求出编码效率。3．（15分）一信源产生概率为的统计独立二进制数符。这些数符组成长度为100的数符组。我们为每一个含有3个或少于3个“1”的源数符组提供一个二进制码字，所有码字的长度相等。求出为所规定的所有源符组都提供码字所需的最小码长。求信源发出一数符组，而编码器无相应码字的概率。4．（15分） 求下图中DMC的信道容量。如果输入分布为{p(x=0)=1/2，p(x=1)=1/4，p(x=2)=1/4），试求输入的信息熵和经过该信道的输入、输出间的平均互信息量。111020231/31/31/31/31/31/31/31/31/35．（15分）设二元（7,4）线性分组码的生成矩阵为给出该码的一致校验矩阵并写出所有的伴随式和与之相对应的陪集首。若接收矢量，试计算出其对应的伴随式S并按照最小距离译码准则试着对其译码。6．（15分）证明最小错误概率译码与最大似然译码在先验等概的条件下等价。设M＝2且两个消息等概，令，。通过信道转移概率p<1/2的信道传输。若将译码区间分为试给出译码错误概率和有错而不能判决的概率。7．（10分）对于任意概率事件集X、Y、Z，证明下述三角不等式成立 H(X|Y)+H(Y|Z)≥H(X|Z)《信息与编码理论》试卷（一）参考答案与评分标准1.每种彩色度和亮度层次组合的概率P=1/(64*16)。每个彩色像元的自信息量I1=log1/P=10bits/每像元。每帧彩色图像的信息量I2=10*5*105=5*106bit/帧。因为每秒有25帧图像，所以，所需的信道容量至少为 C＝5*106*25=1.25*108bits（8分） 因为，S/N=63C=Wlog2(1+S/N)=6W 所以，W＝6C＝20.9MHz（7分）2.H(X)=－∑p(x)logp(x)=2.552bits/符号。由于每秒中只有一个符号，所以传输速率R=H=2.552bits/S（5分）各符号对应的码组如下：A―100；B―110；C―0；D―11101；E－1010；F－1111；G－1011；H－11100。平均码长N＝∑PiNi＝0.4*1+0.28*3+0.23*4+0.09*5=2.61编码效率η＝H(X)/N=97.79%（5分）各符号对应的码组如下：A―11；B―12；C―2；D―022；E－00；F－10；G－01；H－021。平均码长N＝∑PiNi＝0.4*1+2*0.51+3*0.09=1.69编码效率η＝H(X)/N=95.28%（5分）3．含有1个“1”的个数为；不含有“1”的个数为；含有2个“1”的个数为；含有3个“1”的个数为；所以，含有3个“1”或少于3个“1”的源符组个数为M=1+100+4950+161700=166751所需最小码长为，因为是二元码所以D＝2（8分）首先求信源发出一源符组，有码字与之对应的概率。由题意，只有当源符组含有3个“1”或少于3个“1”时，才有码字与之对应。因此有码字的概率为无码字与之对应的概率为（7分）4．由图可知，该信道的转移概率矩阵如下 Y=0Y=1Y=2Y=3 X=01/3 1/301/3X=101/31/31/3X=21/301/31/3 易知该信道是一个准对称信道，则当输入为等概分布时 C=I(x=0,Y)= =（7分）因为W(0)=1/3[1/3+1/3]=2/9W(1)=1/3[1/3+1/3]=2/9W(3)=1/3[1/3+1/3+/13]=1/3 所以=2/3log3/2bits当p(x=0)=1/2,p(x=1)=1/4,p(x=2)=1/4时:H(X)==3/2bits又因为H(Y)==1+1/6log6+1/3log3H(XY)==log6+1/2所以I(X,Y)=H(X)+H(Y)－H(XY)=7/6－1/2log3（8分）5．该码的一致校验矩阵为H＝（3分）因为二元（7，4）码的纠错范围是7个一位错，所以各陪集首和与之相对应的S如下： e=0000001――S=101e=0000010――S=111 e=0000100――S=011e=0001000――S=110 e=0010000――S=001e=0100000――S=010 e=1000000――S=100（8分）当V＝0001011的时候，S＝100，对照最小距离译码准则与S和e之间的关系表，可知，e＝1000000。所以C＝e＋V＝1001011（4分）6．令信道输入为xm时输出y的转移概率为PN(y|xm)，则最小错误概率译码实际上为最大后验概率译码 其中（5分）对于给定的y和所有的m，其w(y)必然相同，所以就可化为如下式子则当先验等概时Q(m)=Q(m’)，上式进一步化为，此即最大似然译码。（5分） 所以，当先验等概时，最小错误概率译码与最大似然译码是