信息071信息论试卷-B-answer.doc

南京工程学院试题评分标准及参考答案 共4页 第 1 页 2009 / 2010 学年 第1学期课程所属部门： 通信工程学院 课程名称： 信息论与编码B 使用班级： 信息071 制 作 人：张亚飞 09 年12月18日 一、填空题（本题10空，每空2分，共20分 ）1、1/4 2bit/符号 2bit 2、3 2 3、信源 信道 加密4、 32 5、存在 二、判断题（对划“”，错划“”，本题5小题，每小题2分，共10分）1、2、3、4、5、三、名词解释（本题2小题,每小题5分,共10分）1、极限熵当离散有记忆信源序列的长度趋于无限大时，序列的平均符号熵称为极限熵，又称极限信息量。2、唯一可译码任意有限长的码元序列只能被唯一地分割成一个个的码字，则称此码为唯一可译码。四、计算题（本题3小题，共35分）1、解（1）H(X)=H(1/2,1/2)=1bit/符号 （2分）（2）已知信源的概率分布和信道的转移概率矩阵，根据全概率公式，可得X和Y的联合共4页 第 2 页南京工程学院评分标准及参考答案概率矩阵，所以， （2分）（3）根据X和Y之间的联合概率，可以求得输出Y的概率分布p(y0)= p(y1)= p(y2)= p(y3)=1/4H(Y)=2bit/符号H(X/Y)=H(X,Y)-H(Y)=0.918 bit/符号 （2分）（4）H(Y/X)=H(X,Y)-H(X)=1.918 bit/符号 （2分）（5）I(X;Y)= H(X)- H(X/Y)=0.082 bit/符号 （2分）（6）因为此信道为对称DMC信道，所以 C=log4-H(1/3,1/3,1/6,1/6)=0.082bit/符号 （3分）（7）当信源分布为P(X)=1/2,1/2时，信道传输的信息量能达到信道容量 （2分）2、解（1）失真矩阵每一行至少有一个0，所以Dmin=0 （2分）（2）失真矩阵每一列至多有一个0，所以R(Dmin)=H(X)=H(1/2,1/2)=1 bit/符号（2分）（3）Dmax= = （2分）（4）R(Dmax)=0 （2分） 3、解（1）（4分）平均码长 ： （2分）编码效率：H(X)= 2.23bit/符号 （2分）（2）哈夫曼编码的结果不是唯一的。 （2分）原因有二：（a）每次对信源缩减时，赋予信源最后两个概率最小的符号0和1，0和1的顺序是任意的，所以可以得到不同的哈夫曼码；（b）对信源进行缩减时，两个概率最小的符号合并后的概率与其他信源符号的概率相同时，这两者在缩减信源中进行概率排序，其位置放置次序是任意的，故会得到不同的哈夫曼码。 （2分）五、综合题（本题3小题,共25分）1、解系统化后的生成矩阵 （2分）共4页 第 3 页南京工程学院评分标准及参考答案 共4页 第 4 页南京工程学院评分标准及参考答案 校验矩阵 （2分）（2）校验矩阵H其任意3列之和都不为0，至少需要4列才能组合出0，所以H有3列线性无关，则最小码距dmin=3+1=4 （2分）（3）根据C=mG得100对应的码字为1001110 （2分）（4）伴随式=0 0 0 10，所以R不是码字。 （2分）2、解（1）G0=1 1，G1=0 1，G2=1 1，G3=0 1 （3分）（2）（3分）3、解（1） （2分）（2）设