信息论试卷-k.doc

南京工程学院试卷K课程所属部门： 通信工程学院 课程名称： 信息论与编码B 考试方式： 闭卷 使用班级： 班级 学号 姓名 命题人： 陈瑞 教研室主任审核： 主管领导批准： 题号一二三四五六七八九十总分得分一. 填空题（本题15空，每空1分，共15分） 1. 居住某地区的女孩中有25%是大学生，在女大学生中有75%身高在1.60m以上，而女孩中身高1.60m以上的占总数一半。“身高1.60m以上的某女孩是大学生”这个消息所包含的自信息量为 bit。2. 数据处理定理指出，随着处理器数目的增多，输入消息与输出消息之间的 趋于变小。数据在处理过程中只会失掉一些信息，不会创造出新的信息，即 。3. 传输信道中常见的错误有 、 和混合错误三种。4. 设电话信号的信息率为5.6104比特/秒，在一个噪声功率谱为N0=510-6mW/Hz、限频F、限输入功率P的高斯信道中传送，若带宽F=4kHz, 问无差错传输该电话信号所需的最小功率P= W；若F趋于无穷大时，则P= 瓦。5. 译码器的任务是从受损的信息序列中尽可能正确恢复出原信息，最佳译码方法指的是 ，这种译码方法也叫 。6. 通信系统中，检纠错的工作方式有： 、 和混合纠错等。7. 保真度准则下的信源编码定理指出：设离散无记忆信源X的信息率失真函数R(D)，当信息率 时，只要信源序列长度 ，一定存在一种编码方法，其译码失真小于或等于D+，为任意小的正数；反之，若 ，则无论采用什么样的编码方法，其译码失真必大于D。 南京工程学院试卷 共6 页 第 2 页 二. 判断题（本题10小题，每小题1分，共10分） 1. 平均自信息量只与各符号出现的概率有关，与符号的数量无关。（ ）2. 信息率失真函数的意义是：对于给定的信源，在满足保真度准则的前提下，信息率失真函数R(D)是信息率允许压缩到的最大值。（ ）3. 互信息量总是小于等于自信息量I(xi,yj)I(xi)，接收者收到的信息量不可能大于信源发出的信息量。（ ）4. m阶马尔克夫信源的极限熵只与状态的一步转移概率有关。（ ）5. 离散信源的熵函数具有连续性。（ ）6. 完备码是校验位得到最充分利用的码，因此是纠错能力最强的码。（ ）7. 如果X和Y相互独立，则I(X;Y)=0。（ ）8. 单符号离散信源的自信息和信息熵都是一个确定值。（ ）9. 自信息量I(xi)不仅具有非负性、单调递减性，还具有可加性。（ ）10. 信道编码的最终目的是提高传输的有效性。（ ）三. 简答题（本题2小题，共20分） 1. 写出二进制均匀信道的数学表达式，并画出信道容量C与信道转移概率p的曲线图。（10分）2. 目前对卷积码有哪些描述方法？这些描述方法分别是从什么角度考虑的？（10分）本题得分四. 计算题（本题3小题，共25分）1. 黑白气象传真图的消息只有黑色和白色两种，即信源X=黑,白。设黑色出现的概率为P(黑)=0.4，白色的出现概率P(白)=0.6。（1）假设图上黑白消息出现前后没有关联，求熵H(X)； （2）假设消息前后有关联，其依赖关系为P(白/白)=0.8，P(黑/白)=0.2，P(白/黑)=0.3，P(黑/黑)=0.7，求此一阶马尔可夫信源的熵H2(X)；（3）分别求上述两种信源的剩余度；（4）比较H(X)和H2(X)的大小，并说明其物理意义。 （24=8分）2. 设有离散无记忆信源，码符号集X=(0,1,2)，试：(1) 构造一种三进制哈夫曼码；(2) 求该编码的效率；(3) 用树图简单描述该哈夫曼编码。 （3+2+2=8分） 南京工程学院试卷 共 6 页 第 3 页 南京工程学院试卷 共 6 页 第 4 页 1. 已知(7，3)循环码的全部码字：（0000000）、（0011101）、（0111010）、（1101001）、（1010011）、（0100111）、（1001110）。（1）写出该循环码的生成多项式g(x)（2）写出该循环码的生成矩阵G；（3）写出一致监督矩阵H。 （33=9分） 南京工程学院试卷 共 6 页 第 5 页 五. 综合题（本题2小题，共30分） 2. 某语音信号，其最高频率为4KHz，经取样、量化编成等长二元码，每个抽样点以256级均匀量化。且抽样值取各量化值的概率相等，且抽样间相互独立。（1）一秒内的抽样点数是多少；（1分）（2）求每个抽样点的信息熵，语音信号的信息传输速率（单位为bit/s）（4分）（3）对每个抽样点编码之后，求其编码效率；（2分）（4）为了压缩此语音信号，将此编码后的语音信号再通过一编码压缩器，按照某种映射输出32个5位长的二元序列，求这种压缩编码方法下，语音信号的信息传输速率（单位为bit/s）；（4分）（5）这种压缩方法是否存在失真，若存在，解释其产生的原因。（3分） 南京工程学院试卷 共 6 页 第 6 页 3. 设有一信源，它在开始时以p(a)=0.6，p(b)=0.3，p(c)=0.1的概率发出X1。如果X1为a时，X2为a，b，c的概率为1/3；X1为b时，X2为a，b，c的概率为1/3；X1为c时，X2为a，b的概率为1/2。且后面发出Xi的概率只与Xi-1有关，p(Xi/Xi-1)=p(X2/X1)，i3。（1）写出符