信息论与编码考试题(附答案版)

1、1.按发出符号之间的关系来分，信源可以分为（有记忆信源）和（无记忆信源）2.连续信源的熵是（无穷大），不再具有熵的物理含义。3.对于有记忆离散序列信源，需引入（条件熵）描述信源发出的符号序列内各个符号之间的统计关联特性3.连续信源X,平均功率被限定为P时，符合（正态）分布才具有最大熵，最大熵是（1/2ln（22）。4.数据处理过程中信息具有（不增性）。5.信源冗余度产生的原因包括（信源符号之间的相关性）和（信源符号分布的不均匀性）。6.单符号连续信道的信道容量取决于（信噪比）。7.香农信息极限的含义是（当带宽不受限制时，传送1bit信息，信噪比最低只需-1.6ch3）。8.对于无失真信源编码，

2、平均码长越小，说明压缩效率（越高）。9.对于限失真信源编码，保证D的前提下，尽量减少（R(D)）。10.立即码指的是（接收端收到一个完整的码字后可立即译码）。11.算术编码是（非）分组码。12.游程编码是（无）失真信源编码。13.线性分组码的（校验矩阵）就是该码空间的对偶空间的生成矩阵。14.若（n，k）线性分组码为MDC码，那么它的最小码距为（n-k+1）。15.完备码的特点是（围绕2k个码字、汉明矩d=（dmin-1）/2的球都是不相交的每一个接受吗字都落在这些球中之一，因此接收码离发码的距离至多为t，这时所有重量t的差错图案都能用最佳译码器得到纠正，而所有重量t+1的差错图案都不能纠正）

3、。16.卷积码的自由距离决定了其（检错和纠错能力）。（对）1、信息是指各个事物运动的状态及状态变化的方式。（对）2、信息就是信息，既不是物质也不是能量。（错）3、马尔可夫信源是离散无记忆信源。（错）4、不可约的马尔可夫链一定是遍历的。（对）5、单符号连续信源的绝对熵为无穷大。（错）6、序列信源的极限熵是这样定义的：H(X)=H(XL|X1,X2,XL-1)。（对）7、平均互信息量I(X;Y)是接收端所获取的关于发送端信源X的信息量。（对）8、信源X,经过处理后，输出为Y，H(Y)小于H(X),说明信息不增。（对）9、如果一个消息包含的符号比表达这个消息所需要的符号多，那么该消息存在冗余度。（错

4、）10、有噪无损离散信道的输入为X,输出为Y，那么其信道容量（）。（错）11、非高斯噪声信道的信道容量比高斯噪声信道的信道容量小。（对）12、信息率失真函数具有单调递减性。（错）13、异前缀码不能及时可译。（对）14、用码树构造的一定是及时码。（对）15、香农编码压缩了符号相关造成的冗余。（对）16、有失真信源编码指的是保真度准则下的信源编码。（对）17、变长无失真信源编码比定长编码的编码效率高。（错）18、香农编码是最佳编码。（对）19、卷积、交织都可以达到差错随机化的目的。（错）20、卷积码的序列距离决定了其检错和纠错能力。l 信息、消息、信号的定义是什么？三者的关系是什么？答：定义：信息

5、是指各个事物运动的状态及状态变化的方式。消息是指包含信息的语言、文字和图像。信号是消息的物理体现。 三者的关系：消息包含信息，是信息的载体，但不是物理性的。信号是信息的载体，是物理性的。l 什么样的马尔可夫链是遍历的？答：有限状态的，具有不可约束性，具有非周期性l 简述离散信源的最大熵定理。答：离散无记忆信源输出M个不同的信息符号，当且仅当各个符号出现概率相等时，熵最大。l 简述信息率失真函数的物理意义。答：对于给定信源，在平均失真不超过失真限度D的条件下，信息率容许压缩的最小值为R（D）。l 叙述变长信源编码定理。答： 在变长编码中，码长K是变化的，可根据信源各个符号的统计特性，对概率大的符

6、号用短码，而对概率小的符号可用较长的码，这样大量信源符号编成码后，平均每个信源符号所需的输出符号数就可以降低，从而提高编码效率。l 惟一可译码存在的充要条件是什么？ 答：l 什么是差错图样？有哪些差错图样类型？ 答：收、发码之“差”为差错图样，随机差错，突发差错。l 什么是本原多项式？答：二元域m次本原多项式是一个m次即约多项式，能被它整除的最简首一多项式xn+1的次数满足条件n2m-1l 对于信道编码，有哪两种译码算法？简述之。答：最优译码：在已知r的条件下找出可能性最大的发码作为译码估值。 最大似然译码：在已知r的条件下使先验概率最大的译码算法。l 为什么说BSC信道的最小距离译码就是最大

7、似然译码？答：当逐位比较发码的收码时，仅存在两种可能性：相同或不同。如果r中有d个码元，并与ci 的码元不同，则r与ci 的汉明距离是d。d越大，似然函数P（r|ci）越小。l 什么是完备码？举出两种完备码的例子。答：把满足方程的二元（n，k）线性分组码称为完备码汉明码、高莱码l 写出卷积码的解析表达式 。说明为什么称之为卷积码？答：任何时刻i的输出码字可用数学式表示为上式可视为无限长矩阵序列mi与有限长矩阵Gi的卷积运算mi*Gi，这就是卷积码名称的来历。设在一只布袋中装有100个大小相同的乒乓球，（1）若红色球和白色球各50个，从中随机取出一个球，问猜测其颜色需要的信息量是多少？（2）若红

8、色球99个，白色球1个，从中随机取出一个球，猜测其颜色需要的信息量又是多少？ 某信道为强对称信道（即均匀信道）输入符号和输出符号的个数均为m，正确的传输概率为1,错误概率为被对称的均匀分给m1个输出符号 ，试写出转移概率矩阵及其信道容量的表达式。 一个平均功率受限的连续信道，其通频带为1MHZ,信道上存在白色高斯噪声。（1）已知信道上的信号和噪声的平均功率比值 为10 ，求该信道的信道容量。（2）信道上的信号和噪声的平均功率比值降为5，要达到相同的信道容量，信道的通频带应为多大？（3）若信道通频带减少为0.5MHZ, 信道上的信号和噪声的平均功率比值应为多大？（4）。 设有离散无记忆信源P(X)=0.37,0.25,0.18,0.10,0.07,0.03,（1）、求该信源的符号熵。（2）、用哈夫曼编码编成二元变长码，计算其编码效率。（3）、要求其译码错误小于10采用定长二元码要达到（2）中的哈夫曼编码效率，问需要多少个信源符号