信息论与编码考试题.doc

1、按发出符号之间的关系来分，信源可以分为（ ）和（ ）2、连续信源的熵是（ ），不再具有熵的物理含义。3、对于有记忆离散序列信源，需引入（ ）描述信源发出的符号序列内各个符号之间的统计关联特性3、连续信源X,平均功率被限定为P时，符合（ ）分布才具有最大熵，最大熵是（ ）。4、数据处理过程中信息具有（ ）。5、信源冗余度产生的原因包括（ ）和（ ）。6、单符号连续信道的信道容量取决于（ ）。7、 香农信息极限的含义是（ ）。8、对于无失真信源编码，平均码长越小，说明压缩效率（ ）。9、对于限失真信源编码，保证 D的前提下，尽量减少（ ）。10、立即码指的是（ ）。11、算术编码是（ ）分组码。12、游程编码是（ ）失真信源编码。13、线性分组码的（ ）就是该码空间的对偶空间的生成矩阵。14、若（n，k）线性分组码为MDC码，那么它的最小码距为（ ）。15、完备码的特点是（ ）。16、卷积码的自由距离决定了其（ ）。（ ） 1、信息是指各个事物运动的状态及状态变化的方式。（ ）2、信息就是信息，既不是物质也不是能量。（ ）3、马尔可夫信源是离散无记忆信源。（ ）4、不可约的马尔可夫链一定是遍历的。（ ） 5、单符号连续信源的绝对熵为无穷大。（ ）6、序列信源的极限熵是这样定义的：H(X)= H(XL|X1,X2,XL-1)。（ ）7、平均互信息量I(X;Y)是接收端所获取的关于发送端信源X的信息量。（ ）8、信源X,经过处理后，输出为Y，H(Y)小于H(X), 说明信息不增。（ ）9、如果一个消息包含的符号比表达这个消息所需要的符号多，那么该消息存在冗余度。（ ）10、有噪无损离散信道的输入为X,输出为Y，那么其信道容量（）。（ ）11、非高斯噪声信道的信道容量比高斯噪声信道的信道容量小。（ ）12、信息率失真函数具有单调递减性。（ ）13、异前缀码不能及时可译。（ ）14、用码树构造的一定是及时码。（ ）15、香农编码压缩了符号相关造成的冗余。（ ）16、有失真信源编码指的是保真度准则下的信源编码。（ ）17、变长无失真信源编码比定长编码的编码效率高。（ ）18、香农编码是最佳编码。（ ）19、卷积、交织都可以达到差错随机化的目的。（ ）20、卷积码的序列距离决定了其检错和纠错能力。l 信息、消息、信号的定义是什么？三者的关系是什么？ l 什么样的马尔可夫链是遍历的？l 简述离散信源的最大熵定理。l 简述信息率失真函数的物理意义。l 叙述变长信源编码定理。 l 惟一可译码存在的充要条件是什么 ？ l 什么是差错图样？有哪些差错图样类型？ l 什么是本原多项式？l 对于信道编码，有哪两种译码算法？简述之。l 为什么说BSC信道的最小距离译码就是最大似然译码？l 什么是完备吗？举出两种完备吗的例子。l 写出卷积码的解析表达式 。说明为什么称之为卷积码？l 设在一只布袋中装有100个大小相同的乒乓球，（1）若红色球和白色球各50个，从中随机取出一个球，问猜测其颜色需要的信息量是多少？（2）若红色球99个，白色球1个，从中随机取出一个球，猜测其颜色需要的信息量又是多少？ 某信道为强对称信道（即均匀信道）输入符号和输出符号的个数均为m，正确的传输概率为1,错误概率为被对称的均匀分给m1个输出符号 ，试写出转移概率矩阵及其信道容量的表达式。 一个平均功率受限的连续信道，其通频带为1MHZ,信道上存在白色高斯噪声。（1）已知信道上的信号和噪声的平均功率比值 为10 ，求该信道的信道容量。（2）信道上的信号和噪声的平均功率比值降为5，要达到相同的信道容量，信道的通频带应为多大？（3）若信道通频带减少为0.5MHZ, 信道上的信号和噪声的平均功率比值应为多大？（4）。 设有离散无记忆信源P(X)=0.37,0.25,0.18,0.10,0.07,0.03,（1）、求该信源的符号熵。（2）、用哈夫曼编码编成二元变长码，计算其编码效率。（3）、要求其译码错误小于10采用定长二元码要达到（2）中的哈夫曼编码效率，问需要多少个信源符号连在一起编？ 最小距离与检错和纠错能力之间满足如下关系：1) 设码组能检错个数为e，