《信息与编码理论》 试卷及答案 试卷（二）

《信息论与编码》试卷第1页（共3页）专业班级：专业班级：姓名：学号：…………密………………封………………线…………专业班级：姓名：学号：专业班级：姓名：学号：…………密………………封………………线…………考试方式本试卷考试分数占学生总评成绩比例总得分闭卷60%分数40得分一、简答题（本大题共5小题，每小题8分，共40分）1.简述信道容量的定义。2.一离散平稳信源输出符号序列为,请问（1）信源的平稳性的定义是什么？（2）如果该信源为无限记忆离散平稳信源，它的极限熵如何计算？（3）如果该信源是4阶马尔可夫信源，其极限熵该如何计算？3.简述信息率失真函数的定义4.信源冗余度的定义是什么？信源符号的相关性和冗余度之间有什么关系？5.阐述最大后验概率译码准则和极大似然译码准则的内容？两者在什么情况下等价？分数60得分二、计算及证明题（本大题共5小题，每小题12分，共60分）1.求以下四个信道的信道容量：2.设信源（1）计算信源熵。（2）编二进制霍夫曼码和等长码，写出编码结果。（3）求以上编码的平均码长和编码效率。3.某离散无记忆信道的转移概率矩阵、输入该信道的信源符号概率分布分别如式所示，信道输出的符号记为,试求。4.设线性分组码的生成矩阵为，求：

（1）此（n，k）码的n=？k=？，写出此（n，k）码的所有码字。

（2）求其对应的一致校验矩阵H。

（3）确定最小码距，问此码能纠几位错？列出其能纠错的所有错误图样和对应的伴随式。

（4）若接收码字为000110，用伴随式法求译码结果。

5.关于线性分组码，试证明下列结论：（1）线性分组码任意两码字的和仍然是一个码字；（2）线性分组码的最小汉明距离等于该码中最小非零码字的汉明重量。《信息与编码理论》试卷（二）参考答案与评分标准一、简答题（本大题共5小题，每小题8分，共40分）1，传输信息不失真的条件下的最大平均信息量或最大信息速率Rmax，,信道上传输的最大平均信息量：C=I(X;Y)maxbit/符号。2答：(1)各维联合概率分布均与时间起点无关的信源称为离散平稳信源。(2)信源为无限记忆离散平稳信源，它的极限熵(3)3.4.信源的相关性越大，冗余度越大。5、令，，而应满足条件称满足上述条件的译码函数对应的译码规则为最大后验概率译码规则。极大似然译码准则当输入符号等概分布时，采用极大似然译码准则等价于最大后验概率准则。二、计算题（本大题共5小题，每小题12分，共60分）6、答：1）P1为一一对应确定信道，因此有。分）

（2）P2为具有归并性能的信道，因此有。

（3）P3为具有发散性能的信道，因此有。（4）7.答：（1）（1分）（2）等长码：000，001，010，011，100，101，110，111（2分）哈夫曼编码：0，10，110，1110，11110，111110，1111110，1111111（3分）（3）（4分）8.由先验概率和信道转移矩阵可得输出符号Y的概率分布。 由联合概率分布和Y的概率分布可得后验概率为8、（1）n=6，k=3，（1分）由C=mG可得所有码字为：

000000，001011，010110，011101，100101，101110，110011，111000（1分）

（2）此码是系统码，由知，，则（2分）

（3）由H可知，其任意2列线性无关，而有3列线性相关，故有，能纠一位错。（2分）

错误图样E伴随式

100000101

010000110

001000011

000100100

000010010

000001001（2分）

（4）由查表知e＝01