信息论与编码技术期末复习提纲(第2版)

信息论与编码技术期末复习题型：填空题，选择题，计算题答疑时间：1月9号上午9-11点下午3-5点工学院425室第一章信息、消息和信号的区别与联系P3；通信系统的性能指标P4。第二章遍历的马尔可夫链必须具有不可约性和非周期性P12；马尔可夫链稳态分布概率的计算P14，例2-2；自信息量的计算P16；离散信源熵、条件熵、联合熵的计算P19，P20；互信息的计算P22；条件熵H(X|Y)和H(Y|X)的含义P24；数据处理定理P26；熵的性质1，2，3，5，6P28-29；离散无记忆信源平均符号熵HL（X）P30（2-3-1）；L长序列信源的序列熵P31（2-3-2）；马尔可夫链的极限熵P34，例2-13；限峰功率最大熵定理和限平均功率最大熵定理P37；信息效率和冗余度的计算P38需掌握的公式：P12P16P19P20P22P34P38第三章信道的信息传输率R，信道容量P50；无干扰离散信道的信道容量P51；输入对称和输出对称信道的判别，对称DMC信道的信道容量P52（3-2-3）；准对称DMC信道的信道容量P57（3-2-6）；香农公式P65（3-4-10）；增加信道容量的几种途径，香农限P66；信源与信道的匹配（符号匹配和信息匹配）P67需掌握的公式：P50R＝I(X;Y)=H(X)-H(X|Y)bit/符号Rt=I(X;Y)/tbit/sP52P57P65第四章失真函数的定义P71（4-1-1）；汉明失真函数（即误码失真）P72；平均失真P74（4-1-4）；信息率失真函数的定义域P75-77；DmaxP76（4-1-13）；信息率失真函数的性质（下凸性、连续性、单调递减性）。需掌握的公式：P71P74P76第五章三大极限定理（无失真信源编码定理，信道编码定理，限失真信源编码定理），信源编码的任务（减少冗余，提高编码效率或有效性），信道编码的目的（提高可靠性）P85；码的分类，唯一可译码的判断P87；克劳夫特不等式的意义（判断唯一可译码是否存在）P88；定长编码的序列长度L满足的条件P90（5-2-6）；编码效率P91；码字平均长度的计算P93；最佳变长编码（香农编码、费诺编码、哈夫曼编码）的编码方法P94-98；算术编码方法P105，例5-10需掌握的公式：P88P90其中，，由推导P91第六章差错图样P119（6-1-1）；差错图样类型（随机差错、突发差错）P119-120；失量空间、子空间和对偶空间的含义P123-124，例6-1；有扰离散信道的编码定理P129（6-1-24）；减小差错概率的措施（增大信道容量C，减小码率，增大码长）P130；译码方法（最优译码和最大似然译码）P133；线性分组码（n,k），n,k的含义（n：编码后的码字长度，k：信息组长度），生成矩阵G（k×n的矩阵），G的系统化，系统码（6-3-6）P136；系统的校验矩阵H（(n-k)×n的矩阵）与G的相互转化P137，例6-2；伴随式的种数（2n-k），伴随式S与差错图样E的关系P139（6-3-14）；检错能力、纠错能力与最小距离的关系，最小距离的计算，最小距离与校验矩阵秩的关系P143-144；完备码的性质P145（6-3-23）；（n,k）汉明码的构造P146，例6-4；循环码的构造P148，例6-5；系统循环码的构造P150，例6-6；缩短码的生成矩阵和校验矩阵的获得P157-158；循环冗余校验码的发码、收码的校验P158，例6-10；由卷积码的转移函数矩阵构造编码器结构、转移函数矩阵、状态流图P160-165，例6-11，6-12，6-13，6-14；需掌握的公式：P119差错图样E＝发码C－收码R（模M）P136G=[IkMP]，H＝[PTMIn-k]（二进制编码）P139S=EHTP143dmin=min{w(Ci)} CiÎC及Ci¹0第七章密码体制需实现的功能（保密性和真实性）P206；密码体制的分类（