信息论基础教学大纲.doc

信息论基础课程教学大纲课程编号：总学时数：48总学分数：3课程性质：专业必修课适用专业：一、课程的任务和基本要求：信息论基础即香农信息论是研究信息处理的数学规律性的数学理论分支之一，是以概率论和随机过程为主要工具研究通信系统极限性能的科学理论。重点解决关于信息传输的有效性和可靠性的理论问题，是信息科学与相关专业的必修专业课程。本课程的指导思想是既要到理论的严谨性,更要考虑本专业的实用性,既要求掌握基本原理,又要求了解新理论与新技术。通过该门课程的学习，期望学生能较好地理解香农信息论的基本思想与基本原理，掌握几个基本运算方法，培养学生利用信息论的基本原理分析和解决实际问题能力，从而提高学生的数学素质，加强学生开展科研工作能力。为今后进行更深入的研究奠定良好的理论基础。 二、基本内容和要求：第1章绪论1.1基本概念1.2数字通信系统模型1.3信息论与编码理论研究的主要内容和意义要求：理解信息论的形成与发展，通信系统模型，掌握信源、信宿、信道、信息、消息、信号等基本概念，了解通信系统信源编码器、信道编码器有关基本原理及功能。第2章信源及其熵2.1信源的数学模型和分类2.2离散信源的信息熵及其性质2.3离散无记忆信源的扩展信源2.4离散平稳信源2.5连续信源的信息熵2.6信源的冗余度2.7离散无失真信源编码定理要求：理解信源的分类与描述方式，掌握自信息量、信源熵、互信息等相关的基本概念、公式以及熵的基本性质，了解最大熵定理及其冗余度的相关问题。第3章 信道及其容量3.1 信道的数学模型与分类3.2 信道疑义度与平均互信息3.3 离散无记忆的扩展信道3.4 离散信道的信道容量3.5 连续信道的信道容量3.6 信源与信道的匹配3.7 信道编码定理 要求：理解信道模型及其相关的实际信道，掌握信道容量的概念并会计算各种信道的信道容量。了解香农公式、香农第二编码定理信道编码定理。第4章 信息率失真函数4.1 失真测试4.2 信息率失真函数及其性质4.3 离散无记忆信源的信息率失真函数4.4 连续无记忆信源的信息率失真函数4.5 保真度准则下的信源编码定理要求：掌握信息率失真函数，失真的度量，了解率失真定理，即香农第三定理及率失真函数的计算。 第5章 信源编码 5.1 编码器和相关概念 5.2 变长编码 5.3 限失真信源编码 5.4 实用信源编码方法要求：理解无失真信源编码的编码定义，掌握最佳编码以及相关的编码方法，给出编码效率。了解无失真信源的定长及变长编码定理。第6章 信道编码 6.1 信道编码的概念 6.2 线性分组码 6.3 循环码 6.4 卷积码要求：掌握线性分组码的概念、编码方法、生成矩阵及效验矩阵。掌握卷积的编码方法及维比特译码算法。掌握线性分组码的伴随式与标准阵列译码表。了解差错控制及编、译码的基本原理。三、实践环节和要求：无 四、教学时数分配：理论： 48 实验： 0 上机： 0 其它： 0教学内容学时分配教学内容学时分配第1章 绪论2 第2章信源及其熵10 第3章 信道及其容量8 第4章 信息率失真函数6 第5章 信源编码8 第6章 信道编码10 习题课4 合计48五、其它项目（含课外学时内容）：无六、有关说明：1、教学和考核方式：本课程属考试课，考核方式为闭卷。平时占30%，期末占70%。2、习题：根据教学内容完成每章节的部分基本习题，约占总题量的50%。3、能力培养要求：通过该门课程的学习，就是让学生能很好地理解香农信息论的基本思想与基本原理，掌握运算方法，培养学生利用信息论的基本原理分析和解决实际问题能力，为今后进行更深入的研究奠定良好的理论基础。4、与其它课程和教学环节的联系：先修课程和教学环节：高等数学、概率论后续课程和教学环节：密码学、数据压缩理论、数字图像处理技术平行开设课程和教学环节：随机过程5、教材和主要参考书目：（1）教材：信息论与编码技术 冯桂、林其伟、陈东华编著 清华大学出版社，2007（2）主要参考书目：信息