CTO学院-信息论与编码视频课程.docx

51CTO学院 网址：edu.51CTO.com51cto学院-信息论与编码视频课程课程目标学习本课程可以达到以下目标： 1. 掌握信息的概念和信息量的计算方法； 2. 掌握万能通信系统模型； 3. 掌握信道容量的概念和信道容量的计算方法； 4. 掌握压缩编码的原理和常用压缩编码方法； 5. 掌握信道编码的原理和常用容错编码方法适用人群1. 将从事计算机底层信息处理（例如：图像算法、压缩算法，等）的软件工程师； 2. 将从事通信工程领域的通信工程师；课程简介课程地位：信息论是信息科学中最成熟、最完整、最系统的一部分，以活跃、新颖的思路和高效解决问题的方法而显示出独特的魅力。它与其他学科的交叉和融合，促进了许多新学科的生长，展示出勃勃生机和巨大的发展前景。信息论不仅在方法论的层面上解决通信的有效性和可靠性问题，而且在认识论的层面上帮助认识事物的本质。学完信息论之后，在重新审视一下周围的事物，会有许多新的看法和认识。用信息论可以宏观的认识某些政治问题，也可以定量的解决某些经济问题，还可以分析、解释外语学习中存在的问题总之，信息论是高层次信息技术人才必不可少的基础知识。课程内容：本课程主要介绍香农狭义信息论，包括香农信息论三定理信息的测度定理、信道容量定理、信息率失真函数定理，以及香农的三个基本编码定理无失真信源编码定理、信道编码定理、限失真信源编码定理。以及信源和信道编码的基本方法。课程目标：学习本课程可以达到以下目标：1. 掌握信息的概念和信息量的计算方法；2. 掌握万能通信系统模型；3. 掌握信道容量的概念和信道容量的计算方法；4. 掌握压缩编码的原理和常用压缩编码方法；5. 掌握信道编码的原理和常用容错编码方法；适合对象：1. 将从事计算机底层信息处理（例如：图像算法、压缩算法，等）的软件工程师；2. 将从事通信工程领域的通信工程师；学习条件：1. 最好有大学的数学基础；课程1第1课时：前言（课程交流群：301862163）免费观看1小时6分钟QQ教学群:301862163 课程名称； 课程特点； 教学计划； 学习方法；2第2课时：绪论免费观看40分钟什么是信息？ 什么是信息论？3第3课时：信息论和自信息量（1）免费观看1小时24分钟自信息量的定义； 单位及换算； 含义； 联合自信息量和条件自信息量； 自信息量的性质；4第4课时：自信息量（2）免费观看43分钟自信息量的定义； 单位及换算； 含义； 联合自信息量和条件自信息量； 自信息量的性质；5第5课时：第5课时：互信息量和熵（1）免费观看1小时10分钟互信息量和熵6第6课时：熵（2）48分钟关于熵的进一步学习7第7课时：熵和平均互信息量1小时7分钟熵和平均互信息量8第8课时：平均互信息量和相对熵（1）1小时11分钟平均互信息量和相对熵（1）9第9课时：平均互信息量和相对熵（2）38分钟平均互信息量和相对熵（2）10第10课时：离散信源（1）1小时25分钟信源的分类和数学模型 离散无记忆信源及其N次扩展信源 离散有记忆平稳信源11第11课时：离散信源（2）34分钟离散信源相关的例题讲解12第12课时：关于信源的几个结论和Markov信源1小时12分钟关于信源的几个结论和Markov信源13第13课时：Markov过程和m阶Markov信源熵42分钟Markov过程和m阶Markov信源熵 信源的相关性和剩余度14第14课时：特殊信道容量1小时20分钟信道的定义、分类和数学模型 单符号离散信道的容量15第15课时：几种特殊信道1小时23分钟几种特殊信道16第16课时：一般信道容量46分钟特殊信道求解的本质 信道容量求解的本质 计算一般信道的容量17第17课时：信道组合1小时28分钟多符号离散信道 独立并联信道 串联信道和数据处理定理18第18课时：证明定理42分钟证明几个定理19第19课时：信源编码免费观看1小时20分钟什么是编码 编码的分类 编码器的数学模型 一些基本概念20第20课时：基本概念解读和定长码42分钟基本概念解读 定长码21第21课时：定长码（1）1小时22分钟APE和典型序列集 定长信源编码定理22第22课时：定长码（2）41分钟APE和典型序列集 定长信源编码定理23第23课时：变长码（1）1小时25分钟kraft不等式和McMillan不等式 唯一可编译码的判别准则 变长信源编码定理24第24课时：变长码（2）37分钟kraft不等式和McMillan不等式 唯一可编译码的判别准则 变长信源编码定理25第25课时：变长编码方法（1）免费观看1小时18分钟Shannon码 Fano码 Huffman码 比较2