信息论基础教程

信息论基础教程Tag内容描述：<p>1、北京邮电大学出版社BeijingUniversityofPostsandTelecommunicationsPress,信息论基础教程,李亦农李梅编著,BUPTPress,目录,第一章绪论第二章信息的度量第三章信源及信息熵第四章信道及信道容量第五章无失真信源编码第六章有噪信道编码第七章限失真信源编码,BUPTPress,第一章绪论,1.1信息的概念1.2信息论研究的对象、目的和内容,BUPTPre。</p><p>2、第六章：有噪信道编码,一、信道编码的相关概念,二、有噪信道编码定理,三、纠错编码,第六章：有噪信道编码,信道编码的目标：提高通信的可靠性。,1. 信道编码概述,信道编码，就是按照一定的规则给信源编码后的码符号序列增加一些冗余信息，使其变成具有一定数学规律的码符号序列。,信道译码，就是按与信道编码器相同的数学规律去掉接收到的码符号序列中的冗余符号。,通常来说，增加的冗余符号越多，检错和纠错能力就越强。但是，增加的冗余符号越多，传输效率就越低。,信道编码的相关概念,信道编码器： 将信源编码后的符号加上冗余符号，提。</p><p>3、第五章 无失真信源编码 一 信源编码的相关概念 二 定长码及定长信源编码定理 三 变长码及变长信源编码定理 四 变长码的编码方法 五 实用的无失真信源编码方法 第五章 无失真信源编码 信源编码的作用 使信源适合于信道的传输 用信道能传输的符号来代表信源发出的消息 在不失真或允许一定失真的条件下 用尽可能少的符号来传递信源消息 提高信息传输率 以提高通信有效性为目的 通常通过压缩信源的冗余度来实现。</p><p>4、第三章：信源及信源熵,一、信源的分类及其数学模型,二、离散单符号信源,三、离散多符号信源,四、连续信源,信源的分类及其数学模型,第三章：信源及信源熵,信源是产生消息（符号）、消息序列（符号序列）以及时间连续的消息的来源。,信源的主要问题： 如何描述信源的输出（信源的建模问题） 怎样确定信源产生的信息量、产生信息的速率 信源编码 （第五章）,多符号信源,连续信源,信源分类,单符号信源,根据信源输出。</p><p>5、第六章：有噪信道编码,一、信道编码的相关概念,二、有噪信道编码定理,三、纠错编码,第六章：有噪信道编码,信道编码的目标：提高通信的可靠性。,1. 信道编码概述,信道编码，就是按照一定的规则给信源编码后的码符号序列增加一些冗余信息，使其变成具有一定数学规律的码符号序列。,信道译码，就是按与信道编码器相同的数学规律去掉接收到的码符号序列中的冗余符号。,通常来说，增加的冗余符号越多，检错和纠错能力就越。</p><p>6、第二章：信息的度量,一、自信息和互信息,二、平均自信息,三、平均互信息,第二章：信息的度量,1. 自信息 2. 互信息,一、自信息和互信息,二、平均自信息,三、平均互信息,平均自信息,平均互信息,自信息和互信息,第二章：信息的度量,1. 自信息（量）,公理性条件： (1) 如果p(x1) I(x2)， I(xi )是 p(xi) 的单调递减函数； (2) 如果p(xi)=0，则I(xi ) ;。</p>