信息论基础第一章-绪论课件_第1页
信息论基础第一章-绪论课件_第2页
信息论基础第一章-绪论课件_第3页
信息论基础第一章-绪论课件_第4页
信息论基础第一章-绪论课件_第5页
已阅读5页，还剩12页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

1、目 录第一章 绪论第二章 信源和熵第三章 信道及信道容量第四章 离散信源的无失真编码第五章 信道编码第六章 限失真信源编码 第一章 绪论本章主要内容 信息的概念 香农信息论的内容 信息论发展简史与应用 课程介绍与要求 32学时，专业基础课 香农信息论是本课内容 复习概率知识，结合通信原理有助理解 注重课后习题练习，多讨论 作业占30%，考试占70%课程介绍与要求 信息概念的定义很多，但直到现在，还没形成完整、明确、为世人所普遍公认的定义。其原因是人们对信息的本质认识还不够。 信息是客观事物状态和特征的反映，具有形式和内容之分。 不同的定义：从不同的侧面，不同的层次上揭示了信息的特性。通常为三类

2、定义：广义信息、技术术语信息和统计信息。信息的概念 广义信息是将信息的形式和内容全部包 含在内的最广泛意义上的信息。其特点：形式和内容的统一。 技术术语信息计算机所处理的海量对象，如音频和视频数据、文档资料等在技术层面上统称为信息。其特点：具体形式，不包含内容。信息的概念 统计信息可用数学公式严格定义，反映了信息表达形式在统计方面的性质。 其特点：有明确定义的科学名词，它与内容无关，而且不随信息的具体表达式的变化而变化。它独立于形式，反映了信息表达式中统计方面的性质。是统计学上的抽象概念。 香农信息论中定义信息为“用来消除信息接收者某种认识上的不确定性的东西”，即遵循了统计信息的定义。信息的概

3、念信息论产生背景计量信号中信息多少需要解决的问题：通信系统中信息传输的效率信息传输的准确性问题噪声干扰频率特性 本质为：信息传输的可靠性与有效性问题。香农信息论的内容信息论的主要贡献是： （1）把统计信息定义为“用来消除信息接收者某种认识上的不定性的东西”，并给出了其度量公式熵和互信息； （2）建立了一些重要的性能界：信源输出的最大可能的信息量，为满足一定失真度的要求所必须传递的最小信息量，信道上的最大可能通过能力等；（3）建立了一组重要的编码定理，从理论上指明了为达到上述性能界限应当遵循的信息处理的方法和原则。这就不仅从定性方面而且也从定量方面深刻地揭示了信息传递和处理的规律，使通信的研究从

4、经验的阶段转变为科学。 信道信源信宿通信系统模型信源信道信宿编码器译码器消息信号噪声源干扰恢复的消息信号+干扰通信系统模型 信息的特点： 信息是无形的。 信息是可共享的。 信息是无限的。 信息是可度量的。信息、消息、信号三者之间的关系消息是信息的载荷者。消息具有不同的形式：语言、文字、符号、数据、图片等。构成消息要两个条件：能被通信双方所理解可以在通信中传递和交换同一消息对不同的客体来说可以含有不同的信息量；同一信息可以用不同形式的消息来载荷。信息、消息、信号三者之间的关系信号是消息的表现形式，消息是信号的具体内容。信号是表示消息的物理量，包括声波、光波、电信号、机械信号等。信息、消息、信号三者之间的关系信号信息、消息、信号三者之间的关系消息信息信息论的发展1948年香农发表The mathema

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论