信息与编码理论 第2版 课件 1.1 信息的基本概念_第1页
信息与编码理论 第2版 课件 1.1 信息的基本概念_第2页
信息与编码理论 第2版 课件 1.1 信息的基本概念_第3页
信息与编码理论 第2版 课件 1.1 信息的基本概念_第4页
信息与编码理论 第2版 课件 1.1 信息的基本概念_第5页
已阅读5页,还剩9页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

第1章

绪论目录1.1信息的基本概念1.2信息论的研究对象、目的和内容1.3信息论的形成和发展1.4信源编码问题1.5信道编码问题1.1信息的基本概念组成客观世界的三大基本要素:物质能量信息没有物质什么都不存在,没有能量什么都不会发生,没有信息什么都没有意义。

——美国学者欧廷格1.概述2.区别消息、信息、信号三个概念

信息的通俗概念:消息就是信息。用文字、符号、数据、语言、音符、图片、图像等能够被人们感觉器官所感知的形式,把客观物质运动和主观思维活动的状态表达出来,就称为消息。消息中包含信息,消息是信息的载体。2.信息的通俗概念(续1)信号是表示消息的物理量,包括电信号、光信号等。信号中携带着消息,信号是消息的载体。信息信号消息3.信息的狭义概念(香农信息)香农信息:信息是对事物运动状态或存在方式的不确定性的描述。通信的基本问题是在一点(信宿)精确或近似恢复另一点(信源)所选择的消息。————

香农通信的过程就是消除不确定性的过程。3.信息的狭义概念(香农信息)(续1)例1:甲袋红、白球各50个,乙袋红、白、蓝、黑球各25个。比较从甲袋中取出一个球是红球的事件和从乙袋中取出一个球是红球的事件发生的难易程度,也就是事件发生的不确定性。3.信息的狭义概念(香农信息)(续2)例2:焦作地区十月份可能出现的天气包括:晴、阴、雨、雪。比较天气预报为“晴”和天气预报为“雪”,这两个结果出现的不确定性。结论:不确定性的大小与事件发生的概率有关。3.信息的狭义概念(香农信息)(续3)不确定性的大小与事件发生的概率有关因此,信息量可以表示为概率的函数。不确定性是概率的函数3.信息的狭义概念(香农信息)(续4)信息与概率的关系:事件发生的概率越大,该事件包含的信息量越小;如果一个事件发生的概率为1,那么它包含的信息量为0;两个相互独立事件所提供的信息量应等于它们各自提供的信息量之和。3.信息的狭义概念(香农信息)(续6)香农信息的优点:有明确的数学表达式,定量化与人们直观理解的信息含义一致不考虑收信者主观感受的不同,认为同一消息对任何收信者,所得信息量相同。3.信息的狭义概念(香农信息)(续7)香农信息的局限:没有考虑收信者的主观特性和主观意义4.信息的广义

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论