信息论与编码知识梳理及课后答案课件

傖丸论与编码贵州大学彭长根有关说明:1、计划学时54,全部为讲课学时,适当组织讨论形式2、总成绩由两部分组成,平时成绩占30%,考试成绩占70%,由作业和考勤组成课程概述n当令的时代是一个信息的时代,信息处理技术的不断进步极大的影响了我们的生活,使我们的生活质量得到很大提高。现代“信息”的概念,已经与半导体技术、微电子技术、计算机技术、通讯技术、网络技术、多媒体技术、信息服务业、信息产业、信息经济、信息化社会、信息管理等含义紧密地联系在一起信息技术(Information,Technology,简称IT)是包括信息的采集、传递、处理、再生和使用等功能的技术。包括:信息获取技术、信息处理技术、信息传输技术、信息控制技术和信息应用技术。信息科学是以信息为基本研究对象,以信息的运动规律和应用方法为主要研究内容,这是信息科学有别于一切传统科学最基本的特在。信息科学主要包括信息论和计算科学两部分,二者奠定了整个信息科技大厦的基石。信息论源于统计理论和电信技术的发展,主要研究信息属性、信息度量、信息表示和信息传输。20世纪40年代,香农(C.E.Shannon)提出了信息的统计定义,于1948年发表了信息论的奠基性论文《通信的数学理论》。由于香农对信息论的发展作出了巨天贡献,被认为是信息论的创始人计算科学是对描述和变换信息的算法过程,包括其理论、分析、设计、效率分析、实现和应用的系统的研究,是整个计算机技术工程与应用的理论基础。从计算机角度讲,计算科学的本质就是数据变换。计算科学与数学的关系很密切,数学是计算科学的主要基础,数学与电子科学构成我们令天计算机系统的基础,也构成了计算科学的基础。但是,与数学相比,电子技术基础地位的重要性不及数学本课程将介绍信息科学的基础理论和基本方法,课程将基于一个通信系统的抽象数学模型进行展开,课程的数学基础为概率论。整个课程可分为基础理论和编码理论两部分组成信息信号信号信息信源编码信道解码信宿千扰「信道:在物理线路上划分的逻辑通道学习注意事项:■本课程以概率论为基础,数学推导较多,学习时主要把注意力集中到概念的理解上,不过分追求数学细节的推导。■学习时一定要从始至终注意基本概念的理解,不断加深概念的把握。学习时注意理解各个概念的“用处”,结合其他课程理解它的意义,而不要把它完全当作数学课来学习,提倡独立思考,注重思考在学习中的重要性。第1章绪论s1.1信息的一般概念§1.1信息的一般概念◆组成客观世界的三大基本要素:◆物质◆能量◆信息三要素中物质是基础,是实体。能量是物质运动的形式物质可转换成能量,而能量又是改造客观世界的主要动力◆一位美国科学家说过:“没有物质的世界是虚无的世界;没有能源的世界是死寂的世界;没有信息的世界是混乱的世界◆可以说我们生活在信息的海洋之中,没有信息就没有世界,当然也就没有我们人类社会。人类利用信息利用信息的历史非常悠久,而且随着人类社会的发展而发展。到了现代,信息的利用已经非常重要,以至于我们当今生活的社会被称作信息社会。可见信息的重要花朵开放时的色彩是一种信息,它可以引来昆虫为其授粉;成熟的水果会产