信息论中期习题测验及答案_第1页
信息论中期习题测验及答案_第2页
信息论中期习题测验及答案_第3页
全文预览已结束

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

1、1、 居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6m以上，而女孩中身高1.6m以上的占总数一半。假如我们得知“身高1.6m以上的某女孩是大学生”的消息，问获得多少信息量？解：设事件a表示女大学生，b表示身高1.6m以上的女孩，则p(a)=0.25,p(b)=0.5,p(b/a)=0.75,所以2、 每帧电视图像可以认为由3*105个像素组成，所有像素均是独立变化，且每一像素又取128个不同的亮度电平，并设亮度电平等概率分布，问每帧含有多少信息量？解：3、 二重扩展信源的熵为h(x2), 一阶马尔可夫信源的熵为h(x2/x1), 试比较两者的大小，并说明原因。解：因为，

2、所以。因为一阶马尔可夫信源符号间是相关的，具有记忆性。4、 设有一信源，它产生0、1序列的消息。该信源在任意时间不论以前发生过什么消息符号，均按p(0)=0.4, p(1)=0.6的概率发出符号。（1） 这个信源是否平稳？（2） 计算h(x2), h(x3/x1x2), 以及。（3） 计算h(x4), 并写出x4信源可能发出的所有符号。解：（1）该信源是离散无记忆信源，对任意i1,i2,in和h0,有,所以该信源是平稳的。（2）（3）可能发出的符号：0000,0001,0010,0011,0100,0101,0110,0111,1000,1001,1010,1011,1100,1101,111

3、0,1111.5、 一阶马尔可夫信源的状态转移图如下图所示，信源符号集为0，1，2。求： （1）稳态后信源的概率分布（2）信源熵。（3）当p=0或p=1时信源的熵，并说明理由。pppppp012解：（1）状态转移矩阵由wp=w, 得，整理后得（2）（3）当, 当。信源熵表示的是信源的平均不确定度。p=0或p=1表明由某一状态转换成另一状态的情况一定发生或一定不发生，是确定事件，因此平均不确定度为零，即熵为零。6、设有一信源发出符号a和b,它们是相互独立的，并已知p(a)=1/4, p(b)=3/4。（1）计算信源熵。（2）若用二进制代码组传输消息，求p(0)和p(1)。（3）该信源发出二重符号消息时，采用费诺编码，求其平均传输速率r及两个码元的概率p(0)、p(1)。（4）该信源发出三重符号消息时，采用霍夫曼编码，求其平均传输速率r及两个码元的概率p(0)、p(1)。解: (1)(2)(3)对二重符号信源采用费诺编码，结果为 (码字不唯一)bb: 0, ba: 10, ab: 110, aa:111单个符号的平均码长为：平均传输速率码元0和1的概率为(4)对三重符号信源采用霍夫曼编码，结果为 (码字不唯一)bbb: 1, bba:001, bab: 010, baa:00000, abb: 011,

人人文库> 全部分类> 生活休闲 > 科普知识

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论