《信息论》课件-第二章习题课_第1页
《信息论》课件-第二章习题课_第2页
《信息论》课件-第二章习题课_第3页
《信息论》课件-第二章习题课_第4页
《信息论》课件-第二章习题课_第5页
已阅读5页,还剩5页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、假设一次掷两个各自均匀、互相不可区分又互不相关的骰子。如事件A、B、C分别表示:(A)仅有一个骰子是3;(B)至少有一个骰子是4;(C)骰子上点数的总和为偶数。试计算事件A、B、C发生后所提供的信息量。解:事件A、B、C发生的概率分别为:

P(A)=nA/N=2*5/36=5/18

P(B)=nB/N=(6+6-1)/36=11/36

P(C)=nC/N=18/36=1/2A、B、C所提供的信息量分别为:

I(A)=-logP(A)=1.8480bit

I(B)=-logP(B)=1.7105bit

I(C)=-logP(C)=1bit2.中国国家标准局所规定的二级汉字共6763个。设每字使用的频度相等,求一个汉字所含的信息量。设每个汉字用一个的二元点阵显示,试计算显示方阵所能表示的最大信息。显示方阵的利用率是多少?解:由于每个汉字的使用频度相同,它们有相同的出现概率,即因此每个汉字所含的信息量为每个显示方阵能显示种不同的状态,等概分布时信息熵最大,所以一个显示方阵所能显示的最大信息量是显示方阵的利用率或显示效率为3.一信源有4种输出符号,且。设信源向信宿发出,但由于传输中的干扰,接收者收到后,认为其可信度为0.9。于是信源再次向信宿发送该符号(),信宿无误收到。问信源在两次发送中发出的信息量各是多少?信宿在两次接收中得到的信息量又各是多少?解:把信宿第一次收到的符号记为y。第一次发送,信源发出的信息量为第一次发送结束,信宿仍然存在的不确定性:第一次发送信宿接收到的信息量为第二次发送,信源发出的就是信宿这时仍然存在的不确定性0.15bit.因为无误收到,第二次发送结束后,信宿不再有不确定性。因此收发信息量相等,均为。4.利用递推性计算H(1/2,1/8,1/8,1/8,1/8)。解:

H(1/2,1/8,1/8,1/8,1/8)=H(1/2,1/2)+H(1/4,1/4,1/4,1/4)=1+2=2bit/symbol5.若随机噪声在之间的概率密度函数。设从0开始向正负幅度按量化单位做量化,并且每秒取十个记录,求该信源输出的信息率。

解:应明确,首先根据和,得

p(x)

-1-0.500.51x

6、人口问题。在某个地区,一对夫妻只允许生一个孩子,可是这里所有的夫妻都希望能生一个男孩传宗接代。因此这里的夫妻都会一直生到生了一个男孩为止,假定生男生女的概率相同,问:(a)这个地区男孩会多于女孩吗?(b)一个家庭孩子的个数用离散随机变量X表示,计算X的熵。解:(a)假定一个家庭里有k个女孩,1个男孩,相应的概率是因此女孩的平均数是女孩的平均数和男孩的平均数相等。(b)一个家庭孩子的个数为i7.从大量统计资料知道,男性中红绿色盲的发病率为7%,女性发病率为0.5%,如果你问一位男同志:“你是否是红绿色盲?”他的回答可能是“是”,可能是“否”,问这2个回答中各含有多少信息量?平均每个回答中含有多少信息量?如果你问一个女同志则答案中含有的平均自信息量是多少?

解:X:男同志是否是红绿色盲

Y:女同志是否是红绿色盲8.X和Y是{0,1,2,3}上的独立、均匀分布的随机变量,求:H(X+Y),H(X-Y),H(X*Y)。9.猜宝游戏。三扇门中有一扇门后藏有一袋金子,并且三扇门后面藏有金子的可能性相同。如果有人随机打开一扇门并告诉你门后是否藏有金子,他给了你多少关于金子位置的信息?解:假定表示藏金子的位置,

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论