平均互信息量.ppt_第1页
平均互信息量.ppt_第2页
平均互信息量.ppt_第3页
平均互信息量.ppt_第4页
平均互信息量.ppt_第5页
已阅读5页，还剩28页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

1、定义1：,一、平均互信息量的定义,X对Y的平均互信息：,信道中流通信息量的整体测度,定义2：,3,变形1：,二、平均互信息的物理意义,物理意义：平均互信息量是收到Y前、后关于X的不确定度减少的量，即由Y获得的关于X的平均信息量。,1,信道疑义度或损失熵,物理意义：平均互信息量是发送X前、后，关于Y的平均不确定度减少的量。,2,噪声熵,6,3,物理意义：平均互信息量等于通信前、后，整个系统不确定度减少的量。,7,I(X;Y)= H（X）-H（XY） I(X;Y)= H（Y）-H（YX） I(X;Y)= H(X)+ H(Y)- H(XY ),总结：,二、平均互信息的性质,对称性,1,非负性,2,互

2、信息量 可能为负值。 但是平均互信息量不会为负值,极值性,1,3,2,凸函数性,4,1,2,求平均互信息I(X；Y),17,I(X;Y)= H（Y）-H（YX）,当q不变，即固定信道特性,当p=0.5 ， I(X,Y) 最大,19,当p不变，即固定信源,当q=0.5 ， I(X,Y) =0 当q=0或1 ， I(X,Y) 最大,20,I(X;Y)= H（X）-H（XY） H（XY) = H（X）- I(X;Y) I(X;Y)= H（Y）-H（YX） H（YX) = H（Y）- I(X;Y) I(X;Y)= H(X)+ H(Y)- H(XY ) H（XY）= H（X）+ H（Y）-I(X;Y）,21,22,1,23,2,24,3,25,4,26,5,27,6,7,28,【作业】 二元等概信源 通过信道转移概率为 的信道传输， 信宿接收符号Y = y0, y1，计算信源与信宿间的平均互信息量I（X；Y），信道疑义度，噪声熵,29,30,31,H（Y）= I(X;Y)+ H（YX）,H（X）= I(X;Y)+ H（XY）,32,33,I(X;Y)= H（X）-H（XY） H（X）= I(X;Y)+ H（XY） I(X;Y)= H（Y）-H（YX） H（Y）= I(X;Y)+ H（YX） I(X;Y)=

人人文库> 全部分类> 行业资料 > 医学制药

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论