《信息论与编码基础》课件 7-信道模型与平均互信息_第1页
《信息论与编码基础》课件 7-信道模型与平均互信息_第2页
《信息论与编码基础》课件 7-信道模型与平均互信息_第3页
《信息论与编码基础》课件 7-信道模型与平均互信息_第4页
《信息论与编码基础》课件 7-信道模型与平均互信息_第5页
已阅读5页，还剩12页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

§3离散信道§3.1信道模型§3.2平均互信息§3.3信道容量

研究信道的目的是研究信道能传输的最大信息量，即信道的最大传输能力。§3.1信道模型

由于噪声和干扰存在，信道输入输出之间是统计依赖关系，而不是确定关系。研究信道就是要研究输入输出信号特性和它们的统计依赖关系。信道输入输出

一、信道模型三要素

P(y|x)

信道的转移概率或传递概率transitionprobabilities§3.1信道模型二、信道模型表述方式例：

b1a1arbs…………P(b1|a1)P(b2|a1)§3.1信道模型信源编码器二进制调制器信道解调器和检测器信源译码器信源输出数据广义信道X={0,1}Y={0,1}P(Y=0|X=1)=P(Y=1|X=0)=pP(Y=1|X=1)=P(Y=0|X=0)=1-p例1

BSC:对称信道1－p1－ppp0011§3.1信道模型

0

1？

1

1

？

？

0

1

0

？

1？

1？例2

BEC：§3.1信道模型例2

BEC：r=2,s=3p(0|0)=p,p(?|0)=1-pp(1|1)=q,p(?|1)=1-qp0101?1-p1-qq（2）§3.1信道模型小结：对于单符号DMC（基本信道）：YP(y|x)X,

,§3.1信道模型§3离散信道§3.1信道模型§3.2平均互信息§3.3信道容量信道疑义度平均互信息平均互信息性质基本信道P(y|x)XY①信道无干扰：y=f(x)，接收的平均信息为H(X)②信道有干扰：?§3.2平均互信息一、信道疑义度收到bj

后关于ai

的不确定性：考虑考虑一、信道疑义度信道疑义度§3.2平均互信息含义：收到Y后关于X的尚存的平均不确定性。性质：

一、信道疑义度信道疑义度

equivocation§3.2平均互信息损失熵含义：平均从Y获得的关于X的信息量。 （又称信道 的信息传输率R）二、平均互信息§3.2平均互信息※I(X;Y)与熵：

※I(X;Y)与I(x;y)：I(x;y)表示由随机事件y中获得的关于事件x的信息。互信息:关系：I(X;Y)＝EXY[I(x;y)]注意：二、平均互信息§3.2平均互信息※条件互信息与平均条件互信息

二、平均互信息给定X、Y、Z三个离散概率空间，其连接关系为：系统1系统2XYZ(a)系统1XYZ(b)思考§3.2平均互信息基本信道P(y|x)XY信源发送的信息量信道中损失的信息量输出端获得的信息量H(X)H(X|Y)I(X;Y)信道疑义度损失熵平均互信息信息传输率I(X;Y)=H(X)-H(X|Y)信源熵§3.2平均互信息小结：练习：

有两个硬币，一个是正常的硬币（一面

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论