《信息论与编码基础》课件 11-信道容量一般计算方法

上传人：y*** IP属地：山东上传时间：2026-04-22 格式：PPT 页数：16 大小：601KB 积分：12 举报 版权申诉

已阅读5页，还剩11页未读，继续免费阅读

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

§3离散信道§3.1信道模型§3.2平均互信息§3.3信道容量信道容量的定义特殊离散信道的信道容量信道容量的一般计算方法一般信道三、一般离散信道的信道容量YP(y|x)X{a1，...，ar}{b1，...，bs}约束条件：多元函数求约束极值问题§3.3信道容量TH3.6四、一般离散信道的信道容量

当P(ai)>0,1．基本方法：拉格朗日乘子法由Th3.6得，定理3.6

设f(x)是定义在所有分量均非负的半无限矢量空间上的可微上凸函数，M=maxf(x)是f(x)在此空间上的最大值。则x=x*时能达到此最大值M的充要条件是：待定常数无约束极值问题§3.3信道容量基本方法推导(1)1．基本方法：拉格朗日乘子法

其中第二项：

关键:第一项(考虑P(x)>0时)四、一般离散信道的信道容量§3.3信道容量四、一般离散信道的信道容量

基本方法推导(2)§3.3信道容量基本方法(结论)最佳输入P*(ai)时有:

P(ai)>0时，C=I(ai;Y)1．基本方法：拉格朗日乘子法结论:I(Y;x)=I(x;Y)四、一般离散信道的信道容量§3.3信道容量TH3.8(2．

由I(x;Y)求C)1．基本方法：拉格朗日乘子法B．当P(ai)=0时由Th3.6得四、一般离散信道的信道容量

§3.3信道容量TH3.8(2．

由I(x;Y)求C)TH3.7:

一般离散信道的平均互信息I（X;Y）达到极大值（即等于信道容量）的充要条件是输入概率分布｛Pi｝满足：四、一般离散信道的信道容量

2．

由I（x;Y）求C§3.3信道容量四、一般离散信道的信道容量例6例6．BEC（验证Th3.7）

当P(x)=1/2时，P(y=0)=P(y=1)=(1-q)/2,P(y=2)=q2．

由I（x;Y）求C且P(x)>0，∴P(x)=1/2为最佳分布01011－q1－qqq2§3.3信道容量2．

由I（x;Y）求C※直观理解：当I（ak,Y）→max，P(ak)↑※最佳输入不唯一!四、一般离散信道的信道容量

§3.3信道容量其中，TH3.8

设信道的转移概率矩阵为Q=［P(bj

|ai)］r

s，P0是任给的输入符号的一个初始概率分布，其所有分量P0(ai)均不为0。按照下式不断对概率分布进行迭代、更新：则由此所得的I(Pr,Q)序列收敛于信道容量C。

3．迭代解法（自习）四、一般离散信道的信道容量§3.3信道容量四、一般离散信道的信道容量3．迭代解法（自习）

信道容量的迭代算法开始p0

pIu-IL<

C=IL输出是否§3.3信道容量4．一般情况由得：四、一般离散信道的信道容量

§3.3信道容量四、一般离散信道的信道容量

4．一般情况由当r=s，且：非奇异有s个未知数的r个非齐次方程组§3.3信道容量例74．一般情况解：,求C例7．一般信

人人文库> 全部分类> 教育资料 > 课件下载

1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。