版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、信道及信道容量信道及信道容量 编辑整理:尊敬的读者朋友们:这里是精品文档编辑中心,本文档内容是由我和我的同事精心编辑整理后发布的,发布之前我们对文中内容进行仔细校对,但是难免会有疏漏的地方,但是任然希望(信道及信道容量)的内容能够给您的工作和学习带来便利。同时也真诚的希望收到您的建议和反馈,这将是我们进步的源泉,前进的动力。本文可编辑可修改,如果觉得对您有帮助请收藏以便随时查阅,最后祝您生活愉快 业绩进步,以下为信道及信道容量的全部内容。第5章 信道及信道容量教学内容包括:信道模型及信道分类、单符号离散信道、多符号离散信道、多用户信道及连续信道51信道模型及信道分类教学内容:1、一般信道的数学
2、模型2、信道的分类3、信道容量的定义1、 一般信道的数学模型影响信道传输的因素:噪声、干扰。噪声、干扰:非函数表述、随机性、统计依赖。信道的全部特性:输入信号、输出信号,以及它们之间的依赖关系。信道的一般数学模型:p(x/y)pxy图5.1.1 一般信道的数学模型2、 信道的分类离散信道、连续信道、半离散或半连续信道输出随机信号单符号信道和多符号信道输入、输出随机变量个数单用户信道和多用户信道输入和输出的个数有干扰信道和无干扰信道信道上有无干扰有记忆信道和无记忆信道有无记忆特性速度指标质量指标3、信道容量的定义衡量一个信息传递系统的好坏,有两个主要指标:速度指标:信息(传输)率,即信道中平均每
3、个符号传递的信息量;质量指标:平均差错率,即对信道输出符号进行译码的平均错误概率;目标:速度快、错误少,即尽量大而尽量小.信道容量:信息率能大到什么程度;若信道平均传送一个符号所需时间为t秒,则(bit/s) 称为信息(传输)速率。分析:对于给定的信道,总存在一个信源(其概率分布为),会使信道的信息率r达到最大。(是输入概率的上凸函数,这意味着关于存在最大值)每个给定的信道都存在一个最大的信息率,这个最大的信息率定义为该信道的信道容量,记为,即bit/符号 (5。1。3)信道容量也可以定义为信道的最大的信息速率,记为 (bit/s) (5。1.4)解释:(1)信道容量是信道信息率的上限,定量描
4、述了信道(信息的)最大通过能力;(2)使得给定信道的达到最大值(即信道容量)的输入分布,称为最佳输入(概率)分布,记为;(3)信道的与输入概率分布和转移概率分布两者有关,但信道容量是信道的固有参数,只与信道转移概率有关。4、意义:研究信道,其核心问题就是求信道容量和最佳输入分布。根据定义,求信道容量问题就是求平均互信息量关于输入概率分布的最大值问题.一般来说,这是一个很困难的问题,只有对一些特殊信道,如无噪信道等,才能得到解析解,对于一般信道,必须借助于数值算法.52离散无噪信道的信道容量教学内容:1、无损信道2、具有扩展性能的无噪信道3、具有归并性能的无噪信道1、 具有一一对应关系的无损信道
5、此时输入x和输出y符号集的元素个数相等;x1 y 1 x1 y 1 x2 y 2 xi y i xn-1 y n-1xn y n xn y n (a) (b)给出信道矩阵.噪声熵h(y/x)=0,信道疑义度h(x/y)=0,固有,根据信道容量的定义,有 (5。2。1)式(5.2.1)表明当信源呈等概率分布时,具有一一对应的确定关系的无噪信道达到信道容量,其值就是信源x的最大熵值.这个结果还表明,信道容量只决定于信道的输入符号数n,与信源无关,是表征信道特性的一个参量。2、 具有扩展性能的无噪信道x1y2y3y1x2y5y6y4x3y8y7图5.2.2 具有扩展性能的无噪信道举例信道矩阵是信道疑
6、义度。故有 。显然其信道容量 (5.2.2)与一一对应信道不同的是,此时输入端符号熵小于输出端符号熵,即。3、 具有归并性能的无噪信道x1x2y1x3x4y2x5y3图5.2.3 具有归并性能的无噪信道举例信道的噪声熵,但是信道疑义度。相应的信道容量为尽管式中平均互信息i(x;y)等于输出端符号熵h(y),但是在求极大值时,调整的仍然是输入端的概率分布;而不能用输出端的概率分布来代替.对于图5.2。3,其信道容量是=1.585( bit信道符号).那么,要达到这一信道容量,对应信源的概率分布是什么呢?由信道矩阵有,只要,达到最大值,即达到信道容量c。此时使的信源概率分布存在,但不是惟一的。这种
7、信道的输入符号熵大于输出符号熵,即.综合以上三种无噪信道的分析,我们得出一个结论,无噪信道的信道容量c只决定于信道的输入符号数n,或输出符号数m,与信源无关,是表征信道特性的一个参量。53强对称离散信道的信道容量教学内容:1、信道矩阵特点2、信道容量计算1、信道矩阵特点:这类信道中总的错误概率是,对称平均地分配给(n-1)个输出符号。信道矩阵为(nn)阶对称矩阵。2、信道容量计算其中条件熵 (5。2。4)上式中 ,于信道的对称性,每一行都是同一集合诸元素的不同排列,所以,于是得信道容量。这就变成求一种输入分布使取最大值的问题了。现已知输出符号集共有n个符号,则。根据最大离散熵定理,只有当,即输
8、出端呈等概率分布时,才达到最大值.要获得这一最大值,可通过公式 寻找相应的输入概率分布.现在观察信道矩阵,我们发现其特殊性:信道矩阵中的每一行都是由同一集合中的诸元素的不同排列组成,所以保证了当输入符号是等概率分布,即时,输出符号一定是等概率分布,这时。相应的信道容量为 ( bit/信道符号)当n=2时,就是二进制均匀信道,根据式(5。2。7)可计算出信道容量,其中 ,二进制均匀信道容量曲线如图5.2。4所示. c 1。0 p 0 0。5 1.0图5.2.4 二进制均匀信道容量曲线54对称信道的信道容量教学内容:1、对称信道的定义2、信道容量1、对称信道的定义:如果一个矩阵的每一行都是同一集合
9、中诸元素的不同排列,我们称矩阵的行是可排列的;如果一个矩阵的每一列都是同一集合中诸元素的不同排列,我们称矩阵的列是可排列的;如果一个矩阵的行和列都是可排列的,则称这个矩阵是可排列的,或称它具有可排列性。如果一个信道矩阵具有可排列性,它所表示的信道称为对称信道.其信道矩阵如下图:2、信道容量根据平均互信息的定义其中,类似于均匀信道的情况,hmi也是与输入x无关的常数,故有,代入上式得,对应的信道容量为 (5。2。8)式(5.2。7)与式(5。2.5)形式相同,只是此时的mn。由于对称信道的特点,容易证明,输入随机变量x等概率分布时,输出随机变量y也是等概率分布,从而使y的熵达到最大值,即达到信道
10、容量c。55准对称离散信道的信道容量教学内容:1、定义2、特点3、信道矩阵4、信道容量1、定义如果一个n行m列单符号离散信道矩阵p的行是可排列的,列不可排列。但是矩阵中的m列可分成s个不相交的子集,各子集分别有m1,m2,ms个元素(m1m2msm),若由n行mk(kl,2,s)组成的子矩阵具有可排列性,则称这信道为准对称信道.2、特点行具有可排列性,列不具有可排列性。但是把矩阵的前两列和后两列分成互不相交的子集,构成两个子矩阵,两个子矩阵的行和列均是可排列的,故信道是准对称信道。3、信道矩阵4、信道容量两个子矩阵的行和列均是可排列的,故信道是准对称信道。由行的可排列性有 ,得信道容量。只要使
11、输出随机变量y呈等概率分布,上式第一项即可达到最大值,从而达到信道容量 c。为了在p(xi)非负的条件下使h(y)达到最大值,可将h(y)中的m项分成s个子集m1,m2,,ms,各子集分别有ml,m2,ms个元素(ml+m2+ms=m),则 (5.2.9)令第k个集合中概率的平均值 (5。2。10)因为 由有 ,故有,即把子集中的变成其均值,将使第k个子集中的熵达到最大。由于子矩阵具有可排列性,只要信源x呈等概率分布,即可使第k个子集中的输出概率相等,即达到其均值。如果式(5。2。9)右端的每一项都达到最大值,则输出y的熵达到最大,即,相应的准对称信道的容量为 5、练习【例5。2。1】。56一
12、般离散信道的信道容量教学内容:1、信道容量计算2、总结3、练习1、信道容量对一般离散信道而言,求信道容量,就是在固定信道的条件下,对所有可能的输入概率分布,求平均互信息的极大值。由前面的讨论可知,是输入概率分布的上凸函数,所以极大值一定存在。因为是n个变量的多元函数,并满足,所以可用拉格朗日乘子法来计算这个条件极值.引进一个新函数 (5.2.12)其中为拉格朗日乘子。解方程组 (5.2。13)可得一般信道容量c。由 (5.2.14)有 。将的表达式代入式(5.2.13)得求偏导得整理得 (5。2。15)其中 ,,式(5。2.15)两边乘以p(xi)并求和 (5。2。16)上式左边为平均互信息的极大值,即 (5。2。17)式(5。2.17)代入式(5.2。15)令 (5.2。18)则 (5.2.19)由式(5.2。19)得信道矩阵,求出。再由式(5.2。18)得 (5.2.20)上式两边对j求和得,求出信道容量 (5。2.21)再根据式(5.2。14)求出对应的输入概率分布
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 初中七年级数学图形变换期中复习教学设计
- 九年级道德与法治二轮专题复习教学设计:崇尚劳动创造 平凡铸就伟大
- 初中心理健康九年级教学设计:重生·改变不合理信念
- 七年级体育与健康“运动促进生长发育”教学设计
- 高中生物学高二下册《生态金字塔与能量流动实践意义》教学设计
- 八年级音乐下册A大调《鳟鱼》钢琴五重奏欣赏教学设计
- 初中语文七年级上册世说新语二则高效教学设计
- 初中八年级地理教学设计:工业与科技创新协同发展的区域实践探究
- 浙教版科学八年级上册《力的概念》教学设计(第1课时)
- 小学三年级美术《幸福一家亲》教学设计:以情入画构建家庭叙事空间
- DB44T 1591-2015 小档口、小作坊、小娱乐场所消防安全整治技术要求
- 医用高压氧舱安全管理与应用规范
- JG/T 299-2010供冷供热用蓄能设备技术条件
- 《石油化工自动化控制系统》课件
- 消防通道标线施工合同
- 绵阳市三台县乡镇地图矢量可编辑课件行政区划边界高清(四川省)
- 宅基地转让协议书
- 2024入团积极分子入团考试题库(含答案)
- 英语-简单句五种基本句型课件
- 气体绝缘金属封闭开关设备不停电扩建技术导则
- 人工智能导论智慧树知到期末考试答案2024年
评论
0/150
提交评论