离散无记忆的扩展信源PPT课件_第1页
离散无记忆的扩展信源PPT课件_第2页
离散无记忆的扩展信源PPT课件_第3页
离散无记忆的扩展信源PPT课件_第4页
离散无记忆的扩展信源PPT课件_第5页
已阅读5页,还剩7页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

.,2.4离散无记忆的扩展信源,2.4.1单符号离散无记忆信源信源的符号集,每个符号的发生概率为,信源每次发出一个符号,且符号发生的概率相互独立,称为单符号离散无记忆信源,简称离散无记忆信源。,.,2.4离散无记忆的扩展信源,2.4.2离散无记忆信源的扩展信源1、离散无记忆二进制信源的二次扩展信源,二次扩展信源,扩展后的信源符号集合,新概率的计算举例:,.,2.4离散无记忆的扩展信源,2、离散无记忆二进制信源的三次扩展信源,三次扩展信源,扩展后的信源符号集合,新概率的计算举例:,.,2.4离散无记忆的扩展信源,3、任意进制离散无记忆信源的N次扩展信源其中:,N次扩展信源,.,2.4离散无记忆的扩展信源,4、离散无记忆信源X的N次扩展信源设离散无记忆信源,其样本空间为,用一组长度为的序列表示其输出消息序列。此时,将输出序列等效为一个新的信源,用维离散随机矢量来描述,记作,则称组成的新信源为离散无记忆信源的次扩展信源。其中,每个分量都是随机变量,它们都取决于同一信源,并且分量之间统计独立。用重空间描述离散无记忆信源的次扩展信源,记为。,.,2.4离散无记忆的扩展信源,设一个离散无记忆信源的概率空间为:则信源X的N次扩展信源XN是具有qN个符号的离散信源,其中N重概率空间为上式中,每个符号是对应于某一个由N个组成的序列。的概率是对应N个组成的序列概率。,.,2.4离散无记忆的扩展信源,因为是无记忆的(彼此统计独立),若则其中又而,.,2.4离散无记忆的扩展信源,上式表明离散无记忆信源的次扩展信源的概率空间也是完备集。根据信息熵的定义,次扩展信源熵可以证明离散无记忆信源的次扩展信源的熵等于信源的熵值的倍,即:,.,2.4离散无记忆的扩展信源,证明:设是概率空间的一个符号,对应于由N个组成的序列,.,2.4离散无记忆的扩展信源,因为:,所以:,故:,先考察其中一项,.,2.4离散无记忆的扩展信源,例2.6求离散无记忆信源的二次扩展信源及其熵。解:二次扩展信源的概率空间为,.,2.4离散无记忆的扩展信源,上式可直观的理解,扩展信源的每一个输出符号是由个组成的序列,且序列中前后符号是统计独立现已知每个信源符号含有的平均自信息

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论