渐近均分性与香农第一定理课件_第1页
渐近均分性与香农第一定理课件_第2页
渐近均分性与香农第一定理课件_第3页
渐近均分性与香农第一定理课件_第4页
渐近均分性与香农第一定理课件_第5页
已阅读5页，还剩25页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

第3章渐近均分性与香农第一定理n次扩展信源有什么特性？香农第一定理明确了什么？3.1n次扩展信源定义多符号离散信源对任意两个不同时间起点k和1，概率及直到n维的各维联合概率相同1、n维离散平稳信源定义n维离散平稳信源的符号序列中各符号相互独立3、n维离散平稳无记忆信源/n次扩展信源表示n维离散平稳无记忆信源——独立同分布，相当于单符号离散信源的n次扩展信源4、n次扩展信源的联合熵例1二次扩展信源及联合熵二次扩展信源3.2渐近均分性定理1、n次扩展信源的渐进均分性例1二次和三次扩展信源的概率分布特点二次扩展信源的概率分布三次扩展信源的概率分布n次扩展信源的符号序列分为两组，n越大，组间的概率之和相差越大，组内的概率相差越小——渐进均分性当n足够大由大数定理满足该式的符号序列——典型序列典型序列的联合自信息等于联合熵——典型序列等概率满足该式的符号序列——非典型序列推论23.3香农第一定理定理信源的熵为H(X)，对n次扩展信源进行二进制信源编码，对任意给定的ε>0，只要平均码率，当n足够大，编码无失真(1)正定理当n足够大，n次扩展信源的符号序列划分为典型序列与非典型序列，典型序列的数量无失真编码——保证对典型序列进行一一对应的编码无失真编码的码字数量译码错误概率香农第一定理表明了n次扩展信源无失真信源编码的存在性，

人人文库> 全部分类> 行业资料 > 医学制药

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论