第10章-信息论基础.ppt

通信原理,第10章信息论基础,.,1/66,第10章信息论基础,运用概率论与数理统计方法研究信息的度量、传递、变换等规律基本概念：1)熵度量消息中的不确定性；2)互信息度量传递信息的多少。基本结论：1)通信的效率可以借助信源压缩编码来提高压缩信源的极限是信源的熵；2)噪声信道中可以借助信道编码来实现无差错的通信无差错通信的速率上限是信道的容量。,.,2/66,第10章信息论基础,本章目录：10.1熵与互信息10.2离散信道与信道容量10.3相对熵与高斯信道容量10.4离散信源编码与压缩算法10.5*率失真函数与限失真编码定理,.,3/66,10.1熵与互信息,.,4/66,10.1熵与互信息,.,5/66,10.1熵与互信息,.,6/66,10.1熵与互信息,.,7/66,10.1熵与互信息,.,8/66,10.1熵与互信息,.,9/66,10.1熵与互信息,.,10/66,10.1熵与互信息,.,11/66,10.1熵与互信息,.,12/66,10.1熵与互信息,.,13/66,10.1熵与互信息,.,14/66,10.1熵与互信息,.,15/66,10.1熵与互信息,.,16/66,10.1熵与互信息,.,17/66,10.1熵与互信息,.,18/66,10.2离散信道与信道容量,.,19/66,10.2离散信道与信道容量,.,20/66,10.2离散信道与信道容量,.,21/66,10.2离散信道与信道容量,.,22/66,10.2离散信道与信道容量,.,23/66,10.2离散信道与信道容量,.,24/66,10.2离散信道与信道容量,.,25/66,10.2离散信道与信道容量,.,26/66,10.2离散信道与信道容量,.,27/66,10.2离散信道与信道容量,.,28/66,10.2离散信道与信道容量,.,29/66,10.2离散信道与信道容量,.,30/66,10.3相对熵与高斯信道容量,.,31/66,10.3相对熵与高斯信道容量,.,32/66,10.3相对熵与高斯信道容量,.,33/66,10.3相对熵与高斯信道容量,.,34/66,10.3相对熵与高斯信道容量,.,35/66,10.3相对熵与高斯信道容量,.,36/66,10.3相对熵与高斯信道容量,.,37/66,10.3相对熵与高斯信道容量,.,38/66,10.3相对熵与高斯信道容量,.,39/66,10.3相对熵与高斯信道容量,.,40/66,10.3相对熵与高斯信道容量,.,41/66,10.3相对熵与高斯信道容量,.,42/66,10.3相对熵与高斯信道容量,.,43/66,10.4离散信源编码与压缩算法,.,44/66,10.4离散信源编码与压缩算法,.,45/66,10.4离散信源编码与压缩算法,.,46/66,10.4离散信源编码与压缩算法,.,47/66,10.4离散信源编码与压缩算法,.,48/66,10.4离散信源编码与压缩算法,.,49/66,10.4离散信源编码与压缩算法,.,50/66,10.4离散信源编码与压缩算法,.,51/66,10.4离散信源编码与压缩算法,.,52/66,10.4离散信源编码与压缩算法,.,53/66,10.4离散信源编码与压缩算法,.,54/66,10.5*率失真函数与限失真编码定理,.,55/66,10.5*率失真函数与限失真编码定理,.,56/66,10.5*率失真函数与限失真编码定理,.,57/66,10.5*率失真函数与限失真编码定理,.,58/66,10.5*率失真函数与限失真编码定理,.,59/66,10.5*率失真函数与限失真编码定理,.,60/66,10.5*率失真函数与限失真编码定理,.,61/66,10.5*率失真函数与限失真编码定理,.,62/66,10.5*率失真函数与限失真编码定理,.,63/