信息论与编码(第二版)陈运主编课件第五章 (4)

1、 信息论与编码信息论与编码Information Theory and codingInformation Theory and coding 内蒙古工业大学电子信息工程系对于有记忆信源，采样后的信号序列存在时间相关性，仍然对各个采样时刻的信号值逐个进行量化，会造成码长的冗余。 1.预测编码 利用信号序列的时间相关性，通过预测以减少信息 冗余后再进行编码2.变换编码 引入某种变换，将信号序列变换为另一个域上彼此独立或者相关程度较低的序列，同时将能量集中在部分样值上，再对这个新序列进行编码。 5.3 相关信源编码预测编码原理 将第 个时刻的信号值 记为 ，相应第 个时刻的信号值记为 。 n)(s

2、nTxnx, 2, 1nn,21nnxx对于时间相关的信号序列，由于 与 相关，故只要知道 ，就可对 进行预测。 nx,21nnxx,21nnxxnx设预测值为 ，则 ， 称为预测误差。 nxnnndxxnd通过预测，我们将 所携带的信息量分成了两部分：一部分为 所携带的信息量，它实际上是 所携带的信息量；另一部分是 所携带的信息量，它才是 所携带信息量的新增加部分。只要预测足够准确， 就足够小。 nxnx,21nnxxndnxnd因此，如果是对 进行量化、编码而不是对 进行量化、编码，就会减少信息冗余，从而提高编码效率。 ndnx由于预测编码是对 进行量化、编码，接收端译码后也只能得到 ；接

3、收端必须重建 ，而 ，因此接收端也同样需要进行预测。 ndndnxnnndxx预测编码 线性预测是最常用的预测方法，其表达为 ，式中 ，称为预测阶数， 为加权系数。 piininxwx11 nppiwi, 2 , 1, 预测阶数应该取多大，加权系数又应该怎样选取，才能在性能和简单上得到合理的折中? 最常用的是增量调制（DM）、差分脉冲编码调制（DPCM）和自适应差分脉冲编码调制（ADPCM，），通常也称为差值编码。 预测编码 一一、增量调制增量调制 增量调制是预测编码中最简单的一种，增量调制原理如下，其中(a)为发送端，(b)为接收端。 1比特量化比特量化+ nxnxqnd- niiqnd1编

4、码编码ncnd(a)(b)差值编码差值编码+ + + qndnx1nqn iidnxnc译码译码在发送端，将信号值 与量化预测值 之差 进行1比特量化，所谓1比特量化，就是只对差值的符号而不是大小进行量化，即当 时， ，否则， 。 nxnd0ndqndqndnx同时，在 的基础上加减一个量化增量 ，以形成下一个采样时刻的量化预测值，备下一个采样时刻求差值之用。 nx编码则当 时， ； 时， ；其码长为1。 qnd1ncqnd0nc在接收端，通过译码将 还原为量化增量 后，将量化增量 与量化预测值 相加即可得到量化值 。 ncqndqndnx nx同时，在 的基础上加上一个量化值 ，以形成下一个

5、采样时刻的量化预测值，备下一个采样时刻相加之用。 nx nx增量调制增量调制001qdx0005. 0111xxd125. 01qd11c125. 00125. 0111xdxq125. 0125. 0011102 qqqdxddx0125. 015. 0222xxd125. 02qd12c25. 0125. 0125. 0222xdxq增量调制增量调制例例5.3.1已知某归一化信号序列 ，设初始量化 ，量化增量 ，求其增量调制编码和量化值。 2 . 0 ,23. 0 ,15. 0 ,05. 0,4321xxxx00qd125. 025. 0125. 0125. 0222103 qqqqdxd

6、ddx025. 023. 0333xxd125. 03qd03c125. 025. 0125. 0333xdxq125. 0125. 025. 03332104 qqqqqdxddddx0125. 02 . 0444xxd125. 04qd14c25. 0125. 0125. 0444xdxq 的编码 ； M1 , 0 , 1 , 1,4321cccc 的量化值 。 M25. 0 ,125. 0 ,25. 0 ,125. 0,4321xxxx在增量调制中，量化噪声分为一般量化噪声和过载量化噪声；一般量化噪声 ，即1比特量化的量化噪声，其幅度不会超过量化增量 。 nqnnnnqnnnnddxdx

7、dxxe)()(过载量化噪声则是由信号斜率过大而产生的；因为在增量调制中，每个采样间隔只允许一个量化增量的变化，所以当信号斜率比这个固定斜率大时，就会产生过载量化噪声。 过载量化噪声：xx,t由于 的最大斜率是 ，因此，为了避免产生过载量化噪声，最大信号斜率必须满足 。 xsTsTdtdxmax对于正弦信号 ，避免产生过载量化噪声的条件是 ，即 ；通常取 ，所以为了避免产生过载量化噪声，增量调制的采样频率要远远大于奈奎斯特采样定理的要求。 tAtxsin)(ssfTAdtdxmaxAfsA差分脉冲编码调制差分脉冲编码调制 差分脉冲编码调制原理如下，其中(a)为发送端，(b)为接收端。 + +

8、+ qndnxniinx1nxnc译码译码(a)(b)量化量化+ nxndnxqnd+ + - 编码编码ncniiniqnxd1在发送端，将信号值 与量化预测值 之差 进行量化；量化可以采用均匀量化，也可以采用非均匀量化；由于差值 的动态范围一般比较小，通常用均匀量化且量化码的长度取3就可以了，因此量化间隔 。 nxnxndnd81编码 一般也与均匀量化相同，在量化码基础上增加一位极性码，故码长为4。 nc同时，在 的基础上加减一个量化值 ，以形成下一个采样时刻的量化预测值，备下一个采样时刻求差值之用。 nxqnd在接收端， 通过译码将还原为量化值 后，将量化值与量化预测值 相加即可得到量化信

9、号值 。 ncqndnx nx同时，在 的基础上加上一个量化信号值 ，以形成下一个采样时刻的量化预测值，备下一个采样时刻相加之用。 nxnx例例5.3.2已知某归一化信号序列 ，设初始值 ， ，采用码长为4的均匀量化，量化间隔 ，求其差分脉冲编码调制的编码和量化信号值。 2 . 0 ,23. 0 ,15. 0 ,05. 0,4321xxxx00qd00 x03125. 0000001xdxq05. 0005. 0111xxd21)1010(0625. 0qd10101c0625. 000625. 0111xdxq0625. 000625. 0112xdxq0875. 00625. 015. 0222xxd22)1011(0938. 0qd10112c1563. 00625. 00938. 0222xdxq1563. 00625. 00938. 0223xdxq0737. 01563. 023. 0333xxd23)1010(0625. 0qd10103c2188. 01563. 00625. 0333xdxq2188. 01563. 00625. 0334xdxq0188. 02188. 02 . 0444xxd24)0001(0313. 0qd00014c1875. 02188. 00313. 0444xdxqDPCM的编码 ； 0001,