清华大学出版社信息编码论第五章全解

1、5-1 将下表所列的某六进制信源进行二进制编码，试问：消息概率u1u2u3u4u5u61/21/41/161/161/161/16000001010011100101 0 01 011 0111 01111011111 0 10 110 1110 11110111110 0 101101110010011111 100000101011011001001100101110111(1) 这些码中哪些是唯一可译码？(2) 哪些码是非延长码？(3) 对所有唯一可译码求出其平均码长和编译效率。解：首先，根据克劳夫特不等式，找出非唯一可译码不是唯一可译码，而：又根据码树构造码字的方法，的码字均处于终端节

2、点他们是即时码5-2 (1) 因为a,b,c,d四个字母,每个字母用两个码,每个码为0.5ms, 所以每个字母用10ms 当信源等概率分布时,信源熵为h(x)=log(4)=2 平均信息传递速率为bit/ms=200bit/s (2) 信源熵为 h(x)= =0.198bit/ms=198bit/s5-5(1) h(u)=(2) 每个信源使用3个二进制符号,出现0的次数为 出现1的次数为p(0)= p(1)= (3) (4) 相应的香农编码信源符号xi符号概率pi累加概率pi-logp(xi)码长ki码字x11/20110x21/40.52210x31/80.7533110x41/160.87

3、5441110x51/320.9385511110x61/640.96966111110x71/1280.984771111110x81/1280.9927711111110 相应的费诺码 信源符号xi符号概率pi第一次分组第二次分组第三次分组第四次分组第五次分组第六次分组第七次分组二元码x11/200x21/41010x31/810110x41/16101110x51/321011110x61/6410111110x71/128101111110x81/128111111110（5）香农码和费诺码相同 平均码长为 编码效率为： 5-11 （1）信源熵 （2）香农编码： 信源符号xi符号概率p

4、i累加概率pi-logp(xi)码长ki码字x10.3201.644200x20.220.322.1843010x30.180.542.4743100x40.160.722.6443101x50.080.883.64441110x60.040.964.644511110 平均码长：编码效率为（3） 费诺编码为信源符号xi符号概率pi1234编码码长x10.3200002x20.221012x30.1810102x40.16101103x50.081011104x60.04111114 平均码长为：编码效率： （4）哈夫曼编码信源符号xi符号概率pi编码过程编码码长x10.320.320.380

5、.400.601012x20.220.220.320.380.40102x30.180.180.220.32112x40.160.160.180003x50.080.1200104x60.0400114平均码长为：编码效率： 5.16 已知二元信源0，1，其p0=1/4,p1=3/4,试用式（4.129）对序列11111100编算术码，并计算此序列的平均码长。解：根据算术编码的编码规则，可得：p(s=11111100) = p2(0)p6(1) = (3/4)6 (1/4)2根据（4.129）可得： f(s) = p(0) + p(10) + p(110) + p(1110) + p(11110) + p(111110) = 1= 1 p(11111111) p(11111110) p(11111101) p(11111100) = 1 p(111111) = 1 (3/4)6 = 0.82202 = 0.110100100111又p(s) = a(s)=