信息论与编码作业答案(新)超全

1、信息论与编码作业答案(新)超全篇一：信息论与编码姜丹第三版 信息论与编码_题参考答案 第一章 单符号离散信源 信息论与编码作业是74页，1.1的（1）（5），1.3,1.4,1.6,1.13,1.14还有证明熵函数的连续性、扩展性、可加性 1.1同时掷一对均匀的子，试求： (1)“2和6同时出现”这一事件的自信息量； (2)“两个5同时出现”这一事件的自信息量； (3)两个点数的各种组合的熵； (4)两个点数之和的熵； (5)“两个点数中至少有一个是1”的自信息量。 解： 11 样本空间：N636 n12 I(a)logP14.17bitN36n1 (2)P2log36 (3)信源空间： 6l

2、og36H(x) 2436636836 logloglog36362363364 1036636 log3.71bit 365366n1136 (5) P3logH(x)A落入任一格的概率:P(ai)I(ai)logP(ai)H(a)log481 48 (2)log47 P(bi)logP(bi)5.55bit i47i4847 H(ABi)log(4811.14bit 1.3从大量统计资料知道,男性中红绿色盲的发病率为7%,女性发病率为0.5%.如果你问一位男士：“你是否是红绿色盲？”他的回答可能是：“是”，也可能“不是”。问这两个回答中各含有多少信息量？平均每个回答中各含有多少信息量？如果

3、你问一位女士，则她的答案中含有多少平均信息量？ 解： 对于男士: 回答“是”的信息量：I(my)logP(my)log7%0.105bit平均每个回答信息量：H(m)P(my)P(mn)-7%log93%logP(wy)logP(wn) log0.5%-99.5%0.0454bit 1.4某一无记忆信源的符号集为0，1，已知p0 23 。 （1） 求符号的平均信息量； （2） 由1000个符号构成的序列，求某一特定序列（例如有m个“0”,（1000-m）个“1”） 的自信量的表达式； （3） 计算（2）中序列的熵。 解： 1122 （1）H(x)p0logp0loglog(1000(10001

4、000H(X)0.918p0logp01m 1000 im)2 logX： x p(ai)logp(ai) i0.19log0.190.18log0.180.3log0.3 2.7252.585 不满足信源熵的极值性， 这是因为信源熵的最大值是在1的约束条件下求得的，但是本题中 ip i1.18不满足信源熵最大值成立的约束条件，所以H(X)log10110 每帧图像的熵是： H(X)10553.322106 bit/frame r(frame/s)30106107 bit/s 1.7设某彩电系统，除了满足对于黑白电视系统的上述要求外，还必须有30个不同的色彩度。试证明传输这种彩电系统的信息率要

5、比黑白系统的信息率大2.5倍左右。 证: 增加30个不同色彩度,在满足黑白电视系统要求下,每个色彩度需要10个亮度,所以每个像素需要用30300bit量化 log300bit/pels i H(x1)log300 2.477彩色电视系统每个像素信息量比黑白电视系统大2.5倍作用,所以传输相同的图形,彩色电视系统信息率要比黑白电视系统高2.5倍左右. 1.8每帧电视图像可以认为是由3105个像素组成，所以像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现。问每帧图像含有多少信息量？若现在有一个广播员，在约10000个汉字中选1000个字来口述这一电视图像，试问若要恰当地

6、描述此图像，广播员在口述中至少需要多少汉字？ 解: 每帧图象所含信息量: H(X)1053log128106bit/symble1000 每个汉字所包含信息量:H(c)logp每个汉字所出现概率pnH(c)H(X)2.16.322log0.1105个汉字 1.9给定一个概率分布(p1,p2,.,pn)和一个整数m，0n。定义qm 1 m H(p1,p2,.,pn)qmlog(n0)为凸函数，如下： loge 又xf(x)xlogx)0)为凸函数。 x(H(p1,p2,.,pn) implogp i n i 由凸函数的性质，变量函数的平均值小于变量的算术平均值的函数，可得： mpilogpi(n

7、mmf(p) i n nm)f( i1 m )(nmp n i nmp n i nm 即plogp i n i qmlogqmm) 当且仅当pmpm.H(p1,p2,.,pn) m pilogpiqmlog(n1 i1 iH(p1,p2,.,pm,qm)qmlogqm iH(p1,p2,.,pn)qmlog(n12pn时等式成立。 1.10找出两种特殊分布: p1p2p3pn，p1p2p3pm,使H(p1,p2,p3,pn)=H(p1,p2,p3,pm)。解：n m H(p1,p2,.,pn)H(q1,q2,.,qm)1 i?1 篇二：信息论与编码课程大作业 信息论与编码课程大作业 1、 以下面方向为题，写一份：(题目可以自己定义,只要内容在以 下范围之内) a) 信息理论方法的应用 b) 信息率失真函数与有损数据压缩技术 c) 信源编码及其发展动态 d) 论信源编码与信道编码 e) 论现代密码体制 f) 论通信与香农三大定理的关系 2、 论文格式要求 a) 按题目、名字学号、摘要、关键词、正文、结