第二章 习题解2013

第二章习题,2.1莫尔斯电报系统中，若采用点长为0.2s，划长为0.4s，且点和划出现的概率分别为2/3和1/3，试求它的信息速率(bits/s)。解:平均每个符号长为秒每个符号的熵为比特所以，信息速率为比特/秒,2.3掷一对无偏的骰子，若告诉你得到的总的点数为：(a)7；(b)12。试问各得到了多少信息量?,解:(a)一对骰子总点数为7的概率是,所以，得到的信息量为,(b)一对骰子总点数为12的概率是,所以，得到的信息量为,比特,比特,2.4经过充分洗牌后的一付扑克(含52张牌)，试问：(a)任何一种特定排列所给出的信息量是多少?(b)若从中抽取13张牌，所给出的点数都不相同时得到多少信息量?,解:(a)任一特定排列的概率为,所以，给出的信息量为,(b)从中任取13张牌,所给出的点数都不相同的概率为,所以，得到的信息量为,比特.,比特,2.5设有一个非均匀骰子，若其任一面出现的概率与该面上的点数成正比，试求各点出现时所给出的信息量，并求掷一次平均得到的信息量。,解:易证每次出现i点的概率为,所以,2-6园丁植树一行，若有3棵白杨、4棵白桦和5棵梧桐。设这12棵树可随机地排列，且每一种排列都是等可能的。若告诉你没有两棵梧桐树相邻时，你得到了多少关于树的排列的信息?解:可能有的排列总数为,没有两棵梧桐树相邻的排列数可如下图求得.,YXYXYXYXYXYXYXY,图中:X表示白杨或白桦，它有,种排法，,种排法.,Y表示梧桐树可以栽种的位置，它有,所以共有,*,=1960种排法保证没有两棵梧桐树相邻。,因此，若告诉你没有两棵梧桐树相邻时，得到关于树排列的信息为=3.822比特,2.9随机掷三颗骰子，以X表示第一颗骰子抛掷的结果，以Y表示第一和第二颗骰子抛掷的点数之和，以Z表示三颗骰子的点数之和。试求H(Z|Y)、H(X|Y)、H(Z|XY)，H(XZ|Y)和H(Z|X)。,解:令X=X1,Y=X1+X2,Z=X1+X2+X3,H(X1)=H(X2)=H(X3)=,H(X)=H(X1)=2.585比特,=2.585比特,H(Y)=H(X2+X3),=3.2744比特,H(Z)=H(X1+X2+X3),=3.5993比特,所以H(Z/Y)=H(X3)=2.585比特H(Z/X)=H(X2+X3)=3.2744比特H(X/Y)=H(X)-H(Y)+H(Y/X)=2.585-3.2744+2.585=1.8955比特H(Z/XY)=H(Z/Y)=2.585比特H(XZ/Y)=H(X/Y)+H(Z/XY)=1.8955+2.585=4.4805比特,2-12计算习题2.9中的I(Y；Z)，I(X；Z)，I(XY；Z)，I(Y；Z|X)和I(X；Z|Y)。,解:I(Y;Z)=H(Z)-H(Z/Y)=H(Z)-H(X3)=3.5993-2.585=1.0143比特I(X;Z)=H(Z)-H(Z/X)=3.5993-3.2744=0.3249比特I(XY;Z)=H(Z)-H(Z/XY)=H(Z)-H(Z/Y)=1.0143比特I(Y;Z/X)=H(Z/X)-H(Z/XY)=H(X2+X3)-H(X3)=3.2744-2.585=0.6894比特I(X;Z/Y)=H(Z/Y)-H(Z/XY)=H(Z/Y)-H(Z/Y)=0,2-10设有一个系统传送10个数字：0,1,9。奇数在传送时以0.5的概率错成另外的奇数，而其它数字总能正确接收。试求收到一个数字平均得到的信息量。,解:设系统输出10个数字X等概,接收数字为Y,显然,，H(Y)=log10,所以I(X;Y)=,比特,2.11令ul,u2,u8为一等概消息集，各消息相应被编成下述二元码字:cl=0000，c2=0011，c3=0101，c4=0110c5=1001，c6=1010，c7=1100，c8=1111通过转移概率为p的BSC传送。试求(a)接收的第一个数字0与ul之间的互信息量。(b)接收的前二个数字00与ul之间的互信息量。(c)接收的前三个数字000与ul之间的互信息量。(d)接收的前四个数字0000与ul之间的互信息量。,解:（a）接收前一个数字为0的概率,（b）同理,（c）同理,（d）同理,2.13令X、Y、Z是概率空间，试证明下述关系式成立。(a)H(YZ|X)H(Y|X)H(Z|X)，给出等号成立的条件。(b)H(YZ|X)=H(Y|X)H(Z|XY)。(c)H(Z|XY)H(Z|X)，给出等号成立的条件。,证明:(b),(c),等号成立的条件为,对所有,即在给定X条件下Y与Z相互独立。,(a),等号成立的条件同（c）,2.14对于任意概率事件集X、Y、Z，证明下述三角不等式成立。H(X|Y)H(Y|Z)H(X|Z)H(X|Y)/H(XY)H(Y|Z)/H(YZ)H(X|Z)/H(XZ),证明:(a),(b),2.15令d(X，Y)=H(X|Y)H(Y|X)为X和Y的信息距离，令(X，Y)=H(X|Y)H(Y|X)/H(XY)为X和Y的信息距离系数。试证明有关距离的三个公理：d(X，X)=0d(X，Y)0d(X，Y)=d(Y，X)d(X，Y)d(Y，Z)d(X，Z),解:,2.16定义S(X，Y)=1-(X，Y)=I(X；Y)/H(XY)为X和Y之间的信息相似度，证明：0S(X，Y)1S(X，X)=1S(X，Y)=0，X和Y独立时。,解:,又由互信息的非负性，即,，有,所以,当且仅当X和Y独立时，I（X；Y）=0，所以，当且仅当X和Y独立时，,。,2.18若三个随机变量有如下关系：xy=z，其中x和y独立。试证明：H(X)H(Z)H(Y)H(Z)H(XY)H(Z)I(X；Z)=H(Z)-H(Y)I(XY；Z)=H(Z)I(X；YZ)=H(X)I(Y；Z|X)=H(Y)I(X；Y|Z)=H(X|Z)=H(Y|Z),证明:(a),(b),(c),(d),I(X;Z)=H(Z)-H(Z/X)=H(Z)-H(Y),(e),(f),(g),H(Y/XZ)=0I(Y;Z/X)=H(Y/X)-H(Y/XZ)=H(Y/X)=H(Y),(h),I(X;Y/Z)=H(X/Z)-H(X/YZ)=H(Y/Z)-H(Y/XZ)而H(X/YZ)=0,H(Y/XZ)=0所以I（X；Y/Z）=H(X/Z）=H(Y/Z)#,2.23设X是在1，1上为均匀分布的随机变量。试求Hc(X)，Hc(X2)和Hc(X3)。,解:(a),(b)令,(c)令,2.25设X和Y为连续随机变量，且X的概率密度为,条件概率密度为,其中x，y。试求Hc(X)，Hc(Y/X)，Hc(X/Y)和I(X；Y)。,解：,2.27设x为0，上分布的连续随机变量，且满足，求实现最大微分熵的分布及相应的熵值。,解：,2.28令概率空间，令Y是连续随机变量。已知条件概率率密度为试求：(a)Y的概率密度(y)(b)I(X；Y)若对Y作如下的硬判决：求I(X；Y)，并对结果进行解释。,解:(a)由已知，,（b）,(c)由,可求得V的分布为,再由,及,可求得V的条件分布为,设有13枚同值硬币，其中1枚硬币可能是假币，如是假币，其重量与真币不同，但不知比真币轻还是重。现在给你一部没有砝码的天平和1枚真币，要求你回答有无假币？如有假币要求