信息论测试题及答案

1、一、设X、Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另个二元随机变量 Z,取Z=YX（ 般乘积）。试计算：1. H（ Y）、H（ Z）；2.H（ YZ）;3.1 （ X;Y ）、I （ Y;Z）；、如图所示为一个三状态马尔科夫信源的转移概率矩阵求极限熵;1. 绘制状态转移图；2.求该马尔科夫信源的稳态分布；3.三、在干扰离散对称信道上传输符号1 和 0，已知 P( 0)=1/4,P(1)=3/4,试求:1.信道转移概率矩阵P 2.信道疑义度3.信道容量以及其输入概率分布四、某信道的转移矩阵P0.60.30.100.30.600.1，求信道容量，最佳输入概率分布。五、求下列

2、各离散信道的容量（其条件概率P（Y/X）如下：）1 0 1-Sj * Jg5 1-5六、求以下各信道矩阵代表的信道的容量V.JU.20.3O. 1O0OO冋=0Q0(10.30.7000O00000.40 2O 10 3答案、设X、Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另个二元随机变量 Z,取Z=YX（ 般乘积）。试计算:1. H（Y）、H（ Z）；2. H（XY）、H（ YZ）;3（X;Y ）、I（ Y;Z）；2解：1. H（Y）=- P （y） logP（yi）i 1llogl2 21 log =1bit/ 符号2 2Q Z=YX而且X和Y相互独立p(Z1 =1)

3、=P(Y=1) P(X 1)P(Z2=-1)=P(Y=1) P(XP(Y 1) P(X1) P(Y1) P(X11111)=2 2 2 2 2故 H(Z)=P(Zi)log P(Zi)=1bit/i 12. 从上式可以看出:Y与X的联合概率分布为P(Y,Z)Y=1Y=-1Z=10.250.25Z=-10.250.25H(YZ)=H(X)+H(Y)=1+1=2bit/ 符号3. QX与Y相互独立，故 H(X|Y)=H(X)=1bit/ 符号I (X;Y) =H(X)-H(X|Y)=1-仁Obit/符号l(Y;Z)=H(Y)-H(Y|Z)=H(Y)-H(YZ)-H(Z)=O bit/符号、如图所示

4、为一个三状态马尔科夫信源的转移概率矩阵3.求极限熵;2. 绘制状态转移图；2.求该马尔科夫信源的稳态分布;解：1.状态转移图如右图32.由公式p(Ej) P(Ei) P(Ej|EJ ,可得其三个状态的稳态概率为i 11 1P(EJ 尹(EJ -P(E2)11P(E2)?P(E2)$P(E3)11P(E3)2 P(E1) P(E3)P(EJ P(E2)P(E3)12p(E3)343P(E1)弓P(E2) 7P(Es) |3. 其极限熵:33112=一E"(術方H( 1 咛节1 <2，)+7 H<寸£，)1+21+21.5= 8 bit/ 付号777、在干扰离散对称

5、信道上传输符号1和0，已知P （ 0） =1/4,P（1）=3/4, 试求:2.信道转移概率矩阵P 2.信道疑义度3.信道容量以及其输入概率分布n解：1.该转移概率矩阵为0.90.1P=0.10.92. 根据P（ XY =P（ Y|X） P（ X），可得联合概率P（ XY）YYX=09/401/40X=13/4027/40P(Y=i)12/4028/40由 P( X|Y)=P(X|Y)/P(Y) 可得P(X|Y)Y=0Y=1X=03/41/28X=11/427/28H(X|Y)=-P(Xiyj)logP(Xi|yj) =0.09+0.12+0.15+0.035=0.4bit/ 符号i，j3.

6、该信道是对称信道，其容量为：C=logs-H=log2-H ( 0.9,0.1 )=1-0.469=0.531bit/ 符号0.60.30.10 、，求信道容量，最佳输入概率分布。0.30.600.1四、某信道的转移矩阵 P解：该信道是准对称信道，分解为两个互不相交的子信道矩阵0.60.30.10N1 这里 10.9N20.10.30.60 0.1M10.9m20.1这时，输入符号服从等概率分布，即XP(X)011 12 2C=logr-H(P的行矢量)2- Nk log Mk 1H(0.6, 0.3, 0.1) 0.9 log 0.9-0.1 log 0.1k 1=0.174bit/ 符号0

7、1这时，输入端符号服从等概率分布，即P(X)112 2五、求下列各离散信道的容量(其条件概率P(Y/X)如下：)C,由舍式卫（旳）=严宀，事利WpA)2两卡-lp-寸尸心1.十1 一邓Id一 曲公式忑）朮 pa.曲.h观组：9侧）二肌H）+P（心”1-$匸砸)1 + (17 戶用»_14（1 一邙 K囲为工屋簾件鶉程柢率所以0三$£1从両有Md, pa*主心2）呵括信逍可挫佶逋足一亍權时祢信道，把信逋知叶分解血再个子即阵切I下匚117 - maxJ<Al-)近叫戸0 ) B氏 Fg )-衣.k-ifj>OJ = j»C JpOi ) + Ax= >

8、;PCFi = G- 一辛»彳亠辛丿空=(1一)/2 jPCH) - P<>Pi>2 "J十卩g"5?x2)-j;/2-h(1-5| -J/2-(l-i|)/2ben) = PL>PC>3g)亠pg)(3勺. x1) = sl/2-sl/2sl2>片>科.、芒 O)対-=(|-s)/2耐i3=r怎)_三啊戸3 J】q乱（3*）-丹尢4=4牛门吐-_= -(l-51)lofg3L+(l-y 一 5：1曜：(1一対一町-旳蚯2 西 bit/symbol3» I血皆這鞘用一般皆11的计算方袪»由欝式送My&#

9、39;*）】。晁也口）=送旳人叭iA = -1-37757； =-0,6225Clog工2占1咚严 +厂鬥0049 bi： 5）wMc. pf：.ypgM 汕=2'ljrM>w =0.327>-2-01628iL 由公式= y 尸工JpOJ兀 n由T現粗】s号3心g林得p(X|J =0.488p(x-0 5l2pfx/f. 0込工乩保证了 C的右在W准讨碍仁迫把怙追和醉令解诚三个子那阿如下=XXi） _丿斗）+-条扌* 土舟弓“召0戸（旳，* JX>jMdX> 心*傀MCh, vz>=-Lx-L+l<l=4- Xi , = pU-'p（yt HJ 十巩工訂旳；/石）=+ 汶 £ + +><¥ = ¥工PZSvD =Z>5戸bpi矶pO J-pC-）p<、 "/1ffl;PO J =my13 一_c=-2Lt MXi）Jog ；円儿）-g店一1=0.041 bit symbol六、求以下各信道矩阵代表的信道的容量1)这 个信道是对应