信息论与编码试卷及答案

一、（11’）填空题（1）1948年，美国数学发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。（2）必然事件的自信息是_0。（3）离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的.（4）对于离散无记忆信源，当信源熵有最大值时，满足条件为_信源符号等概分布。（5）若一离散无记忆信源的信源熵H（X）等于2。5,对信源进行等长的无失真二进制编码，则编码长度至少为。（6）对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的。（7）已知某线性分组码的最小汉明距离为3,那么这组码最多能检测出2__个码元错误，最多能纠正___1_个码元错误。（8）设有一离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R_小于C（大于、小于或者等于），则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。（9）平均错误概率不仅与信道本身的统计特性有关，还与和一编码方法―有关三、（5）居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。假如我们得知“身高1。6米以上的某女孩是大学生”的消息，问获得多少信息量？解：设A表示“大学生”这一事件，B表示“身高1。60以上〃这一事件，则TOC\o"1-5"\h\zP（A）=0.25p（B）=0。5p（B|A）=0。75（2分）故p（A|B）=p（AB）/p（B）=p（A）p（B|A）/p（B）=0.75*0.25/0.5=0.375（2分）I（A|B）=—log0。375=1.42bit（1分）四、（5）证明:平均互信息量同信息熵之间满足I（X;Y）=H（X）+H（Y）—H（XY）证明：（2分）同理（1分）则因为（1分）故即（1分）五、（18’）.黑白气象传真图的消息只有黑色和白色两种，求：1）黑色出现的概率为0.3，白色出现的概率为0.7。给出这个只有两个符号的信源X的数学模型。假设图上黑白消息出现前后没有关联，求熵；2）假设黑白消息出现前后有关联，其依赖关系为，，，，求其熵.3）分别求上述两种信源的冗余度，比较它们的大小并说明其物理意义。解：1）信源模型为（1分）2）由题意可知该信源为一阶马尔科夫信源。（2分）由（4分）得极限状态概率（2分）（3分）3）（1分）（1分）。说明：当信源的符号之间有依赖时，信源输出消息的不确定性减弱。而信源冗余度正是反映信源符号依赖关系的强弱，冗余度越大，依赖关系就越大。（2分）六、（18’）。信源空间为，试分别构造二元香农码和二元霍夫曼码，计算其平均码长和编码效率（要求有编码过程）。七（6’）。设有一离散信道，其信道传递矩阵为，并设，试分别按最大后验概率准则与最大似然译码准则确定译码规则，并计算相应的平均错误概率。1）（3分）最小似然译码准则下，有，2）（3分）最大后验概率准则下，有，八（10'）.二元对称信道如图。1）若，，求、和；2）求该信道的信道容量。解：1）共6分2），（3分）此时输入概率分布为等概率分布。（1分）九、（18'）设一线性分组码具有一致监督矩阵1）求此分组码n=?，k=？共有多少码字？2）求此分组码的生成矩阵G.3）写出此分组码的所有码字.4）若接收到码字（101001），求出伴随式并给出翻译结果.解：1）n=6，k=3,共有8个码字。（3分）2）设码字由得（3分）令监督位为，则有（3分）生成矩阵为（2分）3）所有码字为000000,001101，010011,011110,100110，101011,110101，111000.（4分）4）由得，（2分）该码字在第5位发生错误，（101001）纠正为（101011），即译码为（101001）（1分）一、填空题（本题10空，每空1分，共10分）1、必然事件的自信息量是―0，不可能事件的自信息量是—无穷。2、一信源有五种符号｛a，b，c，d，e｝，先验概率分别为Pa=0。5,Pb=0。25，Pc=0.125,Pd=Pe=0。0625。符号“a”的自信息量为—1bit,此信源的熵为__1。875bit/符号。3、如某线性分组码的最小汉明距dmin=6，最多能纠正2个随机错。4、根据密码算法所使用的加密密钥和解密密钥是否相同，可将密码体制分成对称（单密钥）和—非对称（双密钥）。5、平均互信息量I（X；Y）与信源熵和条件熵之间的关系是__I（X：Y）=H（X）—H（X/Y）6、克劳夫特不等式是唯一可译码__存在的充要条件。｛00,01,10,11｝是否是唯一可译码？—是。三、单项选择题（本题共10小题；每小题2分，共20分）1、对连续集的熵的描述不正确的是（A）A连续集的熵和离散集的熵形式一致，只是用概率密度代替概率，用积分代替求和B连续集的熵值无限大C连续集的熵由绝对熵和微分熵构成D连续集的熵可以是任意整数2、设信道输入为矽输出为y，若译码准则是当册Ix。火|"，对所有m丰m'时，将）判为m'，则称该准则为（D）A最大后验概率译码准则B最小错误概率准则C最大相关译码准则D最大似然译码准则3、线性分组码不具有的性质是（C）A任意多个码字的线性组合仍是码字B最小汉明距离等于最小非0重量C最小汉明距离为3D任一码字和其校验矩阵的乘积cmHT=04、关于伴随式的描述正确的是（A）A伴随式、与传送中信道出现的错误图样e有关B通过伴随式$可以完全确定传送中信道出现的错误图样eC伴随式$与发送的具体码字有关D伴随式、与发送的具体码字有关，与传送中信道出现的错误图样e也有关5、率失真函数的下限为（B）AH（U）B0CI（U；V）D没有下限6、纠错编码中，下列哪种措施不能减小差错概率（D）A增大信道容量B增大码长C减小码率D减小带宽7、已知某无记忆三符号信源a，b，c等概分布，接收端为二符号集，其失真矩阵为，则信源的最大平均失真度Dmax为（D）A1/3B2/3C3/3D4/38、一珍珠养殖场收获240颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉1颗.一人随手取出3颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6次能找出，结果确是如此，这一事件给出的信息量（A）.A0bitBlog6bitC6bitDlog240bit9、已知随机噪声电压的概率密度函数p(x)=1/2,x的取值范围为一1V至+1V，若把噪声幅度从零开始向正负幅度两边按量化单位为0dV做量化，并且每秒取10个记录，求该信源的时间熵(B)A21。61bit/sB43.22bit/sC86。44bit/sD以上都不对10、彩色电视显像管的屏幕上有5X105个像元，设每个像元有64种彩色度,每种彩度又有16种不同的亮度层次，如果所有的彩色品种和亮度层次的组合均以等概率出现，并且各个组合之间相互独立.每秒传送25帧图像所需要的信道容量(C)A50.106B75.106C125.106D250.106第7章线性分组码巳知一个(5，3)线性码C的生成矩阵为：求系统生成矩阵；列出C的信息位与系统码字的映射关系；求其最小Hamming距离，并说明其检错、纠错能力；(4)求校验矩阵H;(5)列出译码表,求收到=11101时的译码步骤与译码结果。解：线性码C的生成矩阵经如下行变换：得到线性码C的系统生成矩阵为码字的编码函数为生成了的8个码字如下信息元系统码字0000000000100111010010100110110110010011101101001101100111111110最小汉明距离d=2，所以可检1个错，但不能纠错.由，得校验矩阵(5)消息序列m=000,001，010，011，100，101,110，111，由c=mGs得码字序列c0=00000,勺=00111，c2=01010，c3=01101,c4=10011，c5=10100，c6=11001,c7=11110则译码表如下：■I00000I00111I01010I01101I10011I10100I11001I11110I100001011111010111010001100100010010111001000011110001000101110111110010001101100000100110010110110010010101011100011111当接收到r=(11101)时，查找码表发现它所在的列的子集头为(01101),所以将它译为c=01101。设(7,3)线性码的生成矩阵如下求系统生成矩阵；求校验矩阵；求最小汉明距离；列出伴随式表。解：生成矩阵G经如下行变换得到系统生成矩阵：由,得校验矩阵为由于校验矩阵H的任意两列线性无关，3列则线性相关，所以最小汉明距离d=3。(4)(7,3)线性码的消息序列^=000,001,010,011,100,101,110,111,由c=mGs得码字序列:c0=0000000,^=0010111,c2=0101010,c3=0111101,c4=1001101,c5=1011010,c6=1100111,c7=1110000。又因伴随式有24=16种组合，差错图样为1的有，差错图样为2的有，而由，则计算陪集首的伴随式，构造伴随表如下：伴随式陪集首伴随式陪集首00000000000010110010001101100000010011000100101001000001111001100001110010000110000011001000000100011100100100010000001001011010000100100000010001100101000001000000101100000110巳知一个(6,3)线性码C的生成矩阵为：(1)写出它所对应的监督矩阵H；(2)求消息M=(101)的码字；(3)若收到码字为101010，计算伴随式，并求最有可能的发送码字。解:线性码C的生成矩阵G就是其系统生成矩阵G$,所以其监督矩阵H直接得出：消息M=(m0,m1，m2)=(101),则码字c为：收到码字r=(101010)，则伴随式又(6,3)线性码的消息序列m=000,001,010,011,100,101,110,111,由c=mGs得码字序列：c0=000000,c1=001110,c2=010011,c3=011101,c4=100101,c5=101011,c6=110110,c7=111000。伴随式有23=8种情况，则计算伴随式得到伴随表如下：伴随式陪集首000000000101100000011010000110001000100000100010000010001000001111100010伴随式(001)对应陪集首为(000001)，而c=r+e,则由收到的码字r=(101010),最有可能发送的码字c为：c=(101011)。4•设(6,3)线性码的信息元序列为x1x2x3，它满足如下监督方程组求校验矩阵，并校验10110是否为一个码字；求生成矩阵，并由信息码元序列101生成一个码字。解：由监督方程直接得监督矩阵即校验矩阵为：因为收到的序列10110为5位，而由(6,3)线性码生成的码字为6位，所以10110不是码字。由，则生成矩阵为：得码字为c：「4.信息码元序列M=M1)，由c=mGs第8章循环码1。已知(8，5)线性分组码的生成矩阵为证明该码是循环码；求该码的生成多项式。得码字为c：证明如下：由生成矩阵可知为(8、5)循环码。生成多项式如下：2。证明：为(15，5)循环码的生成多项式，并写出信息多项式为时的码多项式(按系统码的形式)。由定理8-1可知(n，k)循环码的生成多项式g(x)为xn+1的因子，g(x)为n-k次多项式，本题目中知:为一个10次多项式，n—k=15-5=10并且：所以：是的一个因子，也是循环码的生成多项式.按系统码构造多项式如下：3。已知(7,4)循环码的生成多项式为，信息多项式为，分别由编码电路和代数计算求其相应的码多项式C(x).由题目可知代数计算求解过程如下:由编码电路进行求解：编码电路如下所示：编码过程如下：时钟信息元寄存器码字DoD1D,输出码字0000111101200110301110410111500116000170000可得：4。令(15,11)循环码的生成多项式为，计算(1)若信息多项式为，试求编码后的系统码字；(2)求接收码组的校正子多项式。解题过程如下：校正多项式如下所示：码长为n=15的本原BCH码，求不同纠错能力下的BCH码各自的生成多项式。纠错能力：，所以最多能纠正7个错误码。有限域GF(24)，4次本原多项式，冬为f(x)的一个根,可知：，计算2t=14个连续幂次为对应的最小