老师整理的习题(答案在百度文库上搜下,我有传).doc

chp02-03习题课：1、 如果你在不知道今天是星期几的情况下问你的朋友“明天是星期几？”则答案中含有多少信息量？如果你在已知今天是星期四的情况下提出同样的问题，则答案中你能获得多少信息量（假设已知星期一至星期日的排序）？（提示：因假设已知星期一至星期日的排序，而且也知道一星期只有七天，故在不知道今天是星期几的情况下，问明天是星期几的答案，只可能是星期一至星期日七天之一。而在已知今天是星期四的情况下，问明天是星期几的答案必定是星期五。）2、 居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数一半。假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？3、 设离散无记忆信源 其发出的消息为（202120130213001203210110321010021032011223210），求（1） 此消息的自信息是多少？（2） 在此消息中平均每个符号携带的信息量是多少？4、 一阶马尔可夫信源的状态图如图4.1所示，信源X的符号集为0，1，2并定义。（1） 求信源平稳后的概率分布P(0)，P(1)和P(2)。（2） 求此信源的熵。（3） 近似认为此信源无记忆时，符号的概率分布等于平稳分布。求近似信源的熵H(X)并与H进行比较。（4） 对一阶马尔可夫信源取何值时取最大值，又当和时结果如何。图4.1 一阶马氏信源的状态转移图5、设给定两随机变量X1和X2，它们的联合概率密度为 求随机变量Y= X1+ X2的概率密度函数，并计算变量Y的熵h（Y）。（提示：独立正态分布的随机变量之和仍是正态随机变量，其均值等于原均值之和，方差等于原方差之和。）6、 有一信源发出恒定宽度，但不同幅度的脉冲，幅度值x处在a1和a2之间。此信源连接至某信道，信道接收端接收脉冲的幅度y处在b1和b2之间。已知随机变量X和Y的联合概率密度函数试计算h(X),h(Y),h(XY)和I(X;Y)。6、 设某连续信道，其特性如下 ：而信道输入变量X的概率密度函数为： 试计算：（1）信源的熵h（x）。 （2）平均互信息I（X;Y）。Chp031,0321、 设有一个信源，它产生0，1序列的消息。它在任意时间而且不论以前发生过什么符号，均按P（0）=0.4，P（1）=0.6的概率发出符号。（1） 试问这个信源是否是平稳的？（2） 试计算H（X2） ，H（X3|X1X2）及limHN（X） （N-）。（3） 试计算H（X4）并写出X4信源中可能有的所有符号。2、 设有一信源，它在开始时以P（a）=0.6，P（b）=0.3，P（c）=0.1的概率发出X1。如果X1为a时，则X2为a，b，c的概率为1/3；如果X1为b时，则X2为a，b，c的概率为1/3；如果X1为c时，则X2为a，b的概率为1/2，为c的概率为0.而且，后面发出Xi的概率只与Xi-1有关，又P（Xi|Xi-1）=P（X2|X1） i=3.试利用马尔可夫信源的图示法画出状态转移图，并计算信源熵H。3、 黑白气象传真图的消息只有黑色和白色两种，即信源X=黑，白，设黑色出现的概率为P（黑）=0.3，白色的出现概率P（白）=0.7.（1） 假设图上黑白消息出现前后没有关联，求熵H（X）。（2） 假设消息前后有关联，其依赖关系为P（白|白）=0.9，P（黑|白）=0.1，P（白|黑）=0.2，P（黑|黑）=0.8，求此一阶马尔可夫信源的熵H2.（3） 分别求上述两种信源的剩余度，并比较H（X）和H2的大小，并说明其物理意义。H(X)=0.881比特/符号；H2=0.553比特/符号；信源剩余度1=0.119；2 =0.447. H（X）H2 结果说明：当信源的消息符号之间有依赖时，信源输出的消息的不确定性减弱。本题中，当有依赖时，前面已经是白色消息，后面绝大多数可能是出现白色的消息；前面是黑色消息，后面基本可猜测是黑色消息。这时信源的平均不确定性减弱。所以，信源消息之间有依赖时信源熵小雨信源消息之间无依赖时信源熵。这表明信源熵正是反映戏院的平均不确定性的大小。而信源剩余度正是反映戏院消息依赖关系的强弱，剩余度越大，信源消息符号之间依赖关系就越大。4、设有一连续随机变量，其概率密度函数为P（x）= Acosx x=/2 0 x取其他值又在定义域区间内符合完备集，试求这个随机变量的熵。答案：A=1/2,H（x）=-2AlnA-2Aln2+2A=1 奈特/样值作业：P49 3.12中的（1）和（2）chp04习题课后习题（P81） 4.14.24.64.154.16 一个快餐店只提供汉堡和牛排，当顾客进店以后只需向厨房喊一声“B”或“Z”就表示他点的是汉堡或牛排，不过通常8%的概率厨师可能会听错。一般来说进店的顾客90%会点汉堡，10%会点牛排。问：（1）这个信道的信道容量。（2）每次顾客点菜时提供的信息；（3）在这个信道可不可以正确地传递顾客点菜的信息。4.17 求图4-17中信道的信道容量及其最佳的输入概率分布，并求当=0和1/2时的信道容量值。图4-174.18在图片传输中，每帧约为2.25106个像素，为了能很好地重现图像，需分16个亮度电平，并假设亮度电平等概率分布。试计算每秒钟传送30帧图片所需信道的带宽（信噪功率比为30db ）。4.19设在平均功率受限高斯加性噪声连续信道中，信道带宽为3KHZ，又设（信号功率噪声功率）/噪声功率10db。 (1)试计算该信道传送的最大信息率（单位时间） (2)若（信号功率噪声功率）/噪声功率降为5db，要达到相同的最大信息传输率，信道带宽应是多少？chp05习题Chp05习题课课后习题：5.65.75.8习题1.有两个信源X和Y如下：（1） 分别用霍夫曼码编成二元变长唯一可译码，并计算其编码效率。（2） 分别用香农编码法编成二元变长唯一可译码，并计算编码效率。（3） 分别用费诺编码法编成二元变长唯一可译码，并计算编码效率。（4） 从X,Y两种不同信源来比较这三种编码方法的优缺点。习题2：信源空间为码符号为X=0，1，2，试着构造一种三元霍夫曼码。习题3：设有一页传真文件其中某一扫描行上的像素点如下所示：|73白|7黑|11白|18黑|1619白|（1） 该扫描行的MH码；（2） 编码后该行总比特数；（3） 本行编码压缩比（原码元总数：编码后码元总数）习题4：已知二元信源0，1，其概率分别为p0=1/8，p1=7/8,试着对下列序列11111110111110编算术码，并计算此序列的平均码长和编码效率。chp06习题课后习题：P1636.2 问题改为：分别按最小错误概率准则和最大似然译码准则确定译码规则，并计算相应的平均错误概率。习题1：设某二元码为C=11100，01001，10010，00111（1） 计算此码的最小距离dmin。（2） 计算此码的码率R，假设码字等概率分布。（3） 采用最小距离译码准则，试问接收序列10000，011000和00100应译成什么码字？（4） 此码能纠正几位码元的错误。习题2：下面是某（n,k）线性二元码的全部码字：C1=000000 C2=001111 C3=010001 C4=011110C5=100011 C6=101100 C7=110010 C8=111101（1） 求n,k为何值？（2） 构造这码的生成矩阵G；（写成系统码形式）（3）