12级信息论复习题

1、1、求基本髙斯信源的差爛。 2、一个随机变量x的概率密度函数为p(Q = kx, 0 x2Vo试求该信源的相对爛。 3、一个随机变量x的概率密度函数为p(x) = kc, 0a:bg = bq 9,0*6 b? =f bg =f bg =90|Q (IV)a输 10 入信号X是10个相互统计独立、均值为0、方差为代的髙斯变量，且满足：工 =1(用)。 求各子信道的信号功率分配方案。 12、给建语音信号样值x的槪率密度函数为p(x)=-Ae , svxvs,求 2 并比较HC(X)与具有同样方差的正态变量的连续矯的大小。 13、某二元信源 pM 0.5 1 0.5_ 英失真矩阵左义为 = 0?求

2、该信源的 max，和该信源的信息率失真函数R(D) o 14.设连续信源X,其概率密度函数为= 叽 失真度为cl(x.y) = x-y. 2 试求此信源的R(D)函数。 15、一个二进制非等概信源，符号集A = O,1), p(0) = p=p, P(1) = P2=1 P， 试验信道输岀符号集B = OJ),失真函数为汉明失真。求该信源的信息率失真函数/?(D)o 16. 设一个四元等概信源 爲皿5。；5 23 0.25 0.25 接收符号集为 0 1 1 0 Ar = 0,1,2,3），失真矩阵定义为1 1 1 1 1 ，求入x，Dmin及信源的R(D)函数, 1 0. 并作岀率失真函数曲

3、线(取4到5个点)。 17、信源符号X有6种字母，概率为 7 7 7 X7 1 2 3 4 5 Z(Y zfx zl /| z(v 求符号爛H(X)。 用香农编码法编成二进制变长码，il算其编码效率。 用费诺编码法编成二进制变长码，计算其编码效率。 用霍夫曼编码法编成二进制变长码，计算英编码效率。 用霍夫曼编码法编成三进制变长码，计算其编码效率。 18、信源符号X有6种字母，概率为 a) 求符号爛H(X) b) 用香农编码法编成二进制变长码，计算其编码效率。 C)用费诺编码法编成二进制变长码，计算其编码效率。 d)用霍夫曼编码法编成二进制变长码，计算其编码效率。 e)用霍夫曼编码法编成三进制变

4、长码，计算其编码效率。 19、有一个n元等概率、平稳无记忆信源X =0丄屮-1,接收符号集为 r =(o丄山一1.且规定失真矩阵为 o 1 =: 1 1 1 0 1 1 0 求率失真函数R(D), 20、设髙斯信源X的概率密度函数为 yflTTCT 且失真函数立义为差方失真，（丄y） = （x-y）2 = F。求该信源的率失真函数的香农 下限。 2E设有多维无记忆加性连续信道，输入信号序列为：丘=（斗,心，,业），输出信号序 列为：y = （yry2 yLy其噪声为髙斯噪声，噪声序列亓=仇宀,心）中的各分量是 均值为0,方差为b：的高斯噪声，分两种情况计算其信道容量: （1）在各单元时刻（r

5、= i,2,，厶）上的噪声都是均值为0、方差为b，的髙斯噪声: （2）在各单元时刻（/= 12，厶）上的噪声都是均值为0、方差为cr：的 高斯噪声，但输入信号的总平均功率受限，其约朿条件为: =e42=E = p 22、设二进制对称信道的转移概率矩阵为 2/3 1/3 P = 1/3 2/3 若p（x0） = 3/4,卩（和=1/4,求H（X）, H（X/Y）, H（Y/X）和/（X;Y）； （2）求该信道的信道容量及其达到信道容量时的输入概率分布。 23、某信源发送端有两个符号：xp/ = l,2,=每秒发出一个符号。接收瑞有 三种符号：兀J = 1,2,3,转移概率矩阵 1/2 1/2 0

6、 P = J/2 1/4 1/4 （1）计算接收端的平均不确定性； （2）计算由于噪声产生的不确泄性H（Y/X）； （3）计算信道容疑。 24、在干扰离散信道上传输符号1和0,在传输过程中每100个符号发生一个错传的符 号。已知p（O） = p（l） = l/2,信道每秒内允许传输1000个符号。求此信道的容量。 25、发送端有三种等概率符号（心吃內厂（兀）=1/3,接收端收到三种符号 （）1丿2,儿），信道转移概率矩阵为 0.5 0.3 0.2 0.4 0.3 0.3 0.1 0.9 0 （1）计算接收端收到一个符号后得到的信息量H（Y）； （2）计算噪声矯H（Y/X）； （3）il算接收端

7、收到一个符号儿的错误概率: （4）计算从接收端看的平均错误槪率； （5）计算从发送端看的平均错误槪率； （6）从转移矩阵中能看岀该信道的好坏吗 （7）计算发送端的H（X）和H（X/Y）. 26、 设无记忆信源 X PM 1/3, 0, 1/3, 1/3 接收符号集y = _胡，失真矩阵 1 2 1 1 ,试求：D.杠和几n及达到Onax、几加时的转移概率矩阵。 2 1 27、 已知二元信源 1 1- 1 o 试求: Dmin：（2） Dmax: （3） R（D） 28. 某信源有8个符号me，绳，概率分别为1/2, 1/4, 1/8, 1/16, 1/32, 1/64, 1/128, 1/12

8、8,试编成这样的码:000, 00b 010, 01b 100, 101, 110, 111 的码。 求 （1）信源的符号燔H（X） （2）岀现一个1或一个0的概率。 （3）这种码的编码效率。 （4）相应的香农码及其编码效率。 （5）相应的费诺码及其编码效率。 29、已知符号集合匕兀-为无限离散消息集合，它们岀现的概率分別为 p（Xj） = l/2 , p（x2） = l/49 p（x3） = 1/8 , p（xj = 1/2等。 （1）用香农编码方法写岀各个符号消息的码字。 （2）II-算码字的平均信息传输速率： （3）计算信源编码效率。 30、已知一信源包含8个消息符号，其出现的槪率为 P（X） = 01,01&04,005,006,01,007,004。 （1）若该信源在每