西安电子科技大学2011信息论与编码期末考试试题.pdf

一一 15 分分 设随机变量设随机变量 X 和和 Y 的联合分布如下所示的联合分布如下所示 4 01 01 1 04 00 10 X Y YX 随机变量随机变量 Z X Y 式中式中 为模为模 2 加加 试试分别分别求求 XH YH YXI ZXH 二二 15 分分 1 一个信源随机变量有一个信源随机变量有 7 个事件个事件 且其二元且其二元 huffman 编码和编码和 二元二元 Shannon Fano 编码的平均码长相同编码的平均码长相同 试写出该信源随机变试写出该信源随机变 量的量的一种一种概率分布概率分布 2 二元二元 9 5 线性分组码的最小码距离线性分组码的最小码距离 dmin不会超过多少不会超过多少 为为 什么什么 3 连续连续信道中的可加信道中的可加噪声噪声信道信道 当未知噪声统计特性时当未知噪声统计特性时 通通 常将其假设为高斯分布常将其假设为高斯分布 为什么为什么 三三 15 分分 DMS 的一维概率分布为的一维概率分布为 3 02 01 01 01 01 01 0 7654321 aaaaaaa 对其进行对其进行五五元元 Huffman 编码编码 并并给出给出平均码长平均码长和编码效率和编码效率 四四 15 分分 DMC 的输入事件集的输入事件集为为 0 1 输出事件集为输出事件集为 0 1 其其 中中 称为删除称为删除 转移概率矩阵为如下转移概率矩阵为如下 求信求信道容量和最佳输入分道容量和最佳输入分 布布 9 01 00 01 09 0 如果二元线性分组码的生成矩阵为如果二元线性分组码的生成矩阵为试问可以恢复几个删除试问可以恢复几个删除 为为 什么什么 100110 010011 001101 G 五五 15 分分 设一个长为设一个长为 16 的信息序列为的信息序列为 1110111011101110 对其进行对其进行 二元二元 LZ 编码编码 并给出编码速率并给出编码速率 能否近似计算编码效率能否近似计算编码效率 六六 15分分 二 元二 元 7 3 线 性 分 组 码线 性 分 组 码 其 生 成 矩 阵 为其 生 成 矩 阵 为 G 1001011 0101110 0011101 1 求该码的一个校验矩阵求该码的一个校验矩阵 H 2 求该码的最小码距离求该码的最小码距离 3 写出以写出以 s 1 1 1 1 为伴随式的所有向量为伴随式的所有向量 并并求出对应的陪求出对应的陪 集首集首 e s 六六 10 分分 时间离散的可加高斯噪声信道时间离散的可加高斯噪声信道 限定输入平均功率的上限限定输入平均功率的上限 为为 S 噪声服从高斯分布噪声服从高斯分布 0 2 N 证明证明 信道容量为信道容量为 2 1log 2 1 S C 最佳输入分布为高斯分布最佳输入分布为高斯分布 0 SN 七七 10 分分 证明证明 P K H是概率矢量是概率矢量 K PPP 21 P的上凸函数的上凸函数 即对即对 10 和矢量和矢量 112111K ppp P 222212K ppp P 证明证明 1 1 2121 PPPPHHH 六六 15 分分 设二元设二元 7 4 线性分组码的生成矩阵为线性分组码的生成矩阵为 0101100 1110100 1100010 1010011 G 1 计算最小汉明距离计算最小汉明距离 2 写出写出与与伴随式伴随式 111 对应的所有接收矢量对应的所有接收矢量 3 若接收矢量若接收矢量 1011000 试试根据根据最小距离译码准则进行译码最小距离译码准则进行译码 4 若通过转移概率为若通过转移概率为 p 的的 BSC 传送传送 求最小距离译码准则下的平均错误译求最小距离译码准则下的平均错误译 码概率码概率 pe及及不可检错误不可检错误概率概率 pud 五五 15 分分 离散无记忆信道转移矩阵如下所示离散无记忆信道转移矩阵如下所示 3 13 103 1 3 13 13 10 3 103 13 1 P 信源输入概率依次为信源输入概率依次为 1 2 1 4 1 4 1 求输入输出之间的平均互信息求输入输出之间的平均互信息 YXI 2 求信道容量求信道容量 C 四四 10 分分 设二元信源的字母概率为设二元信源的字母概率为 4 1 0 p 4 3 1 p 若信源输出序列为若信源输出序列为 1011 0111 1011 0111 试试对其进行对其进行 LZ 编码并计算编码并计算其其编码效率编码效率 三三 10 分分 令离散无记忆信源令离散无记忆信源 1 01 015 015 02 03 0 654321 aaaaaa U 试求试求 U 的最佳三元码的最佳三元码以以及相应的平均码长和编码效率及相应的平均码长和编码效率 二二 10 分分 设有一批电阻设有一批电阻 按阻值分按阻值分 70 是是 2 千欧姆千欧姆 30 是是 5 千欧姆千欧姆 按瓦数按瓦数 分分 64 是是 0 125瓦瓦 36 是是0 25瓦瓦 现已知现已知 2千欧姆千欧姆阻值中的电阻阻值中的电阻 80 是是 0 125 瓦瓦 问通过测量阻值可以得到多少关于瓦数的信息量问通过测量阻值可以得到多少关于瓦数的信息量 一一 30 分分 基本概念题基本概念题 1 请给出信道疑义度请给出信道疑义度 信道散布度的定义及信道散布度的定义及其其含义含义 2 请给出熵功率的定义请给出熵功率的定义式式 并与平均并与平均功率进行数值功率进行数值大小大小比较比较 3 简述信息处理定理简述信息处理定理 并说明其含义并说明其含义 4 解释解释说明最大似然准则和和最大后验概率准则说明最大似然准则和和最大后验概率准则之间之间的关系的关系 5 请判断正误请判断正误 并说明理由并说明理由 以以 R 105bit s