信息论与编码试卷09-10-1-A-答案.doc

杭州电子科技大学学生考试卷（A）卷多少信息量。解：根据题意有，由所以得知5k电阻的功耗为1/4W，获得的自信息量为0.448bit三、（18分）已知6符号离散信源的出现概率为，试计算它的熵、Huffman编码和费诺编码的码字、平均码长及编码效率。解：该离散信源的熵为=1.933 bit/符号Huffman编码为：平均码长编码效率为考试课程信息论与编码考试日期成绩课程号教师号任课教师学生姓名学号（8位）班级一、填空题（每空2分，共32分）。1. 在现代通信系统中，信源编码主要用于解决信息传输中的 有效性 ，信道编码主要用于解决信息传输中的 可靠性 ，加密编码主要用于解决信息传输中的 安全性 。2. 离散信源，则信源的熵为 1.75bit/符号 。3. 对称DMC信道的输入符号数为n，输出符号数为m，信道转移概率矩阵为pij，则该信道的容量为。4. 采用m进制编码的码字长度为Ki，码字个数为n，则克劳夫特不等式为， 它是判断 唯一可译码存在 的充要条件。5. 差错控制的基本方式大致可以分为 前向纠错 、 反馈重发 和 混合纠错 。6. 如果所有码字都配置在二进制码树的叶节点，则该码字为 唯一可译码 。7. 齐次马尔可夫信源的一步转移概率矩阵为P，稳态分布为W，则W和P满足的方程为 W=WP 。8. 设某信道输入端的熵为H(X)，输出端的熵为H(Y)，该信道为无噪有损信道，则该信道的容量为 MAX H（Y） 。9. 某离散无记忆信源X，其符号个数为n，则当信源符号呈 等概_分布情况下，信源熵取最大值_log（n） 。10. 在信息处理中，随着处理级数的增加，输入消息和输出消息之间的平均互信息量趋于减少 。二、（12分）设有一批电阻，按阻值分70%是2k，30%是5k；按功耗分64%是1/8W，36%是1/4W。现已知2k电阻中80%是1/8W，假如得知5k电阻的功耗为1/4W，问获得费诺编码为：符号概率编码过程码字a10.511a20.250101a30.12501001a40.0625010001a50.031250100001a60.03125000000平均码长编码效率为四、（14分）在图片传输中，每帧约有2106个像素，为了能很好地重现图像，每像素能分256个亮度电平，并假设亮度电平等概分布。试计算每分钟传送两帧图片所需信道的带宽（信噪功率比为30dB）。解：每个像素点对应的熵 bit/点2帧图片的信息量单位时间需要的信道容量由香农信道容量公式五、（8分）求右图所示的信道的容量及达到信道容量时的输入分布。解：由右图可知，该信道的转移概率矩阵为可以看到，当该信道的输入分布取时，此时而，此分布满足。因此这个信道的容量为C=lb2=1（bit/符号），而达到信道容量的输入分布可取。六、（16分）设离散信源（其中）和接收变量V=v1，v2，v3，v4，失真矩阵为，求Dmin，Dmax、R（Dmin）、R（Dmax）、达到Dmin和Dmax时的编码器转移概率矩阵P。解：由于失真矩阵每行每列都只有一个最小值“0”，所以可以达到Dmin=0，此时对应的信道转移概率矩阵应使得信源的每个输出经过信道转移后失真为0，即选择。R（Dmin）= R（0）= H(U) = 1-p*log p (1-p)*log(1-p) = 1+H(p)。Dmax=，由于 具有对称性，每个