2025 年大学电子信息工程（信息论基础）试题及答案

2025年大学电子信息工程（信息论基础）试题及答案

（考试时间：90分钟满分100分）班级______姓名______一、选择题（总共10题，每题3分，每题只有一个正确答案，请将正确答案填入括号内）1.信息论的创始人是（）A.香农B.维纳C.哈特莱D.费希尔2.离散无记忆信源发出的符号序列中，每个符号的出现概率（）A.相互关联B.相互独立C.部分关联D.部分独立3.信源熵的单位是（）A.比特/符号B.比特C.符号D.赫兹4.当信源符号等概率分布时，信源熵达到（）A.最小值B.最大值C.平均值D.不确定值5.对于离散平稳无记忆信源，其N次扩展信源的熵为（）A.N倍原信源熵B.原信源熵C.N分之一原信源熵D.不确定6.平均互信息I(X;Y)表示（）A.从Y获得关于X的平均信息量B.从X获得关于Y的平均信息量C.X和Y的平均信息量之和D.X和Y的平均信息量之差7.信道容量C是指（）A.信道中能传输的最大信息量B.信道中实际传输的信息量C.信源发出的信息量D.接收端收到的信息量8.对于高斯白噪声信道，其信道容量与（）有关A.信号功率和噪声功率B.信号带宽和噪声带宽C.信号功率谱密度和噪声功率谱密度D.以上都是9.香农编码的编码效率（）A.小于1B.等于1C.大于1D.不确定10.最佳二元码是指（）A.码长最短的码B.编码效率最高的码C.平均码长最短的码D.以上都不对二、多项选择题（总共5题，每题5分，每题有两个或两个以上正确答案，请将正确答案填入括号内）1.下列属于信息论研究内容的有（）A.信源编码B.信道编码C.密码学D.数据压缩E.通信网络理论2.信源的分类有（）A.离散信源B.连续信源C.平稳信源D.非平稳信源E.记忆信源3.计算平均互信息的方法有（）A.定义法B.熵法C.联合熵法D.条件熵法E.互信息法4.信道的分类有（）A.恒参信道B.随参信道C.连续信道D.离散信道E.半连续信道5.常用的信道编码有（）A.分组码B.卷积码C.Turbo码D.LDPC码E.汉明码三、判断题（总共10题，每题2分，正确的打“√”，错误的打“×”）1.信息是事物运动状态或存在方式的不确定性的描述。（）2.信源发出的符号越多，信源熵越大。（）3.平均互信息I(X;Y)=H(X)-H(X|Y)。（）4.信道容量只与信道特性有关，与信源无关。（）5.香农定理表明了信道容量、信号功率、噪声功率和带宽之间的关系。（）6.编码的目的是提高信息传输的可靠性。（）7.最佳编码就是使编码效率达到1的编码。（）8.离散信道的信道容量是信道能传输的最大平均信息量。（）9.信源熵是信源平均不确定性的度量。（）10.互信息I(X;Y)表示X和Y之间的相关性。（）四、简答题（总共4题，请简要回答下列问题，每题10分）1.简述信源熵的性质。2.说明平均互信息的物理意义。3.简述信道容量的定义及计算方法。4.解释香农编码的原理。五、综合题（总共2题，请详细解答下列问题，每题15分）1.已知离散无记忆信源X的概率分布为P(X=0)=0.3，P(X=1)=0.7，求：-信源熵H(X)。-若对信源进行二进制编码，求香农编码的码字及平均码长。2.设二元对称信道的转移概率P(0|1)=P(1|0)=p，求信道容量C，并讨论p=0和p=0.5时的情况。答案1.选择题-1.A2.B3.A4.B5.A6.B7.A8.D9.A10.C2.多项选择题-1.ABCDE2.ABCDE3.ABCD4.ABCDE5.ABCDE3.判断题-1.√2.×3.√4.√5.√6.×7.×8.√9.√10.√4.简答题-1.信源熵具有非负性、对称性、扩展性、可加性、极值性等性质。非负性指熵值恒大于等于0；对称性表明信源符号等概率分布时熵最大；扩展性是增加概率为0的符号不改变熵；可加性用于计算联合信源熵；极值性体现等概率分布时熵最大。-2.平均互信息I(X;Y)表示从Y获得关于X的平均信息量，它反映了两个随机变量之间的统计依赖程度，是信息传输中信息流通量的度量，体现了通过信道传输后，接收端从观测到的Y中获取X信息的多少。-3.信道容量C是信道中能传输的最大平均信息量。计算方法：对于离散无记忆信道，通过求平均互信息的最大值得到；对于连续信道，在高斯白噪声等特定条件下，依据香农公式计算，如C=Blog₂(1+S/N)，其中B是带宽，S是信号功率，N是噪声功率。-4.香农编码原理：根据信源符号的概率大小进行排序，概率大的符号编码短，概率小的符号编码长。计算每个符号的累加概率，取大于等于累加概率的最小整数作为码字长度，再根据累加概率确定码字，使得平均码长接近信源熵的下限。5.综合题-1.解：-信源熵H(X)=-0.3log₂0.3-0.7log₂0.7≈0.881比特/符号。-香农编码：-符号0：P(0)=0.3，累加概率0.3，码字长度取2，码字00。-符号1：P(1)=0.7，累加概率0.3+0.7=1，码字长度取1，码字1。-平均码长L=0.3×2+0.7×1=1.3比特/符号。-2.解：信道容量C=