第二章总结与习题课件.ppt

2020/4/27,1,第二章总结,(1)单符号离散信源信息量自信息、条件自信息概念、性质、计算互信息、条件互信息概念、性质、计算互信息的三种表达方式（输入端、输出端、系统总体）熵信息熵的概念、性质、计算无条件熵、条件熵（信道疑义度、噪声熵）平均互信息概念、性质、计算平均互信息的三种表达方式平均互信息的凸函数性I(X;Y)是p(ai)的上凸函数I(X;Y)是p(bj/ai)的上凸函数数据处理定理概念理解各种熵之间的关系,2020/4/27,2,(2)多符号离散信源离散平稳无记忆信源概念、计算离散平稳有记忆信源概念、简单计算条件熵、极限熵概念、简单计算马尔可夫信源概念、极限熵计算信源冗余度概念、通信效率与可靠性的关系(3)连续信源概念、与离散信源的比较和区别、简单计算理解最大连续熵定理熵功率的概念(4)离散无失真信源编码定理定长编码定理变长编码定理,2020/4/27,3,作业题1,2.1试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍？解：四进制脉冲可以表示4个不同的消息，例如：0,1,2,3八进制脉冲可以表示8个不同的消息，例如：0,1,2,3,4,5,6,7二进制脉冲可以表示2个不同的消息，例如：0,1假设每个消息的发出都是等概率的，则：四进制脉冲的平均信息量八进制脉冲的平均信息量二进制脉冲的平均信息量所以：四进制、八进制脉冲所含信息量分别是二进制脉冲信息量的2倍和3倍。,2020/4/27,4,作业题2,2.2.一幅充分洗乱了的牌（含52张牌），试问(1)任一特定排列所给出的信息量是多少？(2)若从中抽取13张牌，所给出的点数都不相同能得到多少信息量？,2020/4/27,5,作业题2,解答：(1)任意排列共有种，则任一排列的自信息量为：(2)应将点数相同花色不同的牌看作一类，则任意抽取的13张牌应在13类种分别进行。其概率为信息量为：,2020/4/27,6,作业题3,2.3.居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？,2020/4/27,7,作业题3,解答：设随机变量X代表女孩子学历:设随机变量Y代表女孩子身高,2020/4/27,8,作业题3,已知：在女大学生中有75%是身高160厘米以上的即：求：身高160厘米以上的某女孩是大学生的信息量即：,2020/4/27,9,作业题4,2.4.设离散无记忆信源为:其发出的信息为:(202120130213001203210110321010021032011223210)求:(1)此消息的自信息量是多少？(2)此消息中平均每符号携带的信息量是多少？,2020/4/27,10,作业题4,解(1)此消息总共有14个0、13个1、12个2、6个3，因此此消息发出的概率是：此消息的信息量是：(2)此消息中平均每符号携带的信息量是：,2020/4/27,11,作业题5,2.5从大量统计资料知道，男性中红绿色盲的发病率为7%，女性发病率为0.5%，如果你问一位男士：“你是否是色盲？”他的回答可能是“是”，可能是“否”，问这两个回答中各含多少信息量，平均每个回答中含有多少信息量？如果问一位女士，则答案中含有的平均自信息量是多少？,2020/4/27,12,作业题5,解：男士发病的分布：,2020/4/27,13,作业题5,解：女士发病的分布：,2020/4/27,14,作业题6,2020/4/27,15,作业题6,2020/4/27,16,作业题7,2.7.同时掷两个正常的骰子，也就是各面呈现的概率都为1/6，求：(1)“3和5同时出现”这事件的自信息量；(2)“两个1同时出现”这事件的自信息量；(3)两个点数的各种组合(无序对)的熵或平均信息量；(4)两个点数之和(即构成的子集)的熵；(5)两个点数中至少有一个是1的自信息量。,2020/4/27,17,作业题7,2020/4/27,18,作业题7,2020/4/27,19,作业题7,2020/4/27,20,作业题8,2.8.证明：H(X1X2Xn)H(X1)+H(X2)+H(Xn)。证明：,2020/4/27,21,作业题9,2.9证明：H(X3/X1X2)H(X3/X1)，并说明等式成立的条件。证明：,2020/4/27,22,作业题9,1,离散时间随机过程。该过程中，在给定当前知识或信息的情况下，过去（即当期以前的历史状态）对于预测将来（即当期以后的未来状态）是无关的,2020/4/27,23,作业题10,2.10对某城市进行交通忙闲的调查，并把天气分成晴雨两种状态，气温分成冷暖两个状态，调查结果得联合出现的相对频度如下：,2020/4/27,24,作业题10,若把这些频度看作概率测度，求:(1)忙闲的无条件熵；(2)天气状态和气温状态已知时忙闲的条件熵；(3)从天气状态和气温状态获得的关于忙闲的信息。解：设X、Y、Z分别表示忙闲、晴雨和冷暖，(1)先求忙闲的概率分布,2020/4/27,25,作业题10,(2),2020/4/27,26,作业题10,(3)=0.105比特/符号,2020/4/27,27,作业题11,2.11有两个二元随机变量，它们的联合概率为并定义另一随机变量Z=XY(一般乘积)。试计算：(1)(2)(3),和,2020/4/27,28,作业题11,2020/4/27,29,作业题11,2020/4/27,30,作业题11,2020/4/27,31,作业题11,2020/4/27,32,作业题11,2020/4/27,33,作业题11,(3),2020/4/27,34,作业题12,2.12有两个随机变量X和Y，其和为Z=X+Y（一般加法），若X和Y相互独立，求证：H(X)H(Z),H(Y)H(Z)。,由,对离散型,值不同,但概率一样.,2020/4/27,35,作业题13,2.13设有一个信源，它产生0，1序列的信息。它在任意时间而且不论以前发生过什么符号，均按P(0)=0.4，P(1)=0.6的概率发出符号。(1)试问这个信源是否是平稳的？(2)试计算H(X2),H(X3/X1X2)及H；(3)试计算H(X4)并写出X4信源中可能有的所有符号。,2020/4/27,36,作业题13,(3),2020/4/27,37,作业题14,2.14设X=X1,X2,XN是平稳离散有记忆信源，试证明：P44略,2020/4/27,38,作业题15,2.15某一无记忆信源的符号集为0,1，已知P(0)=1/4，P(1)=3/4。(1)求符号的平均熵；(2)有100个符号构成的序列，求某一特定序列（例如有m个“0”和（100-m）个“1”）的自信息量的表达式；(3)计算(2)中序列的熵。,2020/4/27,39,作业题15,2020/4/27,40,作业题16,2.16,2020/4/27,41,作业题16,(1),2020/4/27,42,作业题16,2020/4/27,43,作业题17,2.17.一黑白气象传真图的消息只有黑色和白色两种，即信源X=黑,白。设黑色出现的概率为P(黑)=0.3，白色的出现概率P(白)=0.7。(1)假设图上黑白消息出现前后没有关联，求熵H(X)；(2)假设消息前后有关联，其依赖关系为P(白/白)=0.9，P(黑/白)=0.1，P(白/黑)=0.2，P(黑/黑)=0.8，求此一阶马尔可夫信源的熵H2(X)；(3)分别求上述两种信源的剩余度，比较和的大小，并说明其物理意义。,2020/4/27,44,作业题17,2020/4/27,45,作业题17,(2),H2(X),2020/4/27,46,作业题17,(3),2020/4/27,47,作业题18,2.18每帧电视图像可以认为是由3105个像素组成的，所有像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现，问每帧图像含有多少信息量？若有一个广播员，在约10000个汉字中选出1000个汉字来口述此电视图像，试问广播员描述此图像所广播的信息量是多少（假设汉字字汇是等概率分布，并彼此无依赖）？若要恰当的描述此图像，广播员在口述中至少需要多少汉字？,2020/4/27,48,作业题18,2020/4/27,49,作业题19,2.19,2020/4/27,50,作业题19,其中,因为,2020/4/27,51,作业题19,正态,2020/4/27,52,作业题20,2.20,2020/4/27,53,作业题20,2020/4/27,54,作业题20,2020/4/27,55,作业题20