信息论与编码第六章习题及参考答案

6.1某卷积码的框图如图6.7所示，假设初始状态为全零，输入序列为{1001101}，试写出输出序列，并计算出码率。图6.7(2,1,2)卷积码解：编码过程输入编码后状态X(n-2)X(n-1)码字C1C210111010110001110111111000101010110输出序列为（11111111001010），码率R=1/26.2某分组码输出码字集合为{0000,1001,0110,1010,0101},试写出各个码字的重量，并且计算最小汉明距离。解：码字重量分布为（0,2,2,2,2），通过逐个比较码字得到码字之间的汉明距离并取最小汉明距离d0=2.6.3某离散无记忆信道的概率转移矩阵为假设信道输入的概率空间为分别使用最小错误概率规则和最大似然译码规则来确定译码规则，并且计算对应的平均错误概率。解：后验概率后验概率，具体结果如表如下根据最小概率译码规则，在上述后验概率中寻找到最大概率对应的输入ai作为译码估计值，具体如下：b1a1b2a1b3a2如果发送符号为a1,接受符号为b2,b3,就会出现译码错误；如果发送为b2，接受符号为b2,b3,就会出现译码错误；如果发送符号为a3，接受符号为,b1,b3,就会出现译码错误；因此，译码错误计算如下：最大似然译码则是根据前向概率的列元素大小直接译码，具体译码规则为b1a1b2a3b3a2同理可以计算出译码错误概率可以看出。6.4某信道的输入、输出的符号集合分别为和，而且信道转移矩阵为信道的输入概率分别为，，分别采用最大后验译码规则和最大似然译码规则概率进行译码，选择译码方案进行译码，并计算相应的译码平均错误概率。解：后向转移概率为后验译码如下b1a1b2a2b3a2b4a2译码错误如果采用最大似然译码，由于2,3列中元素都是0.1，面临随机选择问题，如果选择后验译码相同的译码规则，则译码错误概率与PE1相同，否则，译码错误概率会增加。6.5设离散无记忆信道的误码元率为，现有两个码字(00，11)通过信道传输，信道输入码字等概率分布，采用最大似然规则译码，计算译码平均错误概率。如果信道输入码字的概率分别为，，仍然采用最大似然译码规则，重新计算译码平均错误概率。解输入符号a1=00a2=11，信道输出符号b1=00b2=01b3=10b4=11。根据题意信道前向概率为如果采用最大似然译码，选择译码规则为b1a1b2a1b3a2b4a2则译码错误概率为输入概率变化，译码错误概率也没有变化。6.6某离散无记忆信道的误码元率为，现有两个码字(0000，1111)通过信道传输，信道输入码字等概率分布，采用最大似然规则译码，写出所有可能接收码字，并计算译码平均错误概率。解输入符号a1=0000a2=1111，信道输出符号共16种，按照二进制顺序分别记做b1=0000直到b15=1111。由于信道输入是等概率的，最大似然译码中，如果4个接受符号中出现两个0，只能随意译码，假设出现两个0，译码为0000，则译码错误概率为将数据代入，可以计算出可以看出，译码错误概率主要取决两个0的译码。6.7对于二元重复码，如果采用最大似然译码准则，即采用择多译码准则，证明其译码平均错误概率为其中为二元对称信道的码元错误概率，并计算时的值。解：由于重复码的符号数量为奇数（2n+1），在信道传输过程中，只要出现n+1个错误，则译码也就相应发送错误，无论信道的输入先验概率如何，译码错误概率相同。证明：如果是2n+1个0，经过信道后出现n+1个及以上的1，则会出现译码错误，假设此时1的个数为i，即出现i个0经过信道后变为1，对应的概率为，对应的组合数为总的错误概率为，考虑到i的取值范围为n+1—2n+1，发送为0，判决为1的概率为；同理，发送为1，判决为0的概率与上述值相同。数据中0的概率记做p0,则1的概率为1-p0，平均译码错误为6.8某二元码集合为{11100，01001，00111，10010}（1）计算该码的重量分布和最小汉明距离；（2）该码能够纠正几位码元错误？（3）如果采用最小汉明距离译码，则接受序列11000，01100应当译码成什么码字？解：1）这是一个非