密码学基础 编码原理02.ppt

1、纠错编码原理 通信抗干扰国家重点实验室 Tel:清水河校区主楼403室,信息度量、信道容量、香农编码定理、香农限计算,信道编码与香农容量,例1 ：4-重复码的纠错译码操作,0，无错,0，单错纠正,0，单错纠正,双错,0，单错纠正,双错,双错,1，单错纠正,双错,双错,1，无错,1，单错纠正,1，单错纠正,1，单错纠正,双错,0，单错纠正,发送0000,发送1111,例2: 传输4比特信息,为纠正可能的任意一个错,构造码字为2维偶校验阵列即(9,4)码如下,码率R=4/9 其中p02,p12分别是第1,2行的偶校验码元， p20, p21分别是第1,2列的偶校验码元，p

2、22是第3行或第3列的偶校验码元 显然任意1位码元错误一定在某特定行和某特定列上同时导致偶校验失效，从而确定此码元错误, 实现纠正一个错误,*,*,*,怎样的码是好码?,纠错个数相同, 码率高, 而且是越高越好,极限?,香农(shannon)限,不可能不付出代价或使用资源去实现: 在噪声信道上的无差错信息传输或通信 通信资源: 时间T,带宽B,能量E 目标：高正确率，尽可能多传送信息,香农(shannon)编码定理和香农(shannon)限,信息量与信道容量,信息量或熵: 由一个符号集和其上的概率分布所界定的信源X, P(x)所具有的信息量或熵为: 信息量反映的就是信源的不确定度.,信息量与信

3、道容量(续),条件熵,二进制对称信道（BSC） 信道输入、输出： 转移概率矩阵为 ：,信息量与信道容量(续),BSC 信道的条件熵,互信息,BSC信道的互信息,信息量与信道容量(续),信道容量是给定信道上的最大信息传输速率， BSC信道的信道容量为：,显然在p=0.5时，CBSC=0，,课本中用 表示互信息,BSC信道容量,比特传输速率Rt 信道在单位时间内传输的数据比特数 比特信息速率Rb 原始信源在单位时间内发送的信息比特数 在二元情形中同传信率Rinfo 若编码码率为Rc，则,通信总是一个统计过程,纠检错能力最终要反映到差错概率上, 纠错译码的目的是最小化译码比特差错概率pb(e),信息

4、序列m,码字序列c,信道干扰严重，超过了码的纠错能力,信道传输比特差错率Pt(e) 传输中差错比特数与总发送比特数的比值 ，由具体的调制解调方式确定。如: 均匀分布的信源, BPSK 传输时， Pt(e)= PBPSK(e) 信息比特差错率Pb(e) （又称误码率） 错误信息比特数与总发送的信息比特数的比值，由具体编码译码方式和Pt(e)确定。,信息减损率L 由信道的噪声使得信息不能正确传送的损失。 L=1- CBSC(P(e),传输比特能量Es 发送一个传输比特的能量，是实际的物理能量消耗 信息比特能量Eb 发送一个信息比特所需的能量 在发送功率保持不变的条件下，传输一个消息符号等效的消息符

5、号能量为,香农编码定理,信息传输的终极目标 信息比特差错概率最小化Pb (e)0 香农编码定理: 存在一种编码码率RcC的分组码按最大似然译码准则译码时,当码长n,信息比特差错概率Pb(e)0,反之,若RcC,则不存在任何条件下的分组码使Pb(e)0.,香农编码定理(续),信道编码定理不是一个关于纠错码的构造性定理，至少依据此定理不能衡量或比较一个具体码在具体信道上的极限性能。,通信资源与香农限,不可能不付出代价或使用资源去实现无差错信息传输或通信 通信资源: 时间T,带宽B,能量E 时间序列上的纠错编码导致传输带宽扩展1/Rc=n/k倍 平均传送功率不变条件下传输符号能量降低1/Rc=n/k

6、倍 纠错编码对能量的最小需求是传输信息比特能量的最小需求,香农限: 单位时间单位带宽上传输1比特信息所需要的最小信噪比(Eb/N0),离散AWGN信道的信道容量 由香农编码定理有：,离散AWGN信道的香农限,+A或-A二元输入，连续输出的AWGN信道，其信道容量为,B-AWGN信道容量,香农限,B-AWGN信道,无差错传输,评价3-重复码（3，1）,Es/No为-5.32dB对应有,对应的Es/No= Rc*Eb/No=10*log10(0.33)-0.51 =-5.32,查表有,问题成为：信道的差错概率为p=0.2217，若用重复码（3，1）后，转移概率为多少？,转移概率为,0.1257,0.5*erfc(sqrt(10(-5.32/10) %matlab test,问题成为：信道的差错概率为p=？，若用重复码（3，1）后，转移概率3*10-4 信道的差错概率为p=0.01，若用重复码（3，1）后，转移概率=2.98*10-4,评价3-重复码（3，1）要实现几乎无差错传输需要的Eb/No,对应有Es/No为4.33dB,0.5*erfc(sqrt(10(-