《信息论与编码》实验指导书-电信20-23级

1、信息工程学院信息论与编码实验指导书（哈尔滨石油学院-信息工程学院）endendfor i=p:q-lif i=kB(i,j)=0；END(i)=char(END(i)；01;elseB(i,j)=l；END(i)=char(END(i)； 11;endendendendp=q;endC=B(:,j);D=find(C-l);e,f=size(D);if e=nj=o；elsej=j+l;endendBA10信息论与编码实验指导书(哈尔滨石油学院-信息工程学院)ENDfor i=l:nu, v=size(char(END(i);L(i)=v;endavlen=sum(L.*A)六、实验报告要求记

2、录整理实验结果，并对结果进行分析。七、实验结果Command Window0.40000-1. 0000-1.0000-1.0000-1.00000.30001.00000-1.0000-1.0000-1.00000.10001.00001. 000000-1.00000.09001.00001. 000001.0000-1.00000.07001. 00001.00001.00000-1.00000.04001.00001.00001.00001. 0000-1.00000.40000.30000. 10000.09000. 07000.0400END：0, 10, 1100, 1101,m

3、o, miavlen =2. 2000fx 17级电信2妍07号张某某|11信息论与编码实验指导书(哈尔滨石油学院-信息工程学院)实验三Huffman编码的仿真与实现一、实验目的1、了解Huffman编码的基本原理及其特点。2、熟悉掌握Huffman编码的方法和步骤。3、掌握Mat lab编写Huffman编码的程序。二、实验原理给定某个信源符号的概率分布，通过以下的步骤进行香农编码1、将q个信源符号按概率递减的方式排列。2、用0、1码符号分别表示概率最小的两个信源符号，并将这两个概率最 小的信源符号合并成一个新的符号，从而的得到的只含qT个符号的新信源， 称为信源的缩减信源3、将缩减信源中的

4、符号仍按概率大小以递减次序排列，重复步骤(2)4、重复(1) (2) (3)三步骤，直至缩减信源只剩下两个符号为止，将这最 后两个符号分别用0、1码字表示。5、从最后一级缩减信源开始，向前返回，得出各信源符号所对应的码符号 序列，即为对应信源符号的码字。三、实验设备与器件1、计算机。2、软件：Matlabo四、实验预习要求1、Huffman编码的基本原理。2、Huffman编码的方法和步骤。五、实验内容及实验步骤Huffman源程序p=input(fplease input a number:1) % 提示输入界面 n=length(p);for i=l:nifp(i)0fprintf(n T

5、he sum of the probabilities in huffman can more than 1 !n);p=input(，please input a number:) %如果输入的概率数组总和大于1 ,那么重新 输入概率数组endq二P；a=zeros(n-l,n); %生成一个n-1行n列的数组for i=l:n-lq,l=sort(q) %对概率数组q进行从小至大的排序，并且用1数组返回一个 数组，该数组表示概率数组q排序前的顺序编号a(i,:)=1( 1 :n-i+1 ),zeros( 1 ,i-1)%由数组1构建一个矩阵，该矩阵说明概率合并时的顺序，用于后面的编码q=q

6、(l)+q(2),q(3:n),l; %将排序后的概率数组q的前两项，即概率最小的 两个数加和，得到新的一组概率序列endfor i=l:n-lc(i, 1 :n*n)=blanks(n*n); %生成一个n-1行n列,并且每个元素的的长度 为n的空白数组，c矩阵用于进行huffman编码，并且在编码中与a矩阵 有一定的对应关系endc(n-l,n0; %由于a矩阵的第n-1行的前两个元素为进行huffman编码 加和运算时所得的最c(n-l,2*n)=T; %后两个概率，因此其值为。或1 ,在编码时设第n-1行的第 一个空白字符为0 ,第二个空白字符1。for i=2:n-l13信息论与编码

7、实验指导书(哈尔滨石油学院-信息工程学院)c(n-i,l:n-l)=c(n-i+1 ,n*(find(a(n-i+1 ,:)= l)-(n-2):n*(find(a(n-i+1 ,:)= 1) % 矩 阵c的第n-i的第一个元素的n-1的字符赋值为对应于a矩阵中第n-i+1 行中值为1的位置在c矩阵中的编码值c(n-i,n)=O %根据之前的规那么，在分支的第一个元素最后补0c(n-i,n+l:2*n-l)=c(n-i,l:n-l)% 矩阵 c 的第 n-i 的第二个元素的 n-1 的字符与第n-i行的第一个元素的前n-1个符号相同，因为其根节点相同c(n-i,2*n)=T %根据之前的规那么

8、，在分支的第一个元素最后补1forc(n-i,(j+l)*n+l:(j+2)*n)=c(n-i+l,n*(find(a(n-i+l,:)=j+l)-l)+l:n*find(a(n-i+l,:)= j+1) %矩阵c中第n-i行第j+1列的值等于对应于a矩阵中第n-i+1行 中值为j+1的前面一个元素的位置在c矩阵中的编码值endend %完成huffman码字的分配for i=l:nh(i, 1:n)=c( 1 ,n*(find(a( 1,:)=i)-1)+1:find(a( 1,:)=i)*n) % 用 h 表示最后的 huffman编码，矩阵h的第i行的元素对应于矩阵c的第一行的第i个元素

9、ll(i)=length(find(abs(h(i,:)-=32) % 计算每一个 huffman 编码的长度endl=sum(p.*ll); %计算平均码长fprintf(n huffman code:nf);hhh=sum(p. *(-log2(p);% 计算信源熠fprintf(fn the huffman effciency:n);t=hh/l %计算编码效率回车后：please input a number: 0,30 0.25 0.20 0.15 0.1014信息论与编码实验指导书（哈尔滨石油学院-信息工程学院）六、实验报告要求记录整理实验结果，并对结果进行分析。七、实验结果15信

10、息论与编码实验指导书（哈尔滨石油学院-信息工程学院）实验四离散信道及其容量仿真设计实验一、实验目的1、了解离散信道及其容量基本原理及其特点。2、熟悉掌握离散信道容量的方法和步骤。3、掌握Matlab编写离散信道容量的程序。二、实验原理平均互信息表示接收到输出符号后平均每个符号获得的关于输入变量 X的信息量，也表示输入与输出两个随机变量之间的统计约束程度。W依例施焉一?8M焉=?（砌唳带其中X是输入随机变量，Y是输出随机变量。平均互信息是互信息（即接收到输出符号y后输入符号x获得的信息 量）的统计平均值，所以永远不会取负值。最差情况是平均互信息为零，也 就是在信道输出端接收到输出符号Y后不获得任

11、何关于输入符号X的信息 量。对于每一个确定信道，都有一个信源分布，使得信息传输率到达最大值, 我们把这个最大值称为该信道的信道容量。C =赠/(?)三、实验设备与器件1、计算机。2、软件：Matlabo四、实验预习要求1、离散信道及其容量基本原理。2、离散信道容量的方法和步骤。五、实验内容及实验步骤clear all,clc;w=0.6;16信息论与编码实验指导书（哈尔滨石油学院-信息工程学院）wl=l-w;p=0.01;X=0 1;P=0.6 0.4;pl=l-p;save data! p pl;I_XY=(w*p 1 +w 1 *p)*log2( 1 /(w*p 1+w 1 *p)+(w*

12、p+w 1 *p 1 )*log2( 1 /(w*p+w 1 *p 1)- (p*log2( 1 /p)+pl *log2( 1 /pl);C= 1 -(p*log2( 1 /p)+p 1 *log2(l/p 1);fprintf。互信息量:6.3An信道容量:6.3f,I_XY,C);p=eps:0.001:l-eps;pl=l-p；C= 1 -(p. *log2( 1 ./p)+p 1. *log2( 1 ./p 1);subplot(l ,2,1 ),plot(p,C),xlabel(,p,),ylabel(,C,);load data 1;w=eps:0.001:l-eps;wl=l-

13、w;I_XY=(w.*pl+wl.*p).*k)g2(l./(w.*pl+wl.*p)+(w.*p+wl.*pl).*k)g2(l./(w.*p+wl.*P 1 )-(P *log2( 1 ./p)+p 1 . *log2( 1 ./p 1);subplot( 1,2,2),plot(w J_X Y)xlabel(,w,),ylabel(,I_XY,);六、实验报告要求记录整理实验结果，并对结果进行分析。七、实验结果17信息论与编码实验指导书（哈尔滨石油学院-信息工程学院）File Edit View Insert Tools Desktop Window Help!信息论与编码实验指导书（哈

14、尔滨石油学院-信息工程学院）19信息论与编码实验指导书（信息工程学院）信息论与编码实验指导书目录前S实验一 实验二 实验三 实验四信源熠值的计算实验香农编码的Mat lab仿真实现Huffman编码的仿真与实现离散信道及其容量仿真设计实验121216信息论与编码实验指导书（信息工程学院）_XX. -a 刖百信息论与编码在理论上提出了建立最正确编码、最正确调制和最正确接收方 法的最正确系统的理论原那么，它对通信体制和通信系统的研究具有指导意义。提 高信息传输的可靠性和有效性始终是通信工作所追求的目标。因此，信息论与 编码是从事通信、电子系统工程的有关工程技术人员都必须掌握的基本理论知 识。本课程

15、包括离散信源牖、无失真离散信源编码、离散信道容量。信息论与 编码所研究的主要问题是在通信系统设计中如何提高有效性和可靠性。信息论与编码是由Shannon奠基的一门数学学科，它产生于有效而可靠 的通信问题中，并获得了广泛应用。通过本课程的学习，使学生对信息理论有 一个比拟全面和系统的了解，掌握信息论的基本概念和信息论方法，为从事信 息科学的研究和应用打下一个坚实的基础。知识目标：信息论与编码是信息类专业一门重要的理论性专业课，通过本 课程的学习，使学生能掌握有关信息论的基本理论、编码的理论和实现原理，理 解信源的燧、熠的性质和无失真信源编码理论、保真度准那么下的信源编码定理 以及各种常用的新源编

16、码方法，为以后开设的专业课程打下坚实的基础。能力目标：通过对信息论与编码课程的学习，能够培养学生良好的数 学基础和数学思维能力，使学生掌握信息或计算科学的基本理论、方法与技能； 使学生能够利用Mat lab软件进行二元端、信道容量、信息率失真函数、实现信 源编码等实验，为毕业后从事本专业和相关专业的工作打下良好的基础；并且 能为国家培育信息科学技术和信息工程领域中的高级理论研究型人才和技术型 人才。无可置疑，信息论与编码理论必然是此专业的必修基础课之一。素质目标：通过本课程的学习，学生应具有良好的接受新知识、新事物的 意识和创新意识，掌握本专业及其相关领域的科学研究方法；掌握本学科的基 本理论

17、和技能，具有一定创新意识和能力；具有较强的工程意识，实践意识和 质量意识，具有一定的解决实际工程问题和相关技术问题能力。13信息论与编码实验指导书(哈尔滨石油学院-信息工程学院)实验一信源炳值的计算实验一、实验目的1、掌握二进制符号燧的计算。2、掌握MATLAB的应用。3、掌握Mat lab绘图函数。4、掌握、理解端函数表达式及其性质二、实验原理1、自信息的计算公式/=log2 一PaMatlab 实现：I=log2(l/p) 或 Ilog2(p)2、嫡(平均自信息)的计算公式(%)=之必。A lo2 AMPi MMatlab 实现：HX=sum(-x.*log2(x)； 或者 h=h-x*l

18、og2(x)；三、实验设备与器件1、计算机。2、软件：Matlabo四、实验预习要求1、自信息的计算方法。2、崎(平均自信息)的计算方法。五、实验内容及实验步骤1、写出计算信源端的Matlab程序2、将程序在计算机上仿真实现，验证程序的正确性并完成仿真。例：甲地天气预报构成的信源空间为：信息论与编码实验指导书(哈尔滨石油学院-信息工程学院)大雨小雨11婷8z 了 乙地信源空间为：睛小断求此两个信源的燧。求各种天气的自信息量。答案：运行程序：pl=l/29l/4,l/8J/8;%pl代表甲信源对应的概率p2=7/8,l/8;%p2代表乙信源对应的概率H1=O.O;H2=0.0;I=;J=;for

19、 i=l:4Hl=Hl+pl(i)*log2(l/pl(i);I(i)=log2(l/pl(i);enddispC自信息量分别为：,);Idisp(Hl信源熠为:)；Hl for j=l:2H2=H2+p2(j)*log2(l/p2(j);J(j)=log2(l/p2(j)；信息论与编码实验指导书（哈尔滨石油学院-信息工程学院）enddisp（自信息量分别为:）;Jdisp（，H2信源焙为：）；H2六、实验报告要求记录整理实验结果，并对结果进行分析。七、实验结果信息论与编码实验指导书(哈尔滨石油学院-信息工程学院)实验二香农编码的Mat lab仿真实现一、实验目的1、了解香农编码的基本原理及其特点。2、熟悉掌握香农编码的方法和步骤。3、掌握Matlab编写香农编码的程序。二、实验原理给定某个信源符号的概率分布，通过以下的步骤进行香农编码1、信源符号按概率从大到小排列2、对信源符号求累加概率，表达式：Gi=Gi-l+p(xi)3、求自信息量，确定码字长度。自信息量I(xi)=-log(p(xi);码字长度取大于 等于自信息量的最小整数。4、将累加概率用二进制表示，并取小数点后码字的长度的码。三、实验设备与器件1、计算机。2、软件：Matlabo四、实验预习要求1、香农编码的基本原理。2、香农编码的方法和步骤。五、实验内容及实验步骤clc;clear;A=0