模式识别上机作业[1]

1、模式识别上机作业队别：研究生二队姓名：孙祥威学号： 1120821作业一：1(0,0),(0,1) ，2(1,0),(1,1) 。用感知器固定增量法求判别函数，设w1(1,1,1)，k1 。写程序上机运行，写出判别函数，打出图表。解答：1、程序代码如下：clc,clearw=0 0 1;011;-1 0 -1;-1 -1 -1;W=1 1 1;rowk=1;flag=1;flagS=zeros(1,size(w,1);k=0;whileflagfori=1:size(w,1)ifisempty(find(flagS=0)flag=0;break ;endk=k+1;pb=w(i,:)*W

2、9;ifpb<=0flagS(i)=0;W=W+rowk*w(i,:);elseflagS(i)=1;endendendW,kwp1=0 0;0 1;wp2=1 0;1 1;plot(wp1(:,1),wp1(:,2),'o' )holdonplot(wp2(:,1),wp2(:,2),'*')2holdony=-0.2:1/100:1.2;plot(1/3*ones(1,size(y),y,'r-')axis(-0.25 1.25 -0.25 1.25)2、判别函数。计算得到增广权矢量为w*( 3,0,1)T ，故判别函数表达式为：3x1

3、103、分类示意图：图 1感知器算法分类结果图作业二：在下列条件下，求待定样本x(2,0) T 的类别，画出分界线，编程上机。训练样本号 k1231 2 3特征 x1112-1 -1 -2特征 x210-110-13类别12解答：经计算，两类的协方差矩阵不相等。设 P( 1 )P(2 ) ，计算时相关项直接略去。1、计算时，参考书中P96 页式（ 4-1-31 ）等。程序代码如下：clc,clear,closeallD1=1,1,2;1,0,-1;D2=-1,-1,-2;1,0,-1;u1=mean(D1,2);u2=mean(D2,2);c1=zeros(size(D1,1),size(D1

4、,1);fori=1:size(D1,2)c1=c1+D1(:,i)*D1(:,i)'endc1=c1/size(D1,2)-u1*u1'c2=zeros(size(D2,1),size(D2,1);fori=1:size(D2,2)c2=c2+D2(:,i)*D2(:,i)'endc2=c2/size(D2,2)-u2*u2'I=eye(size(c1,1),size(c1,1);ic1=c1I;ic2=c2I;W1=-0.5*ic1;W2=-0.5*ic2;w1=ic1*u1;w2=ic2*u2;w10=-0.5*log(det(c1)-0.5*u1'

5、;*ic1*u1;w20=-0.5*log(det(c2)-0.5*u2'*ic2*u2;syms x1 x2;x=x1;x2;fprintf(' 决策界面方程为：' )D=x'*(W1-W2)*x+(w1-w2)'*x+(w10-w20);pretty(D)fprintf(' （ 2，0）代入决策面方程的值为：' )value=subs(D,x1,x2,2 0)figureezplot(D)holdonplot(D1(1,:),D1(2,:),'bo' )4plot(D2(1,:),D2(2,:),'ks'

6、;)plot(2,0,'rp')运行结果显示，决策面方程为：48x118x1 x20 。2、计算结果。从程序运行结果可以看出，x(2,0) T 带入决策界面方程值为96，可见属于第一类1 。见下图：图 2 两类协方差不等分类结果图图中，黑色方块为第二类2 ，蓝色圆圈为第一类1 ，红色五角星即为要判断类别的 x(2,0) T 。绿色交叉的两条直线即为决策面曲线。左上和右下为第一类，右上和左下为第二类。作业三：有训练集资料矩阵如下表所示，现已知，N9 、 N1N2N33 、 n2 、M 3 ，试问， X ( 2,2)T 应属于哪一类？训练样本号 k1231 2 3123特征 x10

7、21-1 -2 -2001特征 x201010-1-2 -1 -25类别123要求：用两种解法： a、三类协方差不等； b、三类协方差相等。编程上机，画出三类的分界线。解答：经计算，三类的协方差矩阵不相等。设P( 1)P( 2 )P( 3 ) ，计算时相关项直接略去。1、计算时，参考书中P96 页式（ 4-1-31 ）等。程序代码如下：clc,clear,closeallD1=0 2 1;0 1 0;D2=-1 -2 -2;1 0 -1;D3=0 0 1;-2 -1 -2;X=-2 2;u1=mean(D1,2);u2=mean(D2,2);u3=mean(D3,2);c1=zeros(siz

8、e(D1,1),size(D1,1);fori=1:size(D1,2)c1=c1+D1(:,i)*D1(:,i)'endc1=c1/size(D1,2)-u1*u1'c2=zeros(size(D2,1),size(D2,1);fori=1:size(D2,2)c2=c2+D2(:,i)*D2(:,i)'endc2=c2/size(D2,2)-u2*u2'c3=zeros(size(D3,1),size(D3,1);fori=1:size(D3,2)c3=c3+D3(:,i)*D3(:,i)'endc3=c3/size(D3,2)-u3*u3'

9、I=eye(size(c1,1),size(c1,1);ic1=c1I;ic2=c2I;ic3=c3I;W1=-0.5*ic1;W2=-0.5*ic2;W3=-0.5*ic3;w1=ic1*u1;w2=ic2*u2;w3=ic3*u3;w10=-0.5*log(det(c1)-0.5*u1'*ic1*u1;6w20=-0.5*log(det(c2)-0.5*u2'*ic2*u2;w30=-0.5*log(det(c3)-0.5*u3'*ic3*u3;syms x1 x2 real ;x=x1;x2;D12=x'*(W1-W2)*x+(w1-w2)'*x+

10、(w10-w20);D13=x'*(W1-W3)*x+(w1-w3)'*x+(w10-w30);D23=x'*(W2-W3)*x+(w2-w3)'*x+(w20-w30);fprintf(' 一、二类决策界面方程为：' )pretty(D12)fprintf(' 一、三类决策界面方程为：' )pretty(D13)fprintf(' 二、三类决策界面方程为：' )pretty(D23)DD1=x'*W1*x+w1'*x+w10;DD2=x'*W2*x+w2'*x+w20;DD3=x&

11、#39;*W3*x+w3'*x+w30;value=;fprintf(' （ ' num2str(X(1)','num2str(X(2)' ）代入 1-2 决策面方程的值为： ' )v1=subs(DD1,x1,x2,X)fprintf(' （ ' num2str(X(1)','num2str(X(2)' ）代入 1-3 决策面方程的值为： ' )v2=subs(DD2,x1,x2,X)fprintf(' （ ' num2str(X(1)','num2str(

12、X(2)' ）代入 2-3 决策面方程的值为： ' )v3=subs(DD3,x1,x2,X)V=v1 v2 v3;fprintf(' 可见（ ' num2str(X(1)',' num2str(X(2)' ）属于第 ' num2str(find(V=max(V)' 类。 n' )figureholdonh=ezplot(D12);set(h,'Color', 'r')h=ezplot(D13);set(h,'Color', 'b')h=ezplot(

13、D23);set(h,'Color', 'y')plot(D1(1,:),D1(2,:),'ko')plot(D2(1,:),D2(2,:),'ks')plot(D3(1,:),D3(2,:),'kp')plot(X(1),X(2),'r*' )title(' 分界线及样本点分布 ' )1-2 类决策面方程为：6x129x1 x233x1 6x2218x2 24 01407374883553281-3 类决策面方程为：76x16x212x1 x26x22602-3 类决策面方程为：1

14、2x1x 2 6x1227x125 x2224 x2 18 022517998136852482、计算结果。从程序运行结果可以看出，x(2,0) T 带入三个判决函数（略去 P( i ) 相关项 ）计算的值分别为 -95.3521 、 -17.3521 、 -29.3521 ，可见属于第二类 2 。分类界面参见下图：图 3 三类协方差不等分类结果图作业四：样本12345678x102156567x202133445用对分法编程上机，分成两类画出图形。解答：1、程序代码如下：clc,clear,closeallExampleData=0,0,2,2,4,4,5,6,6,7,-4,-2,-3,-3

15、,-5,1,0,0,-1,-1,-3;86,5,5,3,4,3,1,2,1,0,3,2,2,0,2,1,-1,-2,-1,-3,-5;Data=0,2,1,5,6,5,6,7;0,2,1,3,3,4,4,5;N=size(Data,2);Data=1:N;Data;G1=Data;G2=;N1=size(G1,2);N2=size(G2,2);X1=mean(G1,2);X1=X1(2:end);X2=0;0;E=N1*N2/N*(X1-X2)'*(X1-X2);RE=;ZY=;LE=E;whileLE<=ELE=E;n1=size(G1,2);e1=;fori=1:n1g1=G

16、1;g2=G2;g2=g2 g1(:,i);g1(:,i)=;nn1=size(g1,2);nn2=size(g2,2);x1=mean(g1,2);x1=x1(2:end);x2=mean(g2,2);x2=x2(2:end);ee1=nn1*nn2/N*(x1-x2)'*(x1-x2);e1=e1;ee1;endE=max(e1);RE=RE;E;I=find(e1=E);nzy=G1(1,I);ZY=ZY;nzy;ifLE<=EG2=G2 G1(:,I);G1(:,I)=;end9endRE=(1:length(RE)' ZY REfigureplot(G1(2,:

17、),G1(3,:),'o' )holdonplot(G2(2,:),G2(3,:),'*')2、对分法聚类结果。两类的标样本号分别为：第一类： 1、2、3第二类： 4、5、6、7、83、对分法聚类结果示意图：图 4对分法聚类结果图作业五：已知十个样本，每个样本2 个特征，数据如下：样本12345678910x10124556111x20113345456用 K 次平均算法和 ISODATA算法分成 3 类，编程上机，并画出分类图。10解答：1、K 次平均算法程序代码如下：clc,clear,closeallData=0 1 2 4 5 5 6 1 1 1;0 1

18、 1 3 3 4 5 4 5 6;K=3;N=size(Data,2);Data=1:N;Data;Z=Data(2:end,1:K); W=;LZ=;whileisequal(Z,LZ)LZ=Z;fori=1:KWi=;endfori=1:ND=;forj=1:Kd= sqrt(sum(Data(2:end,i)-Z(:,j).2);D=D;d;endI=find(D=min(D);WI(1)=WI(1) Data(1,i);endZ=;fori=1:Kw=Wi;z=mean(Data(2:end,w),2);Z=Z z;endendZfigurebh= 'o''*''s''.''d''h''p' ;fori=1:Kw=Wiplot(Data(2,w),Data(3,w),bh(i);holdonend2、K次平均算法聚类结果。两类的标样本号分别为：第一类： 1、2、3第二类： 8、9、1011第三类： 4、5、6、73、K 次平均算