模式识别作业第三章2推荐文档

1、第三章作业3.5 已知两类训练样本为1:(0 0 0 )',(1 0 0)' ,(1 0 1)',(1 1 0)'2 :(0 0 1)',(0 1 1)' ,(0 1 0)',(1 1 1)'设 W (1)(-1,-2,-2, 0)' ,用感知器算法求解判别函数，并绘出判别界面。解： matlab程序如下：clear%感知器算法求解判别函数x1=0 0 0'x2=1 0 0'x3=1 0 1'x4=1 1 0'x5=0 0 1'x6=0 11'x7=0 1 0'x8=

2、1 1 1'%构成增广向量形式，并进行规范化处理x=0 1 1 1 0 0 0 -1;0 0 0 1 0 -1 -1 -1;0 0 1 0 -1 -1 0 -1;1 1 1 1 -1 -1-1 -1;plot3(x1(1),x1(2),x1(3),'ro',x2(1),x2(2),x2(3),'ro',x3(1),x3(2),x3(3), 'ro',x4(1),x4(2),x4(3),'ro');holdon ;plot3(x5(1),x5(2),x5(3),'rx',x6(1),x6(2),x6(3),&

3、#39;rx',x7(1),x7(2),x7(3), 'rx',x8(1),x8(2),x8(3),'rx');gridon ;w=-1,-2,-2,0'c=1;N=2000;for k=1:Nt=;fori=1:8d=w'*x(:,i);if d>0w=w;t=t 1;elsew=w+c*x(:,i);t=t -1;endendifi=8&t=ones(1,8)w=wsymsx yz=-w(1)/w(3)*x-w(2)/w(3)*y-1/w(3);ezmesh(x,y,z,0.5 1 2);axis(-0.5,1.5,-0

4、.5,1.5,-0.5,1.5);title('感知器算法 ' )break;elseendend运行结果：w =3-2-31判别界面如下图所示：若有样本 x x1, x2 , x3 ' ;其增广 X x1 , x2 , x3 ,1 ;则判别函数可写成：d ( X ) w'X 3 x1 2 x2 3 x3 1若 d ( X ) 0,则 x1 ，否则 x23.6 已知三类问题的训练样本为1:(-1 -1)',2 (0 0)' ,3:(1 1)'试用多类感知器算法求解判别函数。解：（方法一）增广向量形式：X1:(-1 -1 1)',X

5、2(0 0 1)' ,X3 :(1 1 1)'任取初始权向量W1 (1)W2 (1) W3 (1) ( 0,0,0)' ; c1第一次迭代：d1 (1)W1 (1)'* X10d 2 (1)W2(1) ' *X10d 3 (1)W3 (1) ' *X10X11 ,但 d1 1d2 1且 d1 1d3 1 不成立三个权向量都需要修改：W1(2)W1 (1)c * X 1( 1,1,1)'W2 (2)W2 (1)c * X1(1,1,1)'W3 (2)W3 (1)c * X1(1,1,1)'第二次迭代： d1 (2)W1 (2

6、)'* X 21d 2 (2)W2(2) ' *X 21d 3 (2) W3 ( 2) ' *X 21X 22 ,但 d 2 2 d12 且 d 22d32 不成立三个权向量都需要修改：W1(3)W1 (2) c * X 2( 1, 1,0)'W2 (3)W2 (2)c * X 2(1,1,0)'W3 (3)W3 (2)c* X 2(1,1, 2)'第三次迭代： d1 (3)W1 (3)'* X 32d 2 (3)W2(3) ' *X 3 2d 3 (3)W3(3) ' *X 30X 22 ,但 d3 (3) d13 且

7、d3 3d 23 不成立三个权向量都需要修改：W1(4)W1 (3)c * X 3( 1,1,0)'W2 (4)W2 (3)c * X 3(0,0,1)'W3 (4)W3 (3)c * X 3(2,2,1)'迭代到六、七、八次有权向量的解：W1W1(8)W1 (7)W1 (6)( 1,1, 1)'W2W2 (8)W2 (7)W2 (6)( 0,0,0)'W3W3 (8)W3 (7)W3 (6)(2,2,2)'判别函数：d1 ( X )x1x21d 2 ( X )0d 3 ( X )2x12x22（方法二）编写 matlab 程序如下：clear%

8、多类感知器算法求解判别函数x1=-1 -1'x2=0 0'x3=1 1'%增广向量形式x=-1 0 1;-1 0 1;1 1 1;w1=0 0 0'w2=w1;w3=w1;N=100;c=1;fork=1:Nt=0 0 0;fori=1:3d1=w1'*x(:,i);d2=w2'*x(:,i);d3=w3'*x(:,i);switchicase1ifd1>d2&d1>d3t(i)=1;elseifd1>d2&d1<=d3w1=w1+x(:,i);w2=w2;w3=w3-x(:,i);elseifd1

9、>d3&d1<=d2w1=w1+x(:,i);w2=w2-x(:,i);w3=w3;elseifd1<=d2&d1<=d3w1=w1+x(:,i);w2=w2-x(:,i);w3=w3-x(:,i);endcase2ifd2>d1&d2>d3t(i)=1;elseifd2>d1&d2<=d3w1=w1;w2=w2+x(:,i);w3=w3-x(:,i);elseifd2>d3&d2<=d1w2=w2+x(:,i);w1=w1-x(:,i);w3=w3;elseifd2<=d1&d2

10、<=d3w2=w2+x(:,i);w1=w1-x(:,i);w3=w3-x(:,i);endcase3ifd3>d2&d3>d1t(i)=1;elseifd3>d2&d3<=d1w3=w3+x(:,i);w2=w2;w1=w1-x(:,i);elseifd3>d1&d3<=d2w1=w1;w3=w3+x(:,i);w2=w2-x(:,i);elseifd3<=d2&d3<=d1w3=w3+x(:,i);w2=w2-x(:,i);w1=w1-x(:,i);endendendift=ones(1,3)w1,w2,

11、w3break;elseendend运行结果：w1 =-1-1-1w2 =000w3 =22-2故可得判别函数： d1 ( X )x1x21d 2 ( X )0d 3 ( X )2x12x223.7 用 LMSE算法求解习题3.5 中两类模式的判别函数，并绘出判别界面。解：编写 matlab 程序如下：clear%LMSE算法求解判别函数x1=0 0 0'x2=1 0 0'x3=1 0 1'x4=1 1 0'x5=0 0 1'x6=0 11'x7=0 1 0'x8=1 1 1'%规范化增广样本矩阵x=0 0 0 1;1 0 0 1

12、;1 0 1 1;1 1 0 1;0 0 -1 -1;0 -1 -1 -1;0 -1 0 -1;-1 -1 -1 -1;plot3(x1(1),x1(2),x1(3),'ro',x2(1),x2(2),x2(3),'ro',x3(1),x3(2),x3(3),'ro',x4(1),x4(2),x4(3),'ro');holdon ;plot3(x5(1),x5(2),x5(3),'rx',x6(1),x6(2),x6(3),'rx',x7(1),x7(2),x7(3),'rx',x8

13、(1),x8(2),x8(3),'rx');gridon ;%伪逆矩阵X=inv(x'*x)*x'%x的伪逆矩阵B=ones(8,1);z=10*ones(8,1);t=z;fori=2:1000W=X*B;e=x*W-B;t=t e;j=i-1;%-%这里存在问题，有待解决. 但不影响本题a=e>0;b=e<0;ifa=0W',B',e',ibreak;elseifsum(b,1)=8disp(' 线性不可分模式' )brek;elseB=B+(e+abs(e);End%-symsxyz=-W(1)/W(3)

14、*x-W(2)/W(3)*y-W(4)/W(3);ezmesh(x,y,z,0.5 1 2);axis(-0.5,1.5,-0.5,1.5,-0.5,1.5);title(' LMSE算法 ·¨')运行结果：W =2.0000-2.0000-2.00001.0000B =1.00003.00001.00001.00001.00003.00001.00001.0000e =1.0e-015 *-0.22200-0.2220-0.2220-0.22200-0.2220-0.2220i =533.8 已知两类模式1:(0 1)',(0 -1)'2 :(1 0)&#