模式识别实验报告

1、实验报告实验课程名称：模式识别王宇 班级：20110813 学号:2011081325实验名称规程度原理叙述实验过程实验结果实验成绩图像的贝叶斯分类K均值聚类算法神经网络模式识别平均成绩折合成绩注：1、每个实验中各项成绩按照 5分制评定，实验成绩为各项总和2、平均成绩取各项实验平均成绩3、折合成绩按照教学大纲要求的百分比进行折合2014年6月实验一、图像的贝叶斯分类、实验目的 将模式识别方法与图像处理技术相结合， 掌握利用最小错分概率贝叶斯分类器进行图像分类 的基本方法，通过实验加深对基本概念的理解。二、实验仪器设备及软件HP D538、 MATLAB三、实验原理概念：阈值化分割算法是计算机视

2、觉中的常用算法， 对灰度图象的阈值分割就是先确定一个处于图 像灰度取值围的灰度阈值， 然后将图像中每个像素的灰度值与这个阈值相比较。 并根据比较 的结果将对应的像素划分为两类， 灰度值大于阈值的像素划分为一类， 小于阈值的划分为另 一类，等于阈值的可任意划分到两类中的任何一类。最常用的模型可描述如下： 假设图像由具有单峰灰度分布的目标和背景组成， 处于目标和背 景部相邻像素间的灰度值是高度相关的， 但处于目标和背景交界处两边的像素灰度值有较大 差别，此时，图像的灰度直方图基本上可看作是由分别对应于目标和背景的两个单峰直方图 混合构成。 而且这两个分布应大小接近， 且均值足够远， 方差足够小，

3、这种情况下直方图呈 现较明显的双峰。 类似地， 如果图像中包含多个单峰灰度目标， 则直方图可能呈现较明显的 多峰。上述图像模型只是理想情况， 有时图像中目标和背景的灰度值有部分交错。 这时如用全局阈 值进行分割必然会产生一定的误差。分割误差包括将目标分为背景和将背景分为目标两大 类。实际应用中应尽量减小错误分割的概率， 常用的一种方法为选取最优阈值。 这里所谓的 最优阈值， 就是指能使误分割概率最小的分割阈值。 图像的直方图可以看成是对灰度值概率 分布密度函数的一种近似。 如一幅图像中只包含目标和背景两类灰度区域， 那么直方图所代 表的灰度值概率密度函数可以表示为目标和背景两类灰度值概率密度函

4、数的加权和。 如果概 率密度函数形式已知，就有可能计算出使目标和背景两类误分割概率最小的最优阈值。 假设目标与背景两类像素值均服从正态分布且混有加性高斯噪声， 上述分类问题可以使用模 式识别中的最小错分概率贝叶斯分类器来解决。以 p1 与 p2 分别表示目标与背景的灰度分布概率密度函数， R与P2分别表示两类的先验概率，则图像的混合概率密度函数可用下式表示为p(x) P1 p1(x) P2p2(x)式中Pi和P2分别为Pi(x)e.2i(x i)22 i2P2（X）Pl F21(X22)2222是针对背景和目标两类区域灰度均值1与2的标准差。若假定目标的灰度较亮,其灰度均值为 2，背景的灰度较

5、暗，其灰度均值为 1，因此有现若规定一门限值 T对图像进行分割，势必会产生将目标划分为背景和将背景划分为目标这两类错误。通过适当选择阈值 T，可令这两类错误概率为最小，则该阈值T即为最佳阈值。把目标错分为背景的概率可表示为E1(T)TP2(x)dx把背景错分为目标的概率可表示为E2(T)t P1(x)dx总的误差概率为E(T) P2E1 仃)RE2(T)为求得使误差概率最小的阈值T ,可将E仃）对T求导并令导数为零，可得RP1(T) F2P2 (T)代换后，可得此时，若设 12FInF1 2F2，则有(T1)22 12(T22)221In若还有PF2的条件，则这时的最优阈值就是两类区域灰度均值

6、 1与2的平均值。上面的推导是针对图像灰度值服从正态分布时的情况，如果灰度值服从其它分布， 依理也可求出最优阈值来。一般情况下，在不清楚灰度值分布时，通常可假定灰度值服从正态分布。在实际使用最优阈值进行分割的过程中，需要利用迭代算法来求得最优阈值。设有一幅数字 图像f (x, y)，混有加性高斯噪声，可表示为g(x, y) f(x, y) n(x, y)此处假设图像上各点的噪声相互独立，且具有零均值，如果通过阈值分割将图像分为目标与背景两部分，则每一部分仍然有噪声点随机作用于其上，于是，目标g1 (x, y)和g2(x, y)可表示为gi(x, y)fi(x, y) n(x, y)g2(x,

7、y)f2(x, y) n(x, y)迭代过程中，会多次地对g1(x, y)和g2(x, y)求均值，则Egi(x, y) E fi(x, y) n(x, y) E fi(x, y)Eg2(x, y) Ef2(x,y) n(x, y) Ef2(x,y)因此，用迭代算法求可见，随着迭代次数的增加，目标和背景的平均灰度都趋向于真实值。 得的最佳阈值不受噪声干扰的影响。四、实验步骤及程序1、实验步骤(1)确定一个初始阈值 To，To可取为式中，Smin和Smax为图像灰度的最小值和最大值。(2)利用第k次迭代得到的阈值将图像分为目标R!和背景R2两大区域，其中R f(x, y)| f(x,y) TkR

8、2f(x,y)|O f(x,y) Tk(3)计算区域Ri和R2的灰度均值Si和S2 。(4)计算新的阈值Tk 1，其中Tk i(5)如果|Tki Tk|小于允许的误差，则结束，否则 k k 1，转步骤(2)。2、实验源程序l=imread( '1.jpg');Im=rgb2gray(l);subplot(121),imhist(lm);title(' ? ±? i ?')ZMax=max(max(I);ZMi n=mi n(mi n(l);TK=(ZMax+ZM in)/2;bCal=1;iSize=size(l);while (bCal)iForeg

9、rou nd=0;iBackgrou nd=0;Foregrou ndSum=0;Backgrou ndSum=0;for i=1:iSize(1)for j=1:iSize(2)tmp=l(i,j);if (tmp>=TK)iForegrou nd=iForegrou nd+1;Foregrou ndSum=Foregrou ndSum+double(tmp);elseiBackgrou nd=iBackgrou nd+1;Backgrou ndSum=Backgrou ndSum+double(tmp);endendendZO=Foregrou ndSum/iForegrou nd;

10、ZB=Backgrou ndSum/iBackgrou nd;TKTmp=double(ZO+ZB)/2);if (TKTmp=TK)bCal=0;elseTK=TKTmp;endenddisp(strcat( 'u o 6 卩?D?卩£ o' ,n um2str(TK);newl=im2bw(l,double (T K)/255);subplot(121),imshow(l)title('? - i ? ? ?')subplot(122),imshow( newI)title(' ? ? ? o 6 i ? ? ?')五、实验结果与分

11、析1、实验结果原图像图1原图像以及其灰度直方图O * d gD % ®o 4图2原图像以及分割后图像2、实验结果分析迭代后的阈值：94.8064实验中将大于阈值的部分设置为目标，小于阈值的部分设置为背景，分割结果大体上满足要求。实际过程中在利用迭代法求得最优阈值后，仍需进行一些人工调整才能将此阈值用于实验图像的分割，虽然这种方法利用了图像中所有像素点的信息，但当光照不均匀时，图像中部分区域的灰度值可能差距较大，造成计算出的最优阈值分割效果不理想。具体的改进措施分为以下两方面：一方面，在选取图片时，该图片的两个独立的峰值不够明显，因此在分割后产生误差， 应改进选择的图片的背景和物体的对

12、比度，使得分割的效果更好；另一方面，实验程序中未涉及计算最优阈值时的迭代次数，无法直观的检测，应在实验程序中加入此项，便于分析。实验二、K均值聚类算法一、实验目的将模式识别方法与图像处理技术相结合，掌握利用K均值聚类算法进行图像分类的基本方法，通过实验加深对基本概念的理解。二、实验仪器设备及软件HP D538、MATLAB WIT三、实验原理K均值聚类法分为三个步骤：初始化聚类中心1根据具体问题，凭经验从样本集中选出C个比较合适的样本作为初始聚类中心。2、用前C个样本作为初始聚类中心。3、将全部样本随机地分成 C类，计算每类的样本均值，将样本均值作为初始聚类中心。初始聚类1按就近原则将样本归入

13、各聚类中心所代表的类中。2、取一样本，将其归入与其最近的聚类中心的那一类中，重新计算样本均值，更新聚类中心。然后取下一样本，重复操作，直至所有样本归入相应类中。判断聚类是否合理1采用误差平方和准则函数判断聚类是否合理，不合理则修改分类。循环进行判断、修改直至达到算法终止条件。2、聚类准则函数误差平方和准则函数（最小平方差划分）miJemiNi x3、单样本改进：每调整一个样本的类别就重新计算一次聚类的中心dji 1 xj mi k min |xj ml k |i=1,2,.c只调整一个样本四、实验步骤及程序1实验步骤并将所得结果与WIT处理结果理解K均值算法基本原理，编写程序实现对自选图像的分

14、类, 进行对比。K均值算法步骤:1给定类别数C和允许误差Emax ,2、初始化聚类中心 mj k , i1,2,.,c3、修正djj1 xjmim.in xjmi k其他i=1,2,c;j=1,2,.N4、修正聚类中心mi k5、计算误差emi2k 如果e Emax则结束，否则转（3）2、实验源程序clcclearticRGB= imread ( 'Water lilies.jpg' img=rgb2gray(RGB);m,n =size(img););%? d e ? ? ?subplot(2,2,1),imshow(img);title( subplot(2,2,2),im

15、hist(img);title( hold off ;img=double(img);for i=1:200')卩? ? o ? e ? ±? i ?')c1(1)=25; c2(1)=125;c3(1)=200;%? ? ? ? e yr=abs(img-c1(i);g=abs(img-c2(i);? ? 3 ? e ? a a ?DD?b=abs(img_c3(i);%? ? ? ? ? - ? ? ? ? ? o ? e o ? ? a a ? D D ?卩? ? a a ?g_b=g-b;n_r=find(r_g<=0&r_b<=0); n

16、_g=find(r_g>0&g_b<=0); n_b=find(g_b>0&r_b>0); i=i+1;% ° ? o X ? D ?卩? ? ? a a ? D D ?%? ° ? o ? D ? ?卩? o ? ? ? ? ? a a ? D D ?%> ° ? o X ? ' o 卩? ? ? a a ? D D ?r_b=r-b;c1(i)=sum(img(n_r)/length(n_r);%? ? ?1-? a ? ? o ? ? ?卩 i ? o? D D?c2(i)=sum(img(n_g)/le

17、ngth(n_g);%? ? ?1?o?e?e?u£?-? a ? ? o ?D? e? DD?c3(i)=sum(img(n_b)/length(n_b);%? ? ? u o1?o?e?e?u£? X-? a ? ? o ? o ?DD?d1(i)=abs(c1(i)-c1(i-1);d2(i)=abs(c2(i)-c2(i-1);d3(i)=abs(c3(i)-c3(i-1);if d1(i)<=0.001&&d2(i)<=0.001&&d3(i)<=0.001R=c1(i);G=c2(i);B=c3(i);k=i;b

18、reak ;end endRGBimg=uint8(img);img(find(img<R)=0; img(find(img>R&img<G)=128;img(find(img>G)=255;toc?ey?subplot(2,2,3),imshow(img);title( subplot(2,2,4),imhist(img);title(五、实验结果与分析1. WIT 结果I*兰国則aio&riq .inntki i-iW«B«<LLa.- Q MflOAAS?可 fl ： IMIW 1;加 190.071-.,MQ|WMHSH

19、 I r.JMTbmW hWlH9 BBflKtor HBiSfll 刊审 Ml. itfMI feHl4 A ffK|l&i tfis ncwTFtv B"b Kmph» mug- cotan 4our diiit'nd'pHHs n rta hKfeqrjn Z l<附吸“Wf .ifrn. * dfii hriiwjaMrtiP号tl.iwt. JMHrfLli ucd LLLf JM 皿 HtnJi H £. bUui ai C_i.图3 WIT聚类分析系统分析界面图4 WIT聚类分析系统分析结果 聚类类别数3聚类中心 R=1

20、8.8709G=93.3122B=190.678迭代次数 256运行时间 60.159ms 2、K均值聚类结果图三聚类后的图像X图0四聚类后的图像直方图20m :0 100 200图5K均值聚类分析结果聚类类别数3聚类中心 R =19.9483 G =94.4184 B =192.3320迭代次数 8运行时间 2.278493 seco nds小结：K均值聚类方法和 WIT系统操作后对应的聚类中心误差较小，分别是19.9483 94.4184192.3320和18.8709 93.3122 190.678 。说明K均值聚类分析方法误差较小，但是相较于WIT系统分析的时间，K均值聚类时间较长，迭

21、代次数较多。实验三、神经网络模式识别一、实验目的掌握利用感知器和 BP网进行模式识别的基本方法，通过实验加深对基本概念的理解。二、实验仪器设备及软件HP D538、 MATLAB三、实验原理设计线性可分实验线性分类器原理：已知一样本集， 如果有一个线性分类器能把每个样本正确分类， 则称这组样本集为线性可分 的，否则称为线性不可分的。 如果样本集是线性可分的， 则必然存在一个线性分类器能把每 个样本正确分类。 贝叶斯分类器是在错误率或风险下为最优的分类器。 线性分类器针对错误 率或者风险是“次优”的，但对于所采用的准则函数是最优的。线性分类器的设计步骤：1、有一已知类别的样本集 HJ是H , w

22、, w0的函数2、确定一准则函数 J0极值解对应最好的“决 策”-w ,w03、 利用最优化技术求出准则函数极值解w ,w0 设计线性分类器对线性可分样本集进行分类，样本数目 10 个以上，训练及分类步骤齐全， 记录分类器训练的迭代次数和训练时间。奇异样本对网络训练的影响奇异样本： 该样本向量同其他样本向量比较起来特别大或特别小时，网络训练所花费的时间将很长。设计实验考察奇异样本对感知机训练的影响， 比较有无奇异点时的训练时间及迭代次数， 设 计解决此问题的方案并实验验证。分类线性不可分样本利用线性分类器对线性不可分样本进行分类，考察训练时间及迭代次数。BP法分类原理：根据样本希望输出与实际输

23、出之间的平方误差最小，利用梯度下降法， 从输出层开始， 逐层修正权系数。一般为三层前馈神经网络，激励函数为Sigmoid 函数。前向传播阶段：输入层输入节点：图像特征分量值输出节点：Oj X隐层 输入节点：I iwijOi输出节点：Oi11 exp Ii输出层输入节点：I kwikOi1输出节点：0k1 exo - Ik反向传播阶段：1 c 2E yk ?k利用梯度下降法令误差函数最小2 kX激励函数f的导数:e.r y 1 yX 21 e利用反向传播使某一隐层节点受所有输出层节点影响1、BP采用S函数，输出不宜设为1或0,可设为0.9或0.1 o2、权系数初始化：不应将初始值设为相同，否则在

24、学习过程中始终不变，可设为随机值。3、步长的选择：应设为可变步长，以防止震荡。4、局部最小问题：BP算法是非线性优化算法，初始值设置不当，可能陷入局部极小。5、前馈网络结构：输入节点数为模式维数，输出节点数一般为类别数，隐层节点数尚无明 确方法，实验确定。利用BP网对该样本集进行分类，考察训练时间及迭代次数并作对比。四、实验步骤及程序1、实验步骤感知器实验： 1、设计线性可分实验，要求训练样本 10 个以上2 、奇异样本对网络训练的影响3 、以线性不可分样本集训练分类器BP网实验：利用 BP网对上述线性不可分样本集进行分类 2、实验源程序1）感知器close all ; clear;clc;t

25、ic;%F?a e ? e ? e ? d ?P=-5 -7 -4 -1 0 -5 4 2 -4 -2 1 4 4 3 1 -2;0 -5 4 2 -4 1 4 1 -1 -3 -1 7 -2 -3 5 -5;%T? a ? ? 士 e e ? d ?T=1 0 1 1 0 1 1 0 1 0 0 1 0 0 1 0;figure,plotpv(P,T); %? ' y ? a a e y ? Y 卩? i ? net=newp(mi nm ax(P),1);% ' ? D ? a ? *e ? ? - i ? ? ?linehandle=plotpc(net.IW1,net.

26、b1);E=1;n=0;%? D ? a ? - e ? ? - i ? ? ?while (sse(E)net,y,E=adapt(net,P,T);n=n+1;perf(n)=sse(E);linehandle=plotpc(net.IW1,net.b1,linehandle);drawnow;end toc%? o 2 ? ? u ? ?figure,plot(perf);%? ? ? ? ? o 2 ? 士 ? ?u?2）奇异点clear;clc;tic;%P? a e ? e ? e ? d ?P=-3 -1 -5 4 2 -4 -2 1 4 3 1 -3;5 2 1 4 1 -1

27、-3 -1 -2 -4 5 -6;%T? a ? ? 士 e e ? d ?T=1 1 1 1 0 1 0 0 0 0 1 0;figure,plotpv(P,T);%? ' y ? a a e y ? Y 卩? i ?net=newp(mi nm ax(P),1);%? D ? a ? ? - i ? ? ? linehandle=plotpc(net.IW1,net.b1);E=1;n=0;%？D?a? - e ? - i ?while (sse(E)net,y,E=adapt(net,P,T); n=n+1;perf(n)=sse(E);linehandle=plotpc(net

28、.IW1,net.b1,linehandle);drawnow;endtoc%? o 2 ? ? u ? ?figure,plot(perf);%? ? ? ? ? o 2 ? 士 ? ? - ? u ? ?(3) BP网络close all ;clear;clc;tic;%F? a e ? e ? e ? a ?P=-5 -7 -4 -1 0 -5 4 2 -4 -2 1 4 4 3 1 -2;0 -5 4 2 -4 1 4 1 -1 -3 -1 7 -2 -3 5 -5;%T? a ? ? 士 e e ? a ?T=1 0 1 0 0 1 1 0 1 0 0 1 0 0 1 0;figur

29、e,plotpv(P,T);%? ' y ? a a e y ? Y 卩? i ?net=newff(minmax(P),5,5,1, 'tansig' , 'purelin' , 'logsig' , 'trainlm' ); %卩± ? ° e ? e ? 2 ? e - ?卩 o i ? D ?卩 inputWeights=net.IW1,1;inputbias=net.b1;%i 士 ? ° i ? ? ? 2 ? e - ?卩 o i ? D ?卩layerWeights=net.LW2,1;layerbias=net.b2;%e e ? ? ? p.a 2 ? e ytic%卩 + 0 ? TRAINGDM ? ? a - BPi ? ? ?net,tr=train(net,P,T);tocA=sim(net,P);E=T-A;MSE=mse(E);五、实验结