【《基于SVM算法训练电磁干扰回波图像分类器和测试分析案例》5200字】

基于SVM算法训练电磁干扰回波图像分类器和测试分析案例第1章基于SVM算法训练电磁干扰回波图像分类器基于SVM的电磁干扰回波分类课题主要分两大部分，第一部分为训练SVM分类器，第二部分为测试SVM分类器。训练SVM分类器任务的主要步骤为：首先收集图片建立训练样本集，再读取样本图片，用主成成分分析法对样本进行降维预处理，再进行SVM训练，从而生成并保存SVM分类器，最后检验分类器的准确性。1.1图像降维预处理1.1.1建立训练样本集（1）图像特征概述特征就是物体独特的性质或特点，可以将其与其他物体相区分。特征可以从事物中提取出来的数据得到。图像的特征是指每幅图像都有独特的性质或特点，可以将其与其他图像相区分。这些特点可以通过亮度、纹理、颜色直观的表现出来，或只能采取提取特征数据的方法得到，如提取矩、直方图、主成分等。而特征提取主要是找出待分类样本与其他样本差别最大的特征。选取具有代表性的特征对于分类的准确性有着重要意义。图像识别本质上就是对图像进行分类，因此，实现分类需要选取既能准确地描述图像、又有利于区分不同类型的特征。（2）本课题建立训练样本集的步骤正负样本是两个相对的概念，正样本一般是指想要正确分类出的类别对应的样本，正样本应该以目标为导向，后根据选好的数据集进行相应的优化。负样本则是与之相对的概念。本课题中的样本集为雷达电磁干扰回波图像。其按形状主要分为径向、螺旋状以及麻点状电磁干扰回波。如下图3-1、3-2、3-3所示，本次课题共45个样本，将其分为三类并标号为0、1、2，并选择径向电磁干扰回波样本集为正样本集，其余回波图像作为负样本集。图3-1训练样本集第0类图3-2训练样本集第1类图3-3训练样本集第2类1.1.2载入正负样本接下来将批量读取指定文件夹的图片样本，并主要进行读取图片样本、将图片样本进行缩放等操作，其具体实现过程如下：forj=1:img_num%%逐一读取图像img_name=img_path_list(j).name;%%输入图像名temp=imread(strcat(pathname,'/',img_name));%%读取图片大小temp=imresize(temp,[370,370]);%%将图片缩放为370*370的大小temp=double(temp(:));in1=strfind(img_name,'(');%%在图片名中搜索“（”label=str2double(img_name(1:in1-2));%%将图片名转为双精度数据Y(end+1)=label;imagedata=[imagedata,temp];end1.1.3主成成分分析法（PCA）的应用（1）主成成分分析法的概念PCA（PrincipalComponentAnalysis）即主成成分分析法REF_Ref66518938\r\h[7]，是常见的数据分析方法之一，常用于图像压缩处理。其本质是一种正交线性变换，将高维数据投影到其他的坐标系中，以达到降维处理的目的。该方法以因式分解为基准确定投影子空间，该空间能够更好地表示采样数据。PCA以Karhunen-Loeve变换为基础，经主成成分分析法降维后的样本数据是已滤除冗余信息和噪声的图像。噪声一般是对应于数值小的特征值，而冗余信息对应于样本数据中与之线性相关的数据。主要用于保留高维数据数据的低阶主成分和并进行特征提取，同时滤去高阶成分，也就是冗余信息和噪声两部分。（2）PCA的核心思想与基本原理主成成分分析法的基本原理为：将n维特征映射到k维上，k维在原有n维特征的基础上实现重构，经变换后的正交特征即为主成分，实现数据特征从高维到低维的处理。综上所述，主成成分分析法可视为收集数据并进行映射变换，使变换后的新数据具备一定的统计特性。设m维随机变量为x，且x的均值E(x)为0，表达式如下： （3-1）并设主元子空间的单位投影向量为w，随机变量x在该单位投影向量上的投影记为y，则y可由如下表达式表示： （3-2）其中单位投影向量w应满足式（3-3）所示的约束条件： （3-3）主成成分分析法以使E[y2] （3-4）由矩阵理论可得当E[y2] （3-5）由上式结合特征值与特征向量等理论可知，为矩阵Cx的最大特征值，相对应的特征向量为w，此处的特征向量w就是待求的最大主成分。同时该特征向量对应最佳投影向量。除了最大特征值以外最大的特征值也对应着相应的特征向量，该特征向量为次大主成分，由以上过程可推得Cx矩阵即为x的协方差矩阵。主成成分分析法的核心是求出图像的协方差矩阵Cx的特征值与特征向量。（3）主成成分分析法的算法实现过程第一步，首先对所有样本进行去均值操作，具体为读入像素总数为N的图片共M张，作为M*N矩阵；并计算M张图片在每个像素点的像素均值，列为1*N矩阵；第二步，计算每个图片像素值同像素点处的平均像素值，得到M*N矩阵；第三步，按列计算数据集的均值的协方差矩阵M*M矩阵，并求其特征值和特征向量，同时降序列出特征值，最后再计算主成分对应特征值与所有特征值之和的比值，得到贡献率；第四步，计算特征脸形成的坐标系；第五步，测试样本，输出辨识率以及降维数据集。（4）主成成分分析算法的整体思想主成成分分析法是一种相对简便且有效的图像降维预处理方法。该算法的整体思想是：利用主成成分分析法对训练集中的样本进行处理，得出特征脸，该特征脸由多个特征向量组成，之后即将被识别的样本需要按照相同的思路形成模型，并与训练集生成的模型进行匹配，得到相对应的训练集内的样本。在对训练集样本以及待识别样本进行特征提取以及投影处理后即可得到样本的识别结果，得到该结果采用的方法是：求出识别样本与训练样本之间的欧氏距离。通过以上算法流程描述可以得出该算法的优势是对原有数据进行降维处理，去除冗余信息后得到的特征均有效，且能够代表不同类别样本图像的特征，例如该课题中的三类电磁干扰回波图像样本的特征信息。（5）PCA对电磁干扰回波图像降维处理程序实现本课题中使用主成成分分析法对电磁干扰回波图像进行处理的核心程序实现如下：a)首先求出协方差矩阵，矩阵格式为45*45，再选择构成95%能量的特征值。covMat=imagedata'*imagedata;[COEFF,latent,explained]=pcacov(covMat);i=1;proportion=0;while(proportion<95)proportion=proportion+explained(i);i=i+1;endp=i-1;b）此时p=32,可以认为从45维降维成32维，减小运算量，此时w可以认为是一个坐标系，然后让原始数据投影到这个坐标系上。程序中reference这时是32*45,45代表45张图片，32代表一张图片降维后的表示向量。W=imagedata*COEFF;%N*M阶W=W(:,1:p);%N*p阶reference=W'*imagedata;经主成成分分析法降维处理后的特征图像如下图3-4所示：图3-4经过PCA处理后提取的特征图像1.2基于SVM算法分类器的构造上一步利用主成成分分析法对电磁回波图像提取主成分并滤除冗余信息和噪声，获取经PCA处理后的特征图像与特征向量。此时的特征向量是待分类的，后续将基于以上特征向量在二分类器的基础上训练多分类器。1.2.1选择合适的核函数核函数方法的主要内容为：当训练样本数据不可分时，可以将实际中常见的非线性问题经非线性变换函数映射到高维特征空间中。经这一系列转化，则可将原来的问题转化为线性问题。这就比直接用繁琐的非线性方法更加容易实现。原空间中的数据通过在新的高维空间中构造出不同的函数，使得原样本集中的数据利用该分类函数在高维空间中实现线性可分，具有适应性强等特点。核函数的成立条件是该函数满足Mercer条件，当前未找到一个普适性强的、能够处理各种问题的核函数，因此针对不同类型的非线性数据分类问题需要找到一个合适的核函数。在确定好核函数的同时也要选择合适的参数，这是选择核函数需要考虑的核心问题，其重要的原因是参数具有复杂性，同时又并非普遍的。在选择核函数时应该注意参考应用背景和先验知识，是否具有良好的泛化能力是评判核函数的构造是否合理的核心问题。研究中处理的电磁干扰回波图像为非线性数据，故需引入核函数帮助处理。核函数的分类多种多样，根据不同的要求选择的各类相异核函数，从而能够得到不同的SVM分类器。本课题选用了高斯径向基核函数，该函数中的宽度参数限制函数的径向范围。宽度参数和平滑程度成正比。宽度参数越大，则高斯滤波器带宽越宽，平滑程度也随之提升。这就说明，高斯径向基函数的优势之一是可通过调节高斯滤波器宽度参数来平衡模糊的图像特征与平滑图像中由于噪声和细纹理引起的欠平滑之间的关系，故选择该核函数将有利于解决高维度造成的计算能力不足的问题，从而有助于训练SVM分类器。高斯径向基函数还有其他优点：首先，该函数可实现将原空间数据经非线性映射转化为高维空间数据，便于后续处理；另外，影响模型的复杂程度的因素为函数中的参数数目，而多项式核函数参数相对多一些；最后，径向基函数的计算难度较低。1.2.2从二分类到多分类标准的SVM分类器在模式识别中是二分类器，而在实际课题中共有三种类别的干扰回波样本图片，因此需要找到将二分类器转变为多分类器的方法REF_Ref66519014\r\h[8]。方法一：一对一多分类器。一对一多分类算法旨在训练一个将多种类别样本两两分类。假设样本类别数目为k，每次取其中两类两两比较，诸如此类，则可训练二分类器数目一般为k(k-1)/2个。该方法思路简单，且每个二分类器的学习训练量较小，仅需正负两种样本，且样本数量不会相差很多，这就保证了分类结果的准确率，从以上分析可以看出，一对一分类算法操作并不复杂。方法二：一对多多分类器。该算法思路是：正样本为每一次将所有类别的每一类，而负样本则包括其余类别样本。具体操作是：每次正样本取其中一类组成，负样本由其余k-1个类组成，由正负样本训练一个二分类器。之后再取另一类作为正样本，其余类别作为负样本，再训练一个二分类器，诸如此类，则可训练二分类器数目一般为k个。从上述分析中可以看出，一对多多分类器分类速度比较快。然而，每次训练都是一个正样本与其余所有负样本进行训练，训练计算量庞大，训练时间长。同时正负样本数量悬殊，这将导致分类准确率下降REF_Ref66519397\r\h[9]。方法三：二叉树多分类器。由于标准的SVM分类器在模式识别中是二分类器，故SVM仅可将样本分为两类，而二叉树每个节点只能有不超过两个子节点，因此可以实现二分特征值，二叉树多分类算法则是将二者结合。将分类器应用于树结构中，从而形成多分类算法。该算法具有层次结构，并通过该结构使分类时间缩短，然而同样当层数较高时，则会存在累计误差的问题REF_Ref66519419\r\h[10]。1.2.3多分类器具体实现程序本课题中一共三类图像，类别较少，故选用一对一分类器相对合适，既保证运算量相对小，训练所需时间较短，又能提高分类的准确率。%%两两投票，累加结果，最后选择最大的数值作为投票结果fori=1:nclass-1forj=i+1:nclassclass=svmclassify(multiSVMstruct{i}{j},testface);voting(:,i)=voting(:,i)+(class==1);voting(:,j)=voting(:,j)+(class==0);endend[~,class]=max(voting,[],2);1.3训练并保存分类器选取三类图片中的两类进行SVM训练，最后保存训练返回的结果svmstruct组成一个矩阵，返回结果。具体实现方法如下：fori=1:nclass-1forj=i+1:nclassX=[traindata(15*(i-1)+1:15*i,:);traindata(15*(j-1)+1:15*j,:)];Y=[ones(15,1);zeros(15,1)];%%本课题选择高斯径向基核函数multiSVMstruct{i}{j}=svmtrain(X,Y,'Kernel_Function','rbf','boxconstraint',c);endend1.4本章小结本章主要对基于多类电磁干扰回波图像样本训练SVM分类器的过程进行了详细介绍。首先进行图像降维预处理，其主要流程为：第一，建立训练样本集。提出图像特征这一概念，并阐述了本课题建立训练样本集的步骤。第二，载入正负样本。第三，利用PCA对电磁干扰回波图像进行降维预处理。同时主要介绍了主成成分分析法的概念、核心思想、基本原理、具体实现步骤以及程序设计。最后对训练SVM分类器的步骤进行重点说明，在训练SVM分类器时，要合理选用核函数以及参数，通过二分类到多分类的一对一分类器的实现对三类电磁干扰回波的分类，并保存分类器，完成程序设计。第2章测试分类器测试分类器的一般过程为：首先，载入待测试图像样本；第二步，提取待测试图像特征；第三步，利用已训练好的多分类器将测试图分类。最后对测试集在该分类器中的分类准确率进行测试，并分析测试结果。2.1选择测试集首先要载入待测试样本图像。本课题测试样本图像共十五张，仍分为同上述训练样本集的电磁干扰回波图像一致的三类，每类各有五张样本图像，具体测试集样本如下图4-1所示。测试图像的载入过程同训练向量机时样本载入的过程一致，主要完成获取该文件中的样本图像数量，逐一读取图像，输入图像名以及读取图片大小图片缩放至固定大小等步骤。图4-1待测试电磁干扰回波样本集2.2对测试样本进行归一化处理在提取识别的测试样本图像的特征时，会由于不同的图像特征维度不同，而对识别造成难度，因此，在识别图像前需要对其尺寸进行归一化处理。对测试样本归一化是指以样本的不变矩为基准，得到一组参数并以之降低其他函数对图像处理的影响，将所有待处理样本标准化。实际上是将表达式由有量纲通过简化计算的过程变换为无量纲的情况。对测试图像进行归一化处理的是为了避免输入变量有着不同物理意义和量纲，导致各输入变量不能平等使用，同时也能使图像受到几何变换的影响。本课题中对样本归一化处理REF_Ref70270278\r\h