SVM分类器系统设计

1引言1.1研究背景与意义中国是传统农业大国。当前，在稳步推进实现“两个一百年”奋斗目标进程中，农业、农村、农民问题仍然是实现社会主义现代化强国过程中的短板。党的十八大以来，以习近平为代表的的党中央高屋建瓴，统筹规划，坚持强调把解决好三农问题作为全党工作中的重中之重。在逐渐实现“两不愁三保障”基础上，实施“互联网+农业”、智慧农业和数字乡村战略，使农民增收可持续，为实现乡村振兴的目标助力护航。民以食为天。粮食关乎民生大计，水稻作为农业生产生活中的一种主要粮食作物，其叶长而扁，秆直立，性喜高温而且多湿，日照时间较短，易受水稻昆虫（主要有二化螟、稻枞卷叶螟、大螟、直纹稻弄蝶）侵害，每年因害虫的侵害导致水稻产量受到不同程度的减少，从而间接造成巨大的经济损失，而如何有效遏止损失关键在于水稻害虫的识别。水稻害虫的识别主要分为两个过程：水稻害虫图像的采集和对水稻害虫图像的识别分析。水稻害虫图像的采集是通过害虫测报灯这种物理方法实现的，它通过辐射特定范围频谱的光线对水稻害虫捕杀，该设备简便易行，绿色环保，推广性强。传统意义上，对水稻害虫的分析则是通过植保人员回收测报灯内的害虫进行人工识别和分类，这种方法极大浪费了人力和物力资源。一方面是因为人工观察任务量大，工作繁琐，且效率低下；另一方面，这种方法依赖植保人员有相当丰富的水稻害虫知识和识别经验，主观因素大，对于缺乏经验的植保员，在区分外形、体态等特征相似的害虫时难度较大，不能做到类别的准确判定。随着现代数字图像处理技术和统计学理论的深入发展，如何利用现代科学技术使人摆脱无聊机械的识别工作以及提高水稻害虫的识别率有着深远意义。本文提出一种基于支持向量机理论的水稻害虫自动识别方法，旨在实现对害虫精准识别、准确分类，为水稻害虫的防治工作做理论支撑。1.2当前研究现状随着数字图像技术、模式识别及人工智能的飞速发展，越来越多的研究应用指向于基于图像处理的农业害虫自动识别领域[1][2][3]。在水稻害虫自动识别方法研究领域中，马鹏鹏[4]在对智能虫情测报灯实时采水稻害虫图像进行图像畸形矫正与裁剪，然后再进行背景去除和形态学处理，有效实现了水稻害虫的实时监测与处理。ZiQuanHong[5]研究了奇异值特征向量，构建Sammon最优判别平面，并应用于图形分类识别领域。李文斌[6]通过提取水稻害虫的6种几何形状特征，并用支持向量机分类器实现对害虫分类识别，最终识别率达到96.67%。通过对水稻害虫的初步分类，沈鼎祥[7]等人增加了与每组害虫图像形态相似的非预测害虫图像,最后通过带有后验概率的SVM得出较高的识别率。Meng-DarShieh[8]等人提出基于SVM-RFE的方法简化形态特征，实验结果表明多分类的SVM-RFE方法不仅能够在最小泛化错误的基础上准确识别重要特征，而且只需用最少的特征子集用于预测。马鹏鹏、周爱民[9]等讨论了图像特征和样本量对水稻害虫图像识别结果的影响。张永玲[10]通过建立水稻病虫害数据信息库，开发出兼顾了监测的实时性和识别的准确性的水稻病虫害图像识别与诊断系统。刁广强[11]将水稻害虫图像的研究对象分为三个部分，通过图割方法分割害虫主体，用显著性的局部对比度算法分割害虫为害状，利用颜色空间的分割算法分割病害部分，最后利用接受者操作特性曲线评估分割效果。近几年，随着深度学习的不断发展和广泛应用，陈国特[12]提出基于深度学习的四层卷积神经网络实现对水稻飞虱自动检测和识别算法，并利用Bagging并行策略降低飞虱的误检率，表现出良好的泛化能力和鲁棒性。PlamenAngelov等[13]提出了一种基于深度学习模糊规则的图像分类器，取得良好效果。周瑶[14]结合YOLO深度学习网络的计数方法和基于全局特征的SVM分类器优势开发有翅昆虫识别系统，最终得到系统93.45%的计数平均正确率和92.24%分类平均正确率。本文基于支持向量机理论实现对四种水稻害虫图像的识别，最后对模型进行优化，进一步优化识别率。1.3本文主要内容和思路针对水稻害虫图像，本文利用数字图像处理技术，首先对其灰度化处理，然后通过中值滤波方式对图像进行滤波，消除水稻害虫图像的噪声，继而对水稻害虫图像进行二值化处理，最终将水稻害虫的二值化图像转化为彩色分割图像。再在此基础上提取特征参数，以作为识别的评判标准，最后在支持向量机理论基础上建立水稻害虫识别模型，并对水稻害虫测试集数据样本进行测试识别，得到识别率，该过程的实现思路如下图1-1所示：1.4结构安排以下是本文的结构安排：第一部分：本部分主要介绍了水稻害虫图像识别的研究背景、目的和意义，以及当前水稻害虫识别方法领域内研究的一些具体研究，最后概述了本文的主要内容和实现思路图。第二部分：介绍了水稻害虫的种类、采集的图像数量，并将害虫分为训练集与测试集。第三部分：主要介绍了对水稻害虫分割图实现颜色、纹理、形态特征具体参数的提取。第四部分：首先简述了支持向量机的理论基础、原理，然后介绍核函数的种类，最后针对多类问题，介绍SVM一对一和一对多方法的实现思路。第五部分：利用水稻害虫图像训练集数据建立SVM识别模型，然后对测试集进行测试，得出该模型的识别率，并利用灰度网格对参数寻优获得最高的识别率。第六部分：针对当前水稻害虫自动识别方法研究领域的热点问题，并结合本文中的实现过程，提出后续改进的方向与思路。2图像处理2.1图像采集利用水稻智能测报灯采集二化螟、大螟、稻枞卷叶螟和直纹稻弄蝶四类水稻害虫图像（分别如图2-1、2-2、2-3、2-4所示），并对图像进行筛选和剪裁，最终选取236幅大螟，241幅二化螟，233幅稻纵卷叶螟和77幅直纹稻弄蝶图像作为实验样本。并将每类样本按照大约3:1的比例分为共计630幅水稻害虫训练样本和157幅水稻害虫测试样本。考虑到所得图像的角度、光线、背景等因素各不相同，为了使所得数据更加可靠，需要对图像进行灰度处理、去噪、二值图形态学处理，消除干扰，继而分割得到较为清晰的目标图像，为后续提高特征提取数据的精确性作准备。根据水稻害虫图像处理建立的GUI的界面如下图2-5所示：2.2图像灰度化图像灰度化是指利用算法将彩色图转换到灰度图的过程。由于实验中拍摄到的水稻害虫是彩色图像，而彩色图像可由R（红）、G（绿）、B（蓝）三种灰度分量线性组合而成，其中R、G、B每一种分量灰度值范围都是0~255，灰度值为0代表纯黑，灰度值255代表纯白,中间范围呈现灰度图，尽管这些灰度图看起来与原图差异明显，但灰度图仍能够有效保留水稻害虫图像除颜色特征之外的其他特征。因此在提取水稻害虫彩色图像的非颜色特征时，为了提高数据的处理效率，实验中首先将害虫彩色图像进行灰度化处理，处理后的水稻害虫图像分别如下图2-6、2-7、2-8、2-9所示：2.3图像去噪噪声普遍存在于图像中，一方面在于图像在拍摄时环境所造成的影响，另一方面则是在图像处理或者传输过程中随机引入。若在特征提取前不对噪声处理，则会在提取出的数据中有所掺杂，影响数据的准确度。对噪声常用的滤波方法有均值滤波和中值滤波。均值滤波是一种线性滤波法，对于图像中任一像素点，选取其周围与其相邻的8个像素作为模板，用该8个像素的平均值代替中心选定点的像素值，以此达到去噪的目的。该方法在滤波去噪的同时，图像中原有的某些细节信息也会被去除，特别是对椒盐噪声去噪时，去噪效果不是很好。中值滤波是采用非线性滤波方法，通过利用一像素点周围某一领域内的所有像素灰度值的中值来代替该点的像素灰度值，以此消除图像中由于某种原因引入图像中单个的噪点，达到良好的去噪效果，使图像呈现得更加平滑与清晰。相对于均值滤波，中值滤波不仅能有效去除噪声，还能使图像的细节信息得到良好保护，因此本实验中采用中值滤波对水稻害虫图像进行滤波，处理结果图像如图2-10、2-11、2-12、2-13所示：2.4图像分割通常在图像处理的过程中，人为将图像划分为感兴趣部分和不感兴趣部分，前者作为该图像前景，并对其进行特征提取，后者作为图像的背景。图像分割是通过算法对图像处理并最终保留前景，去除背景，达到有效分割。常见的图像分割方法主要有四大类，分别是基于阈值、基于边缘、基于区域以及基于特定理论的分割方法。由于水稻害虫采集的图片背景比较单一且目标区域明显，因此本实验中通过自适应阈值分割算法[15][16]实现对水稻害虫图像分割。具体过程是先通过一系列前期处理得到水稻害虫图像的二值图，然后转化为彩色分割图像。二值化图像是将灰度图转化为纯黑白图像，具体实现方法是设置一个阈值T，通过二值化函数实现：（2-1）当像素值,则将图像该区域的像素的灰度值设定为0，即在图像上呈现为纯黑；当像素值，则该区域像素的灰度值设定为255，在图像上呈现为纯白，二值化原理示意图如3-2所示：二值化图像的最终呈现结果取决于阈值T，本文是利用graythresh函数自动寻找最优阈值，得到二值图像，并对二值图进行去孔洞和填充操作处理，最后在二值图的基础上得到彩色分割图如图2-14、2-15、2-16、2-17所示：3特征提取前面图像灰度化、图像去噪、图像分割等步骤只是图像处理技术的基础阶段，要使计算机更好的分析和理解所给图像，需要对所给图像进行高级阶段图像处理。但是，计算机不能直接识别所给的图像，只能对二进制数字进行运算操作，因此实验中提取水稻害虫图像的具体特征，借助数学工具具体描述，以便计算机更精准的认识水稻害虫图像，最终实现对水稻害虫的识别。在特征提取的过程中，考虑到一幅图像的数据量比较大，直接处理占用太多电脑的内存，效率较低；而且图像中夹杂着其他一些非识别区域与信息，因此需要有针对性的选择与提取水稻害虫的图像特征。特征提取[17]是从图像中提取图像的内在信息和数据，以此准确描述图像的外在特征，使得该图像可视化，更好的被机器认识。本实验中识别的机理是通过对采集的水稻害虫图像数据分析，完成水稻害虫识别模型构建后对测试集样本数据进行预测。而一幅水稻害虫图像的特征数据众多，有的数据并不能有效表征水稻害虫的特点，因此为了有效提高数据的参考性，提高工作效率，本实验提取能有效表征水稻害虫图像信息的形态、纹理和颜色的一些具体特征。3.1颜色特征颜色特征是是基于像素点的一种描述图像表面色彩变化的特征，因此表达图像信息时具有全局性，并且颜色特征不受图像旋转和图像平移影响，在描述图像特征信息时经常采用。本实验中，提取的是与人类视觉感知系统相近的HSV模型下H(色调，Hue)、S(饱和度，saturation)、V（value，亮度值）三分量的均值、方差（二阶矩）、三阶矩和能量4个特征。设一副图像f的像素总数是t，灰度等级数值是L，遍历全图，灰度值为k的像素共有个，则有：（1）颜色分量平均值：（3-1）（2）颜色分量方差：（3-2）（3）颜色分量三阶矩：（3-3）（4）颜色能量：（3-4）3.2纹理特征不同于颜色特征的直观明显，纹理特征反映了一个局部中像素灰度级的空间分布的属性，在视觉中呈现为具有同一特点和性质信息的图像区域。纹理特征同样不受图像旋转的影响并且有着不错的抗噪性能。本实验中在水稻害虫图像灰度共生矩阵的基础上提取能量、熵、对比度、相关性、均匀度的均值和标准差共10个参数。（1）灰度共生矩阵能量：（3-5）（2）灰度共生矩阵熵：（3-6）（3）灰度共生矩阵对比度：（3-7）（4）灰度共生矩阵相关：（3-8）（5）灰度共生矩阵均匀度：（3-9）3.3形状特征对形状特征的描述主要是基于图像的不变矩和形状几何两个特性，通常情况下，在水稻害虫图像识别过程中，害虫图像的形状信息在识别过程中有着良好的区分度。为减小图像大小、移位等对形态特征的影响，实验中提取了矩形度、延长度、似圆度、紧凑度和偏心率5个相对参数，以及Hu矩和傅里叶描述子共计18个参数值。（1）矩形度：（3-10）矩形度是用来描述虫体最小外接矩形对该物体的包含程度，a和b分别定义为虫体的面积与该虫体的最小外接矩形面积；（2）延长度：（3-11）c和d分别定义为水稻害虫最小外接矩形的长和宽；（3）似圆度：（3-12）H定义为将害虫虫体垂直摆放测得的垂直长度；（4）紧凑度：（3-13）L定义为水稻害虫连通域的周长,紧凑度描述了当在面积相同的条件下，虫体轮廓光滑度与轮廓长度成反比；（5）偏心率：（3-14）m和n分别定义为虫体区域主轴与辅轴的长度。4SVM分类器支持向量机(SurportVectorMachine,SVM)理论的完整阐述最早于1995年由Cortes[18]和Vapnik[19]提出。该理论是基于VC维和结构风险最小原理，广泛用于分类识别[20][21][22]及线性回归[23][24]问题中。传统的分类方法在处理数据时若要得到较高的分类准确性需要分析处理大量的数据，因此在学术研究上传统方法推广度不高。而支持向量机在处理非线性、高维度、小样本数据时相比其他方法有明显的泛化能力。4.1支持向量机的原理支持向量机是通过利用内积核函数实现数据的高维映射，使其保障误差率最低的条件下，在这些映射到高维度的数据上构造一个最优分类超平面，使样本数据在高维度空间上呈现线性可分,并达到良好的泛化能力。4.2核函数支持向量机的主要思想便是要找到最优分界面（一维是最优分界线），如何寻找最优分界面首先得从核函数着手。针对数据在一维平面不可分情况，将需要处理的样本空间通过核函数进行非线性变换，将样本数据从低维度映射到高维度，最优分界面函数为：（4-1）以上函数表达式中x为支持向量，y为未知向量。为核函数，其主要类型有以下四种：线性核函数时：（4-2）多项式核函数时：（4-3）径向基核函数时：（4-4）双曲正切核函数时：（4-5）由于径向基核函数兼顾良好的分类能力和快速收敛特点，本实验中采用该函数进行数据的高维映射。4.3SVM多分类自上世纪90年代以来，支持向量机理论已取得长足的发展。最初SVM算法主要应用于二分类问题，但在面临实际问题时，大多数研究对象都是为多分类问题，比如茶叶嫩芽识别[25]、图像分割[26]、车牌识别[27]等方面。近些年来，如何构造合适的多分类器[28][29]成为支持向量机方向研究的热门。最常见的基于支持向量机理论的多分类[30]思路主要有两种：一种方法是二分类原理基础上，重新优化核函数，构建多分类模型，再应用到实际问题中；另一种思路是将多分类问题分解为若干个二分类问题，这其中包含着两种常用的方式：一对多(one-against-rest)和一对一(one-against-one）SVM分类方法。一对多的方法是通过构建多个二分类子分类器，对于n类的样本，任选其中一类作为分类正样本，剩余的n-1类看作一个分类负样本，以此构成一个二分类模型。由于该样本有n类，为了得到充分训练，需要遍历所有数据，因此若基于该理论的多分类方法需要构建n个子分类器，且所有样本在每个子分类器中都需参与训练。一对一SVM分类方法由于其分类效率及准确率较高，在多分类问题中应用较多。一对一多分类方法同样是构建多个子分类器，但与一对多不同的是一对一方法是在任意两个类别中构建子分类器，对于一个n类数据样本，该多分类方法需要构建个子分类器，每次只需两类样本数据参与训练，有着良好的准确率。5识别结果与分析5.1SVM识别过程SVM识别实现思路是将特征提取得到的数据分为两组，630幅水稻害虫图像的特征数据的训练集和157幅水稻害虫图像的特征数据测试集。为了减小不同特征数据范围不一致导致的影响，获得更高的识别率和稳定性，数据按照如下映射：（5-1）式(5-1)中，将数据归一化处理到[0,1]区间。然后选定径向基核函数，支持向量机根据所给的水稻害虫训练集样本数据，构造分类模型，再将水稻害虫测试集样本数据读入已训练好的模型中测试，所得判别结果再与已知测试集的实际类别相比对，得到识别率。5.2参数优化当选径向基函数为核函数时，需要考虑惩罚系数c和径向基函数的参数自带的参数gamma（下文用g代替）。c值与分类器的容忍度成正比，影响数据的拟合度。参数g影响样本数据映射到高维度平面的分布，g值的大小与支持向量数目成反比。选取如下几组参数得到识别率如表5-1所示：表5-1不同参数条件下识别率参数c参数g识别率支持向量数（测试集157）0.11043.3121%6290.01184.7134%6290.05579.6178%610101088.535%533由于在实际识别过程发现识别率并不是很高，并且支持向量个数与训练集样本比值过大，所以考虑全局寻优参数，在提高识别率的同时保障适度拟合，实验中是采用网格寻优的方式寻找最优参数，参