基于Weka的数据分类分析实验报告

1、基于Weka的数据分类分析实验报告1实验目的使用数据挖掘中的分类算法，对数据集进行分类训练并测试。应用不同的分类算法，比较他们之间的不同。与此同时了解Weka平台的基本功能与使用方法。2实验环境2.1 Weka介绍Weka是怀卡托智能分析系统的缩写，该系统由新西兰怀卡托大学开发。Weka使用Java写成的，并且限制在GNU!用公共证书的条件下发布。它可以运行于几乎所有操作平台，是一款免费的，非商业化的机器学习以及数据挖掘软件。Weka提供了一个统一界面，可结合预处理以及后处理方法，将许多不同的学习算法应用于任何所给的数据集，并评估由不同的学习方案所得出的结果。图1Weka主界面Weka系统包括

2、处理标准数据挖掘问题的所有方法：回归、分类、聚类、关联规则以及属性选择。分析要进行处理的数据是重要的一个环节，Weka提供了很多用于数据可视化和与处理的工具。输入数据可以有两种形式，第一种是以ARFF格式为代表的文件；另一种是直接读取数据库表。使用Weka的方式主要有三种：第一种是将学习方案应用于某个数据集，然后分析其输出，从而更多地了解这些数据；第二种是使用已经学习到的模型对新实例进预测；第三种是使用多种学习器，然后根据其性能表现选择其中一种来进行预测。用户使用交互式界面菜单中选择一种学习方法，大部分学习方案都带有可调节的参数，用户可通过属性列表或对象编辑器修改参数，然后通过同一个评估模块对

3、学习方案的性能进行评估。2.2 数据和数据集根据应用的不同，数据挖掘的对象可以是各种各样的数据，这些数据可以是各种形式的存储，如数据库、数据仓库、数据文件、流数据、多媒体、网页，等等。即可以集中存储在数据存储库中，也可以分布在世界各地的网络服务器上。大部分数据集都以数据库表和数据文件的形式存在，Weka支持读取数据库表和多种格式的数据文件，其中，使用最多的是一种称为ARFF格式的文件。ARFF格式是一种Weka专用的文件格式，Weka的正式文档中说明AREF代表Attribute-RelationFileFormat（属性-关系文件格式）。该文件是ASCII文本文件，描述共享一组属性结构的实例

4、列表，由独立且无序的实例组成，是Weka表示数据集的标准方法，ARE坏涉及实例之间的关系。3数据预处理本实验采用Weka平台，数据使用Weka安装目录下data文件夹下的默认数据集iris.arff。Iris是莺尾花的意思，莺尾花是莺尾属植物，是一种草本开花植物的统称。莺尾花只有三枚花瓣，其余外围的那三瓣乃是保护花蕾的花萼，只是由于这三枚瓣状花萼长得酷似花瓣，以致常常以假乱真，令人难以辨认。由于本次使用平台自带的ARFF格式数据，所以不存在格式转换的过程。实验所用的ARFF格式数据集如图2所示。ViewerXRelation:irisNo1:sepallength2：sepalwittfri3

5、：petallength4-petalwi<Jth5-classNunwicNunwicNumG<icNurrwicNominsI15.13.5140.2Iris-s.249301,+0.2ki£-S.347321.302lris-s.44.6311.502Irls-s.55.0361.402Iris-s.65.43g17C4Iris-s.74.6341403Iris-s.,S5.03.41.50,2Iris-s.9442.91.40.2Iris噌“1049311501Iri£-S.1154371.502lris-s.124.B341.&02Irls-s

6、.134.S301401Iris-s.144.3201.101Iris-s.155.3401.20.2Iris-s.165,74.41.50.4Iriss.17543.91.3Q,4|ris185.13,51403Iris-s.195.7331703IriB-s.205.1381.503Irises.215.4341.702Iris-s.4)Addinstance(XCancel图2AREF格式数据集（iris.arff）莺尾花的数据集包括三个类别：IrisSetosa（山莺尾）、IrisVersicolour（变色莺尾）和IrisVirginica（维吉尼亚莺尾），每个类别各有50个实例。数

7、据集定义了5个属性：sepallength（花萼长）、sepalwidth（花萼宽）、petallength（花瓣长）、petalwidth（花瓣宽）、class（类别）。最后一个属性一般作为类别属性，其余属性都是数值，单位为cm（厘米）。实验数据集中所有的数据都是实验所需的，因此不存在属性筛选的问题。若所采用的数据集中存在大量的与实验无关的属性, 筛选。实验所需的训练集和测试集均为则需要使用weka平台的Filter（过滤器）实现属性的iris.arff。4实验过程及结果应用iris.arff数据集，分别采用LibSVM、C4.5决策树分类器和朴素贝叶斯分类器进行测试和评价，分别在训练数据上

8、训练分类模型，找出各个模型最优的参数值，并对三个模型进行全面评价比较，得到一个最好的分类模型以及该模型所有设置的最优参数。最后使用这些参数以及训练集和校验集数据一起构造出一个最优分类器，并利用该分类器对测试数据进行预测。4.1LibSVM分类Weka平台内部没有集成LibSVM分类器，要使用该分类器，需要下载libsvm.jar并导入到Weka中，直接在Tools-Packagemanager中搜索LibSVM进行安装。用Explorer打开数据集iris.arff,并在Explorer中将功能面板切换到Classify，点Choose按钮选择functions(weka.classifier

9、s.functions.LibSVM)，选择LibSVM分类算法。在TestOptions面板中选择Cross-Validation=10,即十折交叉验证。然后点击start按钮:使用LibSVM分类算法训练数据集得出的结果参数：-S0-K2-D3-G0.0-R0.0-N0.5-M40.0-C1.0-E0.0010-P0.1-Claaiifier(fullLibSVWi|ffT4pperp匚口de匕尸Yanar-rEL-Manjaj daSlfled145In-z Drreetly ClTD3»n«33"郭MP，、*rrnrCUEK邕口M-百二 3口口悬丁培4 e

10、rror0,乳felntivr uteo二ute rrrEir5彳rrZ 5 ti ve stjb Td -rmr31.422a ITotal Nuznber of Injtsncw150Ettailrd ft.二cu二cl二3 3y CLasj "-TP PateFP RacePr«.13iffD Re-fiiLLOMth MOL.M4O.HOO-D?00.91594.94QD-9600.030weighted口Q.OtT5 367S75tz'a.t L£i-td ex 033 -va iczn 一 S'-raery 二一 Cnf-jazOT M

11、iatriir F He satire»rcROC Ar-earC AreaH1.0001 + OODt.OMIrij-sew?40-945O-WS0 + 9«0Q窕aIria-vTisiwlOTCL卑父M蕾C.9CE1 aril F 丁girdm。.沏naw5n , METisireEnk-ntoinziIdsod-e-J.:Cl_03mt二ocidhsbcclasszfled03540I*-Iris-aetOM0413Ib-Iri3-vcT3tcDlor,C24?Ic-Iris-virgrniM结果分析:使用该参数指定的LibSVM训练数据集，得到的准确率为96.666

12、7%,其中150个实例中145个被正确分类，5个被错误分类。根据混淆矩阵，被错误分类的实例如下。2个b类实例被错误分类到c；3个c类实例被错误分类到b。该算法P=0.967,R=0.967,RO面积为0.975.将模型应用与测试集:使用LibSVM分类算法测试数据集得出的结果3T工-CortwcLyciwsLXledMatagslieqWET+工ncoEZCXL/Inauaces21.3333上工3区通szeLLaciie生anabKlikre-error置DatEt-ax;jnazE'derrni:R.ela1.1ve由baaluxjzec？D-tRutrtlatuveguander

13、rsrT口t-LUmberc-f。期。一切一0.10M32加150tI=DEtfldlrd耻qj匚量匚y33CLa3aT?1tate元RatePrecisiznResallFTte独3:工亡MCC前CAtePSCArrsCZismsLdM0.0001,0001,0001.000l.OCD1.000-1.0C0rri*-sfrta550,9C00,0001+0000.MCa.9-3D0>»7D0.9B003trij-verisic.Oilor1.0000.0200«M21-0000.9SD丸加1。型。*大2Iria-vrrgitiiME50.900,0910+9870.

14、367a,9E00.990CtGcnfusLG-nMaximahc<-cloLSBfzedaa&000a-I±ie-agtaiaao4、2d，xna-veraiccicE。加ic®irifl-vimzacQ结果分析：准确率为98.6667%,只有两个实例被错误分类。P=0.987,R=0.987,RO面积为0.99。分类误差:4.2C4.5决策树分类器依然使用十折交叉验证，训练集和测试集相同。使用C4.5决策树分类算法训练数据集得出的结果参数：-C0.25-M2iHfettolitiiLa.x.oie_:umcos.23ezdiflLzdiLiEion-gjr

15、nawwb.1443®*mearreecLydassLEled.Znszaj：eee克兰paMe士二=l：d_Lu.L-etszzDrLerror同名】疝1Lin且西W口:ue庭-errarRg匚irel-atiwsquaredsrrisrTotalWurabw-rofDeEaiLe-dE.二e=a二yByClau"T?Rate-TPftot.e1有心4CLOSEO-ises7.BTC3*39.C3S3I3工匚gRecall4F-Hn工MCCROCReJftCAnaD.9BOO.OMDM9M0.W0.9A5C.MD仇知Iri3-3F,M7Ffl口如0=0300.9400号刎

16、0.940Gfl910a.9520.8MIri.g-veraicclO'rD.9<00.030059410+9d0.95Uo-Bwsa.Ml0«90SIris-viruinlcfl：油EH口0-0205%00.9W0-9S00-9400.MB0-9?4CTnf'jazoTiHatr_KA0sclajrzfLEdns461口u总*L?iQ-agxosa0413Ib-Lria-veTareaLcEa24£Ic-iriB*virgLEiLM结果分析:使用该参数指定的C4.5决策树分类器训练数据集，得到准确率为96%其中150个实例中的144个被正确分类，6个

17、被错误分类。根据混淆矩阵，被错误分类的实例如下。2个b类实例被错误分类到c,1个b类实例被错误分类到a;三个c类实例被错误分类到bo该算法P=0.96,R=0.96,ROC0积为0.968。将模型应用于测试集：使用C4.5分类算法测试数据集得出的结果SumraryCorrccclyClajuiLlica.1479:liu&SETeCTly口讨讨#Lted3fCappiiBacLcacOp91陋3HaotQ=arjqp-arelerzar0.10=leLazLvealbd二二二eeriar5.25=2上=l3orxslcaclvesquaredeirc-r士上.9士三9t工ZufflDl

18、：匕上日上二二J：L2J=150ktiB£led址wuaiUTBiC工a”TP而£曹ITItaGePreui1Hie靠Re1LF-H*aa!jrtNCCROCAreaPRCArenGn”l.COO0-0001,0001.30C1.OCD1,0CDLMM1.0CDTriKkEM0-9D00.020O.«l0.5SCC.发口C.9F5卓u0.9£9Iria-vrsi匕中口力丁0-5600.010O,S0O口门的Q.91DQ.5550.9900.DLrisr-virginicafc-jhtrdo.aeao.oiaCL9第0,9600.9=30.WD0,930&

19、lt;WD-Con±uE;二二nMatrm-自标乙elaasiiteaa巨boooi白，iTia-jetcija0491I=Iril-VBZlLCalC-£o2ie|cwiia-vifgLoicii结果分析：准确率为98%有3个实例被错误分类。P=0.98,R=0.98,RO面积为0.993。分类误差：4.3朴素贝叶斯分类器依然使用十折交叉验证，训练集和测试集相同。使用朴素贝叶斯分类算法训练数据集得到的结果参数：无cortweLycia5smeanm:2sm11，95Inje2zzeeicl.7*led工na二jCmppmw二a匚二臼匚二c：生点natisalLireerr

20、or且aotEicaxierrorRelativeak-ialLiuerrorRwtrelativeaquae?rsrTo<«lNtnbvrc-f71n-tanu号*=DttaiLedJuzcuracyB/Clas=TPAat-5?P如tEA0.94"S，上a.155T-aw7imiISO?r*cisio±iBtsallMCCROCArrePRCArceClfl-55EOOOCOL匚胡L仇。1.D0030配1,000LMOIf15-3«&?-aa2的M弘0,5230,B6C0.9410.9110.992tl/83lEij-versicclo

21、ra.920C.0200.9580.92C九湖0.910th”4Iri5virgin!mWe:ffbtedRp,09603(12。0.9600.96Cn,g«o0.94D0.9»s一-CtafuDLcnMm=：abc<-claaaLiedaa500t)a"Iria-saa.0稣:总-ina-verai&zLoro-c.ina-vtzijLBisa结果分析：使用朴素贝叶斯分类器训练数据集，得到准确率为96%其中150个实例中的144个被正确分类，6个被错误分类。根据混淆矩阵，被错误分类的实例如下。4个b类实例被错误分类到c;2个c类实例被错误分类到b。

22、该算法P=0.96,R=0.96,RO面积为0.994。将模型应用于测试集:使用朴素贝叶斯分类算法测试数据集得出的结果口5皿鹏修!»-crErcctLyClusiiizd-dstancc3144%iRcr？eccLyEBqmnce叁Me-=nfibsolute-errorSac*eeelqerror岂elat=vmitaclut-=error置牛二二LiSclrete工二二Tota1t(LBnbexe>£IdstaREm上嵯t工吐口kscracyCLajjTFR-t-FPPat«0.910.0324G.14-9S7.22B3牝150?T«EiliiEXlR】L4F-MefimreMOTROC工mPRC401»M1.000*MQLOCK1.ng1.(JOO1m1M。1-700:FtWtr，r0.9EOO.MO0.923D.SfiflC+M10+9UOp993D8IrLS-vriLcalcTQMQQM0Q.土Q.通CPQ+9l0QB-口,mG二e.FrgLcie*NeigftFd为啊.O_9f(30DJ2D0.36Z口.鼻51c.g后口0.995D.c-91二cjitum二口乂amahc<*-Classifiedas5C00Io*Irla-setdJa0-44