数据挖掘WEKA报告bezdekIris

1、数据挖掘之莺尾（IRIS）第一部分概述1. 数据挖掘目的：根据已有的数据信息，寻找出莺尾的届性之间存在怎样的关联 规则。2. 数据源：UCI提供的3. 数据集的届性信息：(1) . sepal length in cm(2) . sepal width in cm(3) . petal length in cm(4) . petal width in cm150个实例，每个实例有萼片长度（单位：厘米） 萼片宽度（单位：厘米） 花瓣长度（单位：厘米） 花瓣宽度（单位：厘米）5个届性。（数值型）（数值型）（数值型）（数值型）-5 -(5) . class:类型(分类型),取值如下-Iris Set

2、osa 山莺尾-Iris Versicolor 变色莺尾-Iris Virginica 维吉尼业莺尾UCI发布的iris.data数据集4. 试验中我们采用bezdekIris.data数据集，对比(08-Mar-1993)和 bezdekIris.data数据集(14-Dec-1999),可知前者的第 35 个 实例 4.9,3.1,1.5,0.1,Iris-setosaffi第 38 个实例 4.9,3.1,1.5,0.1,Iris-setosa 后者相应 的修改为：4.9,3.1,1.50.2,Iris-setosa和 4.9,3.1,1.4,0.1,Iris-setosa第二部分 将U

3、CI提供的数据转化为标准的 ARFF数据集1.将数据集处理为标准的数据集，对丁原始数据，我们将其拷贝保存到TXT文档，采用UltraEdit工具打开，为其添加届性信息。如图：irisl.arff J iris.arff bezdeklris.bd XQ II I I I I I 一1。I I I I I L I -2。I L 1 I L J I 34 L J I L J I L m J I t I I h I I I 1 I I I I -6Q I1 sepallength sepal-width petal-length petal-width class2 Iris-sec osa3 9f

4、3.0f1.4f0*2fIri3-setosa4 Ixis-setaaaEIris-setoaaIxis-setasa7S.4,3.9,1.7,0.4,Iris-setasa2. （1）将bezdekIris.txt文件导入 Microsoft Office Excel （导入时,文本类型选择 文本文件），如图：文本文件(*. txt; #. prn; *. csv;彳| Excel (* 由三) 网页(*. htm -牛名值）：新建源豆ZLotus -2-3Paradox 艾1牛 DB豺*文伴鼠心曰(2)下一步，设置分隔符号，如图:(3)得到的XLS格式数据如图:C6 A 1.4ACDELs

5、epal-lengthsepal-widthpetal T engthpetal-width75. 13.51.40.2Iris-setoea4. 931. 40. 2Iris-setosa14. 73. 2L30. 2Iris-setosa4.63. 11. 50. 2Iris-setosa5361L 4 一10,2Iris-setosa5. 43, 9L ?0, 4Iris-setosa34. 63. 41. 40. 3Iris-setosaa53. 4L50. 2Iris-setosa04. 42,91.40.2Iris-getoeai4. 93. 11. 50. 1Iris-setos

6、aF5. 431.50.2Iris-setosa4.在Excel中将其另存为CS呻式文件(CSV格式的文件和XLS格式文件一样)， 保存的路径为C:Program FilesWeka-3-6,方便对其进行转化为weka标准的arff格式文件，如图：5.采用 weka 的 Simple CLI 模块输入命令：java weka.core.converters.CSVLoader bezdekIris.csv > bezdekIris.arff将CSV文件转化为标准 ARFF文件。成功完成的 提示信息：Finished redirecting output to 'bezdekIri

7、s.arff。得到的数据集如图所示：sepal-lengxh nuireric sepal-widtih numeric petal-length numeric petal-width nuineric class (Iris-B&toBa, Iris-versicolcir, Iris-virginica3 attribute4 attzxbute5 attribute6 attributeattribute7B310111213140daua5.1,3.5,1.4,0.2rIriB-Betosa4.9,3,1.4,0.2,Iris-fl&tDsa4.7,3,2,l-3,0

8、.2firis-s&tosa4T6f3-lf1.5f0.2fIris-setosa5f3,l,4,0<2,Iris-setosa6.至此得到了标准的ARFF格式文件第三部分采用关联规则对ARFF数据集进行处理1.对ARFF数据集进行预处理，即进行数据的离散化，将sepal-length, sepal-width, petal-length和petal-width四个数值型的数据转化为分类型的数据，设置相应的参 数为：weka.filters.unsupervised.attribute.Discretize -B 10 -M -1.0 -R 1-4,即将每个 届性的值分为10类，

9、选择关联规则的Apriori算法，相应的参数设置为： weka.associations.Apriori -N 10 -T 0 -C 0.9 -D 0.05 -U 1.0 -M 0.1 -S -1.0 -A -c -1 ,即 计划挖掘出支持度在10%到100%之间，并且置信度超过90%,按照置信度排前 10条的关联规则。2.在关联规则挖掘面板中操作：（1） car”设置为Ture,表示挖掘为类关联规则；（2） dassIndex”设置为-1，表示最后的届性被当作类届性；（3）把lbwerBoundMinSupport”和 upperBoundMinSupport"分别设为 1 和 0

10、.1,表示支持 度的上界和下界；（4） metricType”设为Confidence,表示以置信度衡量（类关 联规则只能用置信度挖掘）；（5） minMetric”设为0.9,表示度量最小值；（6）numRules”设为10,表示规则数。其他选项保持默认。OK ”之后在Explorer”中点击Start”开始运行算法，在右边窗口显示数据集摘要和挖掘结果，运行结果 如下（设置不同的参数得到的结果会有所不同）：=Run information =Scheme:weka.associations.Apriori -N 10 -T 0 -C 0.9 -D 0.05 -U 1.0 -M 0.1 -S

11、-1.0 -A -c-1Relation:bezdekIris-weka.filters.unsupervised.attribute.Discretize-B10-M-1.0-Rfirst-lastInstances:150Attributes:5sepal-lengthsepal-width petal-length petal-width class=Associator model (full training set)=Apriori=Minimum support: 0.1 (15 instances)Minimum metricconfidence： 0.9Number of c

12、ycles performed: 18Generated sets of large itemsets:Size of set of large itemsets L(1): 12Size of set of large itemsets L(2): 3Best rules found:1. petal-width='(-inf-0.34' 41 => class=Iris-setosa 41 conf:(1)2. petal-length='(-inf-1.59' 37 => class=Iris-setosa 37 conf:(1)3. peta

13、l-length='(-inf-1.59' petal-width='(-inf-0.34' 33 => class=Iris-setosa 33 conf:(1)4. petal-width='(1.06-1.3' 21 => class=Iris-versicolor 21 conf:(1)5. petal-length='(5.13-5.72' 18 => class=Iris-virginica 18 conf:(1)6. sepal-length='(4.66-5.02' petal-w

14、idth='(-inf-0.34' 17 => class=Iris-setosa 17 conf:(1)7. sepal-width='(2.96-3.2' petal-width='(-inf-0.34' 15 => class=Iris-setosa 15 conf:(1)8. petal-length='(3.95-4.54' 26 => class=Iris-versicolor 25conf:(0.96)9. petal-width='(1.78-2.02' 23 => clas

15、s=Iris-virginica 22conf:(0.96)3.1得到的关联规则结果如图:conf:(1)conf: (1)cla53=Iri3-3etD5a 33conf:(1)conf:(L)class-Iris-setoaa 17coq£:(1) con£：Dest mles found;数据挖掘之莺尾(IRIS)3.2这样我们一共产生了 9条规则，分析如下：(1) 对丁规则1,可以得到的知识为：当花瓣宽度小丁等丁 0.34厘米(petal-width< 0.34)时，此莺尾为山莺尾，规则的置信度为1,支持度为41/150=0.273。(2) 对丁规则2,可以得

16、到的知识为：当花瓣长度小丁等丁 1.59厘米(petal-length< 1.59)时，此莺尾为山莺尾，规则的置信度为1,支持度为37/150=0.247。(3) 规则3其实是规则1和2的交集，演化。(4) 对丁规则4,可以得到的知识为：花瓣宽度在1.06厘米到1.3厘米之间(1.06< petal-width< 1.3)时，此莺尾为变色莺尾，规则的置信度为1,支持度为21/150=0.14。(5) 对丁规则5,可以得到的知识为：花瓣长度在5.13厘米到5.72厘米之间(5.13< petal-lengthv 5.72)时，此莺尾为维吉尼业莺尾，规则的置信度为1,支持度

17、为 18/150=0.12。(6) 规则6是规则1的演化。(7) 规则7是规则1的演化。(8) 对丁规则8,可以得到的知识为：花瓣长度在3.95厘米至U 4.54厘米之间(3.95Vpetal-lengthw4.54)时，此莺尾为变色莺尾，规则的置信度为0.96,支持度为 25/150=0.167。(9) 对丁规则9,可以得到的知识为：花瓣宽度在1.78厘米到2.02厘米之间(1.78<petal-width<2.02)时，此莺尾为维吉尼业莺尾，规则的置信度为0.96,支持度为 22/150=0.147。3.3将规则总结如下表:单位：CM v 0.341.06VW 1.31.78V

18、W 2.02花瓣宽度 petal-width山莺尾变色莺尾维吉尼亚莺尾 V 1.593.95VW 4.545.13VW 5.72花瓣长度 petal-length山莺尾变色莺尾维吉尼亚莺尾3.4从这些规则中我们可以知道，判断莺尾届丁那一种类，应该从花瓣的长度和 宽度上进行考虑。第四部分 采用聚类对ARFF数据集进行处理1.参数相应设置为 weka.clusterers.SimpleKMeans -N 3 -A "weka.core.EuclideanDistance -R first-last" -I 500 -S 800 设置分为 3 个簇，距离公 式采用欧几里德距离公式

19、，随机种子数依次为100, 200, 300.800, "Clustermode”设置为"classes to clusters evalution"以便对比进行评估，并且勾选"Storeclusters for visualization”SeedWithin cluster sum of squared errors:Cluster 0Iris-virginicaCluster 1 Iris-setosaCluster 2Iris-versicolorIncorrectly clustered instances :10010.89225290446

20、121396 ( 64%)33 ( 22%)21 ( 14%)63.042%2006.98221647378523439 ( 26%)50 ( 33%)61 ( 41%)17.011.3333 %3007.12275017294385152 ( 35%)50 ( 33%)48 ( 32%)18.012 %4006.98221647378523439 ( 26%)50 ( 33%)61 ( 41%)17.011.3333 %50010.92513068267596394 ( 63%)35 ( 23%)21 ( 14%)59.039.3333 %6006.98221647378523439 ( 2

21、6%)50 ( 33%)61 ( 41%)17.011.3333 %7007.12275017294385252 ( 35%)50 ( 33%)48 ( 32%)18.012%8006.98221647378523439 ( 26%)50 ( 33%)61 ( 41%)17.011.3333 %2.我们知道 Within cluster sum of squared errors是评价聚类好坏的标准，数值越 小说明同一簇类实例之间的距离越小，聚类的结果也就越好。从这个表中我们可以知道当 seed取值为 200,400,600,800 时，其 Within cluster sum of squa

22、red errors 值相同，且为最小，这时的聚类效果最好，这样我们就找到了最好的聚类方案。3.1将seed取值为800,其聚类效果如图所示:Clux etlurX.: Clusita* (HgJ害 1. lu L«Ii!2B_iiib4E Ohfe )C«14ur: ClMlLtr 04mi)Cluttefef Vi&ualize： 19J2J0 - SimpleKM 段 佰 命畋蜘国Jit Hr图4-1 seed-800聚类效果图注：口表示预测与真实不相符合，x表示预测与真实相符合，那么x越多表示 聚类的效果越好。3.2运行结果如下：=Run informati

23、on =Scheme:weka.clusterers.SimpleKMeans -N 3 -A "weka.core.EuclideanDistance -Rfirst-last" -I 500 -S 800Relation:bezdekIrisInstances:Attributes:1505sepal-length sepal-width petal-length petal-widthIgnored:classTest mode:Classes to clusters evaluation on training data=Model and evaluation o

24、n training set kMeansNumber of iterations: 6Within cluster sum of squared errors: 6.982216473785234Missing values globally replaced with mean/modeCluster centroids:AttributeFull Data(150)Cluster# 0 (61)1 (50)2(39)=sepal-length5.84335.88855.006；6.8462sepal-width3.05732.73773.4283.0821petal-length3.75

25、84.39671.4625.7026petal-width1.19931.4180.2462.0795Clustered Instances061( 41%)1 50( 33%)2 39( 26%)Class attribute: classClasses to Clusters:0 1 2 <- assigned to cluster0 50 0 | Iris-setosa47 0 3 | Iris-versicolor14 0 36 | Iris-virginicaCluster 0 <- Iris-versicolorCluster 1 <- Iris-setosaCl

26、uster 2 <- Iris-virginicaIncorrectly clustered instances : 17.011.3333 %4.1如果将seed取值改为100,其效果如图:1： ClulLkr1： lUOhfei)C«14Ut CLmLu CHm)F£*!-« L 1am,JiUirLlsikrDpnnlv«* 携暗蛆匚1员1税版酒*1讣&9:2泗0 -旬中|£04皓1西血*如跄-11 -cluscerZElgsr/D C1U3tEXlC11XX E&1-3UFC1US.«E1图4-2 see

27、d-100聚类效果图分析结论：此图与图4-1 seed-800聚类效果图的相比，其聚类效果有很大的劣势。 这样我们就必须对SimpleKMeans算法的参数做相应调整，可以使聚类效果达到 最佳。注：口表示预测与真实不相符合，x表示预测与真实相符合，那么x越多表示 聚类的效果越好。4.2运行结果如下:Run informationScheme:weka.clusterers.SimpleKMeans -N 3 -A "weka.core.EuclideanDistance -Rfirst-last" -I 500 -O -S 100Relation:bezdekIrisIns

28、tances:150Attributes:5sepal-length sepal-width petal-lengthpetal-widthIgnored:classTest mode:Classes to clusters evaluation on training dataModel and evaluation on training setkMeansNumber of iterations: 4Within cluster sum of squared errors: 10.892252904461213Missing values globally replaced with mean/modeCluster centroids:AttributeFull Data(150)Cluster# 0 (96)1(33)2(21)=sepal-length5.84336.31465.16974.7476sepal-width3.05732.89583.63032.8952petal-length3.7584.974