【原创】WEKA聚类算法wine数据集分析研究报告(附代码数据)_第1页
【原创】WEKA聚类算法wine数据集分析研究报告(附代码数据)_第2页
【原创】WEKA聚类算法wine数据集分析研究报告(附代码数据)_第3页
【原创】WEKA聚类算法wine数据集分析研究报告(附代码数据)_第4页
【原创】WEKA聚类算法wine数据集分析研究报告(附代码数据)_第5页
已阅读5页,还剩14页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

【原创】R语言案例数据分析报告论文(附代码数据)有问题到淘宝找“大数据部落”就可以了WEKA聚类算法wine数据集分析研究实验目的希望通过实验研究葡萄酒的差异化,并分析造成这种差异化的原因,可以更深刻的掌握聚类分析的原理;进一步熟悉聚类分析问题的提出、解决问题的思路、方法和技能;达到能综合运用所学基本理论和专业知识;锻炼收集、整理、运用资料的能力的目的;希望能会调用WEKA软件聚类分析有关过程命令,并且可以对数据处理结果进行正确判断分析,作出综合评价。实验数据Wine这份数据集包含来自3种不同起源的葡萄酒的共178条记录。13个属性是葡萄酒的13种化学成分。通过化学分析可以来推断葡萄酒的起源。值得一提的是所有属性变量都是连续变量。数据集特征:多变量记录数:178领域:物理属性特征:整数,实数属性数目:13捐赠日期1991-07-01相关应用:分类缺失值?无网站点击数:337319该实验的数据集是MostPopularDataSets(hitssince2007)中的wine数据集,这是是对在意大利同一地区生产的三种不同品种的酒,做大量分析所得出的数据。这些数据包括了三种酒中13种不同成分的数量。经过几天对数据集以及分类算法的研究,详细研究了朴素贝叶斯分类器和其他学习算法,包括决策树和神经网络等等。同时由于这个数据集有13个属性,用决策树实现起来会很复杂。我最终选择了用贝叶斯分类算法来实现。我将178个样本分成118个训练样本和60个测试样本,采用朴素贝叶斯分类算法,计算出先验概率和后验概率,通过比较概率的最大值,判别出测试样本所属于的酒的类型,同时输出测试样本计算的正确率和错误率。这些数据包括了三种酒中13种不同成分的数量。13种成分分别为:Alcohol,Malicacid,Ash,Alcalinityofash,Magnesium,Totalphenols,Flavanoids,Nonflavanoidphenols,Proanthocyanins,Colorintensity,Hue,OD280/OD315ofdilutedwines,Proline。在“wine.data”文件中,每行代表一种酒的样本,共有178个样本;一共有14列,其中,第一列为类标志属性,共有三类,分别记为“1”,“2”,“3”;后面的13列为每个样本的对应属性的样本值。其中第1类有59个样本,第2类有71个样本,第3类有48个样本。实验方法聚类是对数据对象进行划分的一种过程,与分类不同的是,它所划分的类是未知的,故此,这是一个“无指导的学习”过程,它倾向于数据的自然划分。其中聚类算法常见的有基于层次方法、基于划分方法、基于密度以及网格等方法。本文中对近年来聚类算法的研究现状与新进展进行归纳总结。一方面对近年来提出的较有代表性的聚类算法,从算法思想。关键技术和优缺点等方面进行分析概括;另一方面选择一些典型的聚类算法和一些知名的数据集,主要从正确率和运行效率两个方面进行模拟实验,并分别就同一种聚类算法、不同的数据集以及同一个数据集、不同的聚类算法的聚类情况进行对比分析。最后通过综合上述两方面信息给出聚类分析的研究热点、难点、不足和有待解决的一些问题等。实验中主要选择了K均值聚类算法、FCM模糊聚类算法并以UCIMachineLearningRepository网站下载的WINE数据集为基础,然后以WINE数据集在学习了解Weka软件接口方面的基础后作聚类分析,使用最常见的K均值(即K-means)聚类算法和FCM模糊聚类算法。下面简单描述一下K均值聚类的步骤。K均值算法首先随机的指定K个类中心。然后:(1)将每个实例分配到距它最近的类中心,得到K个类;(2)计分别计算各类中所有实例的均值,把它们作为各类新的类中心。重复(1)和(2),直到K个类中心的位置都固定,类的分配也固定。在实验过程中通过利用Weka软件中提供的simpleKmeans(也就是K均值聚类算法对WINE数据集进行聚类分析,更深刻的理解k均值算法,并通过对实验结果进行观察分析,找出实验中所存在的问题。然后再在学习了解Weka软件接口方面的基础上对Weka软件进行一定的扩展以加入新的聚类算法来实现基于Weka平台的聚类分析。K均值聚类算法K均值聚类算法理论K均值算法是一种硬划分方法,简单流行但其也存在一些问题诸如其划分结果并不一定完全可信。K均值算法的划分理论基础是 (1)其中是划分的聚类数,是已经属于第类的数据集是相应的点到第类的平均距离,即 (2)其中表示在数据集中的对象数。算法的基本过程任意选择K个对象作为初始的类的中心;;根据类中的平均值,将每个数据点(重新)赋给最相近的类;更新类的平均值;不再发生变化,即没有对象进行被重新分配时过程结束。FCM模糊聚类算法FCM算法也是一种基于划分的聚类算法,它的思想就是使得被划分到同一类的对象之间相似度最大,而不同类之间的相似度最小。模糊C均值算法是普通C均值算法的改进,普通C均值算法对于数据的划分是硬性的,而FCM则是一种柔性的模糊划分。在介绍FCM具体算法之前我们先介绍一些模糊集合的基本知识。FCM模糊聚类算法的理论理论基础-模糊集基本知识首先说明隶属度函数的概念。隶属度函数是表示一个对象隶属于集合的程度的函数,通常记做,其自变量范围是所有可能属于集合的对象(即集合所在空间中的所有点),取值范围是,即。表示完全隶属于集合,相当于传统集合概念上的。一个定义在空间上的隶属度函数就定义了一个模糊集合,或者叫定义在论域上的模糊子集。在聚类的问题中,可以把聚类生成的类看成模糊集合,因此每个样本点隶属于每个类的隶属度就是区间里面的值。FCM的算法理论1973年,Bezdek提出了该算法,并作为早期硬C均值聚类(HCM)方法的一种改进,命名为模糊C均值聚类简称FCM是一种目标函数法。假设将样本空间要分为个类,则类中心集使下式的目标函数值最小 (3) (4)且有 其中 被称为模糊隶属度矩阵。表示的是数据隶属于类中心的隶属度。是模糊加权参数,用于控制在模糊类间的程度依据参考的文献中一般取值为15。应用拉格朗日乘法并基于上述约束可得到如下式 (5)且 (6)其中是到第类中心的欧氏距离,即 。FCM模糊聚类算法的过程置初始化参数值,包含模糊加权参数值和聚类数,以及迭代的次数和算法终止误差。随机化置初始化聚类的中心。计算隶属度矩阵可通过(5)式计算得来。依据(6)式迭代计算聚类的中心。检验是否成立,成立则算法结束否则。实验配置实验配置过程与K均值算法的实验配置过程基本相同,只是在FCM模糊聚类算法实验中要用到模糊隶属度参数,一般将其设置在1~5之间在实验中设置如下param.m=2。也可以根据需要对其进行修改。FCM模糊聚类算法特点FCM算法需要两个参数一个是聚类数目,另一个是参数。一般来讲要远远小于聚类样本的总个数,同时要保证。对于,它是一个控制算法的柔性的参数,如果过大,则聚类效果会很次,而如果过小则算法会接近K均值聚类算法。算法的输出是个聚类中心点向量和的一个模糊划分矩阵,这个矩阵表示的是每个样本点属于每个类的隶属度。根据这个划分矩阵按照模糊集合中的最大隶属原则就能够确定每个样本点归为哪个类。聚类中心表示的是每个类的平均特征,可以认为是这个类的中心代表。FCM算法是图像分割使用最多的方法之一,它的成功主要归功于为解决每个图像像素的隶属需要引入了模糊性。与K均值聚类相比较来说FCM能够保留初始图像的更多信息。FCM对孤立点和其他人造图像非常敏感。基于weka的聚类分析数据的预处理从网站下载的WINE原始数据集wine.data文件,而Weka软件需要的是ARFF文件格式的数据。因此需要将数据转换成Weka支持的ARFF文件格式的。转换过程如下首先用记事本方式打开文件发现文件中的数据之间是以逗号来划分的,因此可以将数据文件的名称改为wine.csv。然后,打开Weka选择Tools选项下的ArffViewer如下图打开ArffViewer后选择File选项下的Open弹出如下图的打开窗口,在文件类型一栏选择CSVdatafiles(*.csv)项。然后找到相应的文件后单击打开后如下图接下来选择File选项下的Saveas后弹出如下图在文件名栏输入相应的文件名后单击保存即可得到相应的arff格式的数据集文件。K均值算法只能处理数值型的属性,遇到分类型的属性时要把它变为若干个取值0和1的属性。WEKA将自动实施这个分类型到数值型的变换,而且WEKA会自动对数值型的数据作标准化。WEKA中的StringToWordVector过滤器能将ARFF文件中的文本数据转换为空间向量模型,它同时拥有分词、特征表示、特征提取等功能。在Explorer中的Reprocess界面导入ARFF文件,选择StringToWordVector过滤器,再设置相关参数。聚类过程进入Explorer中的Preprocess界面单击Openfile后弹出如下图的数据集选择窗口,选择WINE.arff数据集文件后打开。然后可以在Filter下的choose中选择需要的过滤器参数。接下来选择Cluster选项界面,在Clusterer中选择choose来选择Weka中提供的聚类算法Clusters下的SimpleKMeans,然后设置参数如下图即为修改“numClusters”为3就是我们要将数据聚类为3类即K=3,下面的“seed”参数是要设置一个随机种子,依此产生一个随机数,用来得到K均值算法中第一次给出的K个簇中心的位置,这里暂时让它就为10,设置完成后单击OK返回。然后选中“ClusterMode”的“Usetrainingset”,点击“Start”按钮,观察右边“Clustereroutput”给出的聚类结果如下===Runinformation===Scheme:Weka.clusterers.SimpleKMeans-N3-A"Weka.core.EuclideanDistance-Rfirst-last"-I500-S10Relation:WINEDATInstances:177Attributes:141.42E+011.71E+002.43E+001.56E+011.27E+022.80E+003.06E+002.80E-012.29E+005.64E+001.04E+003.92E+001.07E+031Testmode:evaluateontrainingdata===Modelandevaluationontrainingset===kMeans======Numberofiterations:7Withinclustersumofsquarederrors:49.650910689035356Missingvaluesgloballyreplacedwithmean/modeClustercentroids:Cluster#AttributeFullData012(177)(59)(49)(69)===================================================1.42E+0113.000613.730513.161212.26231.71E+002.33992.013.34451.90862.43E+002.36622.45852.43472.23861.56E+0119.516917.281421.438820.06381.27E+0299.5876106.542499.020494.04352.80E+002.29232.84861.67822.25263.06E+002.02342.97950.7982.07622.80E-010.36230.28880.45080.36232.29E+001.58691.89371.16311.62575.64E+005.05535.48957.34513.0581.04E+000.9571.06660.68591.05573.92E+002.60433.15071.69022.78621.07E+03745.6781116.1017627.551512.826111.94351.01692.97962ClusteredInstances059(33%)149(28%)269(39%)也可以在左下角“Resultlist”中这次产生的结果上点右键,“Viewinseparatewindow”在新窗口中浏览结果。结果分析首先我们注意到结果中有这么一行:Withinclustersumofsquarederrors:49.650910689035356这是评价聚类好坏的标准,数值越小说明同一类实例之间的距离越小。也许你得到的数值会不一样;实际上如果把"seed"参数改一下,得到的这个数值就可能会不一样。我们应该多尝试几个seed,并采纳这个数值最小的那个结果。接下来"Clustercentroids:"之后列出了各个类中心的位置。对于数值型的属性,类中心就是它的均值(Mean);分类型的就是它的众数(Mode),也就是说这个属性上取值为众数值的实例最多。对于数值型的属性,还给出了它在各个类里的标准差(StdDevs)。最后的"ClusteredInstances"是各个类中实例的数目及百分比如下ClusteredInstances059(33%)149(28%)269(39%)实际的聚类各类中的实例分配如下NumberofInstances class159 class271 class348通过对比可以得出聚类的结果还是比较满意的。为了观察可视化的聚类结果,我们在左下方"Resultlist"列出的结果上右击,点"Visualizeclusterassignments"。弹出的窗口给出了各实例的散点图。最上方的两个框是选择横坐标和纵坐标,第二行的"color"是散点图着色的依据,默认是根据不同的类"Cluster"给实例标上不同的颜色,如下图从图中很容易看出聚类的结果由不同颜色区分。可以在这里点"Save"把聚类结果保存成ARFF文件。在这个新的ARFF文件中,"instance_number"属性表示某实例的编号,"Cluster"属性表示聚类算法给出的该实例所在的类。实验扩展聚类算法在数据挖掘里面被称之为无监督学习(unsupervisedlearning),这是与分类算法(supervisedlearning)相对的。所谓无监督学习就是在预先不知道样本类别的情况下,由聚类算法来判别样本的类别的一种学习方法。但是在Weka中还有一个问题就是所提供的聚类算法有限难以满足具体需要,基于此问题在阅读了相关文献后发现可以通过扩展Weka的聚类算法来满足具体的实验需要。通过分析实验的相关代码可以得到Weka中聚类的一般过程主要如下1.读入需预测样本2.初始化聚类算法(并设置参数)3.使用聚类算法对样本进行聚类4.打印聚类结果大概过程可实现如下Instancesins=null;InstancestempIns=null;SimpleKMeansKM=null;DistanceFunctiondisFun=null;try{Filefile=newFile("data.arff");ArffLoaderloader=newArffLoader();loader.setFile(file);ins=loader.getDataSet();KM=newSimpleKMeans();KM.setNumClusters(2);KM.buildClusterer(ins);tempIns=KM.getClusterCentroids();System.out.println("CentroIds:"+tempIns);}catch(Exceptione){e.printStackTrace();}首先读入样本过程比较简单可以调用ArffLoader()函数和setFile()函数以及getDataSet()函数等在构建聚类器时也是通过现有的类来实现的。SimpleKMean是最简单的KMeans算法,因为聚类算法的核心是通过距离来得到类别(类间相异,类内相似),所以需要有一个计算距离的公式常见的就是欧几里得距离了。将SimpleKMean计算距离的方法默认为欧几里得距离。Weka中提供了设置距离函数的接口setDistanceFunction(DistanceFunctiondf),可以方便我们设置自己的距离计算方法。在聚类过程中将样本的类别属性放在里面是不符合常识的,因为样本类别属性包含了大量的类别信息,可能诱导聚类算法得到很好的效果。但是这与我们的初衷是相背离的,所以在聚类之前我们要记住删除掉类别属性。在第四步打印聚类结果是一个很简单的信息,里面包括了聚类的几个中心点。在写程序时可以使用ClusterEvaluation类来打印更多的信息。FCM模糊聚类算法在扩展之前Weka中的聚类算法如下图通过扩展加入FCM聚类算法。加入所需的未导入的Java

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论