数据挖掘决策树算法的改进与实现

1、数据挖掘决策树算法的改进与实现DataMiningDecisionTreeImprovement&ImplementationXiaYan,ZhouXiaohong,WangDong(ChangchunTechnologyCollege,Changchunl30033,China):TheauthorstudiedonexistingDataMiningdecisiontreeclassificationmethodbasedonthepracticalapplication,andappliedtothesystem,achievedadecisionsupportmodule.Ke

2、ywords:DataMining;Decisiontreealgorithm;Improve;Achieve随着数据库技术的不断发展及数据库管理系统的广泛应用数据库中存储的数据量急剧增大，在大量的数据背后隐藏着许多重要的信息，如果能把这些信息从数据库中抽取出来，将会产生重要的作用。因此,数据挖掘涉及的学科领域逐渐扩大，数据挖掘的方法也在不断地改进和提高。分类在数据挖掘中是一项非常重要的任务，分类算法可以分为决策树分类算法、遗传算法、神经网络方法、K-最近邻分类算法等。这里，以疾病防控与儿童免疫管理系统中决策支持子系统的开发过程为例，对决策树分类算法的改进及在实际中的应用进行阐述。、数据选取和

3、数据预处理在本系统中，以预防接种中遇到异常反应后记录的“异常反应调查表”中的数据为例进行说明。具体实现过程详细说明：首先输入训练集，由于在真实的SQLServer数据库当中，为了降低存储要求和减少存储时间，并非真正存储每个数据项的属性值而是用存储数字来对应相应的意义，如在数据库的数据表中，懒'字段中1”代表“男”、“2”代表“女”，反应到程序页面时再映射回原来的值，为了说理清晰又限于篇幅，这里只将所有数据集中有代表性的十几组数据作为分类模型创建的输入训练集。二、生成决策树对训练集的每一个属性，计算其信息增益。以“月龄”属性为例，每个结点中的正反例的个数分别为2,3、3,2、4,0,分别

4、计算如下：info2,3=0.971;info3,2=0.971;info4,0=0;计算信息燧：E（月龄）=0.693;计算该属性的信息增益量，选取信息增益最大的属性为节点按该属性的值划分数据集合：Gain（月龄）=Info（9,5）-E（月龄）=0.940-0.693=0.247;同理，对“注射反应”属性、“出生状态”属性、常住地”属性都可计算每个结点的正反例的个数（由于篇幅有限，不作计算）。通过对各属性信息增益的计算结果，选择“月龄”属性作为根节点，然后划分“月龄5”的情况，由于“月龄5”时,各个节点都是纯节点，所以不再划分。三、产生决策规则遍历决策树，输出叶结点类属性值，用IFTHEN

5、形式表达为IF（月龄25AND注射反应二无）THEN（类别二是）IF（月龄25AND注射反应二轻）THEN（类别二是）IF（月龄AND注射反应二重AND出生状态二正常产）THEN（类另1J二是）IF（月龄25AND注射反应二重AND出生状态=非正常产AND常住地二城市）THEN（类别二否）IF（月龄AND注射反应二重AND出生状态二非正常产AND常住地二农村）THEN（类另二是）依此类推，共可产生十三条规则。四、决策支持子系统的分析用上述基于决策树的分类算法所得到的模型生成的规则来预测测试集中的未知数据属于哪一类，并通过该模型的测试结果与实际情况相吻合的准确率来判断该决策树是否有效。首先，用整个数据集中2/3的数据作为训练集按照基于决策树的分类算法来建立模型，生成一棵决策树。然后，用余下的1/3的数据作为测试集，通过创建的模型进行预测，并将预测结果和实际值进行比较。如果准确率达到或超过事先确定的阈值，则可以认定该模型对于数据分类是有效的能够在实际中应用；反之，则认