决策树方法在数据挖掘中的应用ppt课件

1、 KnowledgeSEEKER是一个由Angoss公司开发的基于决策树的数据分析程序。该程序具有相当完好的分类树分析功能。 KnowledgeSEEKER采用了两种著名的决策树分析算法：CHAID和CART算法。CHAID算法可以用来对于分类性数据进展发掘。CART算法那么可以对延续型因变量进展处置。Angoss公司在加强这些算法的用户友好性方面作了大量的任务。优点：呼应快，模型，文档易于了解，决策树分析直观，性能良好缺陷：决策树不能编辑打印，缺乏数据预处置阶段的函数，没有例如代码运用行业案例：Frost National银行CRM收益率、客户称心度、产品效果SASI公司利用其开发行业数据发

2、掘运用软件零售行业Montreal银行客户分片、越区销售模型、市场站的预备、抵押支付的预测、信誉风险的分析 运用的样例数据集是从一个团体安康检查中有关高血压的研讨工程中得到的。Angoss公司已将这一数据集包括在产品演示中。 有关高血压研讨方面的数据表中给出数据集中各个数据列的取值范围及其含义阐明数据预处置：需求标注的区域：Hypertension域中可以出现整数值1，2，3，这几个值将分别被标注为低，正常，高。TypeOfMilk域中包含整数值15，将分别标注为纯牛奶、2%，脱脂牛奶，奶粉及根本不喝牛奶处置导出型的数据域 字段Age中包含的值1，2，3分别表示3250岁、5162岁及6373

3、岁。然而，字段Age中通常包含的都是某个人的实践年龄而非整数值1，2，3，因此，字段Age中的值是在数据发掘开场之前就曾经导出了，即按照实践年龄的范围3250岁、5162岁及6373岁对该字段选择适当的值。1、定义发掘目的 在开场运用KnowledgeSEEKER之前，有必要定义出发掘的目的。在给定的数据集的例子中展现了哪些饮食要素会对人的血压高低有关键性的影响。其发掘的目的可以明确地描画为：分析出饮食要素对血压偏低、正常及偏高所产生的影响。2、启动3、设置因变量 一开场，字段Hypertension就曾经被自动设置为因变量。稍后，还将改动因变量的设置。翻开bpress数据集之后将出现如下图的

4、屏幕 图中的根结点对应的是因变量。在根节点中血压曾经分别被分为3类：偏低、正常和偏高。我们如今要了解的是血压偏低、正常和偏高的人都分别具有哪些特征。从图中可以看出：研讨对象中有18%的人即66个人血压偏低研讨对象中有60%的人即217个人血压正常研讨对象中有21%的人即77个人血压偏高 目前KnowledgeSEEKER曾经构造出模型树的下一层分支。当然，模型树还可以自动生成出多层分支。 图中的模型树的下一层分支阐明上一层的双亲节点是按年龄age进展分叉的。年龄只是影响血压的一个变量，但是在目前这个例子中，年龄似乎是导致一个人的血压能否偏高的最重要要素。 如下图，研讨对象按年龄分为以下3组：

5、3250岁，5162岁，6373岁 它们分别对应于模型树的三个叶节点。 此外，还可以用除Age以外的其他字段为模型树创建新的叶节点。在模型树上经过指定其它字段以创建新的叶节点称为分叉。对于当前这个数据集，系统会自动发现12个分叉。1、察看其分叉 察看其分叉将使我们可以看到除年龄以外对血压还有影响的其他重要变量的作用。KnowledgeSEEKER可以计算出一切变量对血压影响的大小并将使它们按顺序陈列起来。用另一个变量直接在根节点下面构造叶节点即可进入模型树的另一个分叉。这样，我们就可以很容易地察看到其他数据元素对血压的影响。 对于自动生成的每一个分叉所作的概述将为我们思索下一步的研讨方向提供有

6、益的线索。很明显，上面所获得的信息中有一些符合我们的预先估计。例如，一个人年龄越大，患高血压的能够性也就越高；一个人参与体育活动越多，换高血压的能够性也就越低。这些都是我们预先估计到的。然而，我们从数据集中也发现了一些预先没有估计到的结果，如人的身高与其高血压之间的关系就是我们预先没有估计到的。2、进入特定分叉3、扩展模型树 以smoking为分叉变量构造的模型树目前还只需一层。我们可以对这棵模型树作进一步扩展。在模型树的第二层中选择经常吸烟者相对应的节点，然后，在Grow下拉菜单中选择Find Split，既可以看到如下图的屏幕。 KnowledgeSEEKER发现对于描画经常吸烟者特征最为

7、有效的分组变量就是年龄。也就是说，对于经常吸烟的人而言，年龄将是确定其能否患高血压的最关键的目的，数听阐明年龄在6373岁之间经常吸烟的人当中有56.7%患有高血压，而年龄在3251岁之间且经常吸烟的人当中患有高血压的比例仅为4.8%。 为进一步描画经常吸烟者的特征，KnowledgeSEEKER总共发现了6个分叉变量，分别是Age，Height，PorkLastWeek，DrinkPattern，Gender以及SaltConsumption。其中以年龄最为有效。4、强迫分叉 有时我们还想察看一下那些没有自动发现的变量的作用。例如，我们能够想知道PoultryLastWeek对人们患有高血压

8、有什么影响。为此，我们可以在模型树上作强迫分叉。5、对模型进展验证 当我们从一个数据集中发现某些结果之后，总是希望可以用另外一个数据计再对其进展验证。Angoss将那些用于验证的数据集又称为测试分区Test Partition。 KnowledgeSEEKER允许我们用另一个数据集即测试分区对新发现的结果进展验证。6、重新定义发掘对象 前面所作的演示都是有关“高血压这一研讨对象的，即都是以Hypertension为模型树的因变量。假设我们想要改动所研讨的内容例如，想要研讨饮酒数量不同的人之间的差别，那么就需求重新定义研讨对象。 改动模型树的根节点为DrinkPattern，即新的模型树的根节点

9、对应的因变量为DrinkPattern，其中可以含有以下值：Regular经常饮酒Occasional偶尔饮酒Former以前曾经饮酒Never从不饮酒 同前面一样，可以对这棵以DrinkPattern为因变量的模型树作进一步的扩展。虽然这期间运用KnowledgeSEEKER的任务方式与前面是一样的，但所要研讨的内容与前面完全不同了。即如今要研讨的是人们的饮酒方式及其影响，而前面的研讨对象是高血压。7、模型树的自动扩展 前面所演示的都是如何一个一个节点地扩展模型树。此外，还可以让系统对模型树作自动扩展。8、数据分布 KnowledgeSEEKER提供了假设干种方法以便我们可以对正在发掘的数据的形状进展察看。首先，我们可以经过KnowledgeSEEKER对正在发掘的原始数据进展详细察看。 另外，还可以经过KnowledgeSEEKER对数据几种不同数据项的交叉列