决策树ID3算法扩展属性拟线性函数综合效应属性约简规则知识.doc

决策树论文：决策树的启发式模式研究及其在属性约简中的应用【中文摘要】20世纪60年代,Hunt等人在研究人类概念建模时提出了决策树算法。决策树作为一种非常简捷的分类算法,其基本思想是从一组无规则无次序的事例中推理出决策树表示形式的分类规则,是挖掘规则知识的有效工具,现已成为较为广泛应用的逻辑方法之一。近年来,已成功地应用于科学实验、医疗诊断、气象预报、信贷审核、商业预测、案件侦破等领域。如今存在的众多决策树算法,都在一定程度上取得了较好的分类效果,但在如何选择更有效的启发式函数,对所构造决策树方法的可理解性方面以及决策树算法的应用领域方面依然存在进一步的探索空间。为此,本文主要做了以下几方面的工作：本文首先在分析决策树算法的本质特征基础上,基于ID3算法的扩展属性选择模式,针对扩展属性的选择问题,通过具体图示形象的说明了好的扩展属性所应具有的特点,总结了扩展属性选择的基本准则,提出了鉴别属性扩展性能的叶子准则、数据利用准则以及综合效应准则,建立了具有结构特征的评价属性扩展能力的数学模型。其次,通过引入拟线性函数,在分析拟线性函数性质特点的基础上,给出了一类基于拟线性函数的扩展属性选择模式(简记为QASM),并从理论和实验两个层面讨论了QASM的性能。再.【英文摘要】Decision tree, generated in the 1960s, was raised by Hunt in the study of conceptual modeling. Decision tree, as a simple classification algorithm, is an effective tool for mining knowledge rules, it can deduce the classification rules in the form of decision tree from a set of examples, it is one of the most widely used logic methods. In recent years, it has been successfully applied in many fields, such as scientific experiments, medical diagnosis, weather forecasting, credit, audit, business forecasts, c.【关键词】决策树 ID3算法 扩展属性 拟线性函数 综合效应 属性约简 规则知识【英文关键词】decision tree IDS algorithm expanded attribute quasi-linear function comprehensive effect attribute reduction rule knowledge【索购全文】联系Q1：138113721 Q2：139938848【目录】决策树的启发式模式研究及其在属性约简中的应用摘要4-5Abstract5第1章 绪论9-161.1 研究背景及意义9-121.1.1 数据挖掘的定义、发展过程及其应用领域9-101.1.2 数据挖掘的基本步骤101.1.3 数据挖掘的分类10-111.1.4 数据挖掘分类基本算法11-121.2 决策树算法的国内外研究现状12-141.3 本课题的研究重点、研究意义以及论文结构14-16第2章 决策树分类算法概述16-242.1 决策树算法简介16-192.1.1 决策树算法概述162.1.2 决策树的表示方法16-172.1.3 决策树算法的执行过程172.1.4 决策树分类算法的生成指标17-192.2 几种常见的决策树分类算法19-232.2.1 ID3算法概述19-212.2.2 C4.5算法概述212.2.3 CART算法概述212.2.4 SLIQ算法概述21-222.2.5 SPRINT算法简介222.2.6 PUBLIC算法简介22-232.3 本章小结23-24第3章 基于综合效应的决策树启发式模式研究24-313.1 预备知识24-253.1.1 综合效应函数243.1.2 包含度的基本概念243.1.3 凸集和凸函数24-253.2 决策树算法选择扩展属性的基本准则25-263.3 属性扩展能力的综合评价模式26-303.3.1 数据利用准则273.3.2 叶子准则(l=2)273.3.3 叶子准则(l=n)27-293.3.4 几点注明29-303.4 本章小结30-31第4章 基于拟线性函数的决策树启发式模式研究及其应用31-414.1 拟线性函数的定义314.2 拟线性函数的性质31-324.3 基于拟线性函数的决策树启发式模式32-334.4 应用实例33-394.5 本章小结39-41第5章 基于决策树的属性约简方法研究及其应用41-475.1 预备知识415.2 现行属性约简算法概述41-425.3 规则的规范