数据挖掘原理与算法01分析

1、数据挖掘 信息管理与工程学院,教材信息： 数据挖掘原理与算法 毛国君，段立娟，王实，石云 清华大学出版社，2007,本课程的一些约定：,1、课程目的：拓宽与加深专业知识 2、注重平时学习 作业按时完成 未按时为晚交 一周内未交视为放弃 作业按规定要求完成 教科书：不可或缺 不允许抄袭 但鼓励讨论 3、无迟到、缺席、手机等,什么激发了数据挖掘，为什么它是重要的？ 什么是数据挖掘？ 在何种数据上进行数据挖掘？ 数据挖掘功能可以挖掘什么类型的模式 所有模式都是有趣的吗？ 数据挖掘系统的分类 数据挖掘的主要问题,第一章 绪论 内容提要,数据挖掘技术的产生与发展 数据挖掘研究的发展趋势 数据挖掘概念 数

2、据挖掘技术的分类问题 数据挖掘常用的知识表示模式与方法 不同数据存储形式下的数据挖掘问题 粗糙集方法及其在数据挖掘中的应用 数据挖掘的应用分析,数据挖掘技术的商业需求分析,随着信息技术的高速发展，数据库应用的规模、范围和深度不断扩大，网络环境成为主流等等。产生“数据丰富而信息贫乏（Data Rich & Information Poor）”现象。 在强大的商业需求的驱动下，商家们开始注意到有效地解决大容量数据的利用问题具有巨大的商机；学者们开始思考如何从大容量数据集中获取有用信息和知识的方法。 随着信息技术的高速发展，人们希望能够提供更高层次的数据处理功能。新的需求推动新的技术的诞生。 数据（

3、Data）、信息（Information）和知识（Knowledge）是广义数据表现的不同形式。,数据、信息和知识,data,information,knowledge,数据挖掘产生的技术背景,数据挖掘是相关学科充分发展的基础上被提出和发展的。 主要的相关技术： 数据库、数据仓库和Internet等信息技术的发展 计算机性能的提高和先进的体系结构的发展 统计学和人工智能等方法在数据分析中的研究和应用,数据挖掘是一个多学科交叉技术,Data Mining,Database Technology,Statistics,Other Disciplines,Information Science,AI

4、 /Machine Learning,Visualization,数据库系统的发展,60年代：简单文件处理系统向数据库系统变革 。 70年代：层次、网络和关系型数据库普及。 80年代：RDBS及其相关工具、数据索引及数据组织技术被广泛采用；中期开始，分布式数据库广发讨论，关系数据库技术和新型技术的结合。 90年代：数据库领域中的新内容、新应用、新技术层出不穷，形成了庞大的数据库家族；人们期望分析预测、决策支持等高级应用， Data mining and data warehousing等出现。 本世纪开始： Data mining 得到理论/技术深化。,统计学的深入应用,强大有效的数理统计方法

5、和工具，已成为信息咨询业的基础 。 统计分析技术是基于严格的数学理论和高超的应用技巧的 。 数据挖掘技术是数理统计分析应用的延伸和发展 。 和数据库技术的结合性研究,人工智能技术的研究和应用,人工智能是计算机科学研究中争议最多而又仍始终保持强大生命的研究领域。 专家系统曾经是人工智能研究工作者的骄傲，但是诸多难题限制了专家系统的应用： 知识获取成为专家系统研究中公认的瓶颈问题。 知识表示成为一大难题：知识工程师在整理表达从领域专家那里获得的知识时勉强抽象出来的规则有很强的工艺色彩。 对常识和百科知识出奇地贫乏：人工智能学家Feigenbaum估计，一般人拥有的常识存入计算机大约有100万条事实

6、和抽象经验法则，离开常识的专家系统有时会比傻子还傻。 数据挖掘继承了专家系统的高度实用性特点，并且以数据为基本出发点，客观地挖掘知识。 机器学习得到了充分的研究和发展：理论和算法。 数据挖掘研究在继承已有的人工智能相关领域，特别是机器学习的研究成果的基础上，成为新的研究分支。,第一章 绪论 内容提要,数据挖掘技术的产生与发展 数据挖掘研究的发展趋势 数据挖掘概念 数据挖掘技术的分类问题 数据挖掘常用的知识表示模式与方法 不同数据存储形式下的数据挖掘问题 粗糙集方法及其在数据挖掘中的应用 数据挖掘的应用分析,数据挖掘处于研究和应用探索阶段,经过十几年的研究和实践，数据挖掘技术已经吸收了许多学科的

7、最新研究成果而形成独具特色的研究分支。 大部分学者认为数据挖掘的研究仍然处于广泛研究和探索阶段： 一方面，数据挖掘的概念已经被广泛接受。 另一方面，数据挖掘的大面积应用还有待时日。 随着KDD在学术界和工业界的影响越来越大，数据挖掘的研究向着更深入和实用技术方向发展： 大学等研究机构的大多数基础性研究集中在数据挖掘理论、挖掘算法等的探讨上。 公司的研究更注重和实际商业问题结合。 数据挖掘的经济价值已经显现出来：Gartner报告中列举重要影响的五项关键技术，其中KDD和人工智能排名第一。,数据挖掘研究聚焦点,数据挖掘在如下几个方面需要重点开展工作： 数据挖掘技术与特定商业逻辑的平滑集成问题：数

8、据挖掘需要代表性的应用实例来证明（像“啤酒与尿布” ）。 数据挖掘技术与特定数据存储类型的适应问题：不同的数据存储方式会影响数据挖掘的具体实现机制、目标定位、技术有效性等。 大型数据的选择与规格化问题： 数据的噪音、信息丢失等问题的处理； 针对特定挖掘方法进行数据规格化等问题。 数据挖掘系统的构架与交互式挖掘技术： 在具体的实现机制、技术路线以及各阶段的功能定位等方面仍需细化和深入研究。 良好的交互式挖掘（Interaction Mining）也是数据挖掘系统成功的前提。 数据挖掘语言与系统的可视化问题：可视化挖掘除了要和良好的交互式技术结合外，还必须在挖掘结果或过程的可视化进行探索和实践。

9、数据挖掘理论与算法研究 一方面，在已有的理论框架下有许多面向实际应用目标的挖掘理论等待探索和创新。 另一方面，随着数据挖掘技术本身和相关技术的发展，新的挖掘理论和算法的诞生是必然的。,第一章 绪论 内容提要,数据挖掘技术的产生与发展 数据挖掘研究的发展趋势 数据挖掘概念 数据挖掘技术的分类问题 数据挖掘常用的知识表示模式与方法 不同数据存储形式下的数据挖掘问题 粗糙集方法及其在数据挖掘中的应用 数据挖掘的应用分析,从商业角度看数据挖掘技术,数据挖掘从本质上说是一种新的商业信息处理技术： 数据挖掘技术把人们对数据的应用，从低层次的联机查询操作，提高到决策支持、分析预测等更高级应用上。 通过对数据

10、的统计、分析、综合和推理，发现数据间的关联性、未来趋势以及一般性的概括知识等，这些知识性的信息可以用来指导高级商务活动。 从决策、分析和预测等高级商业目的看，原始数据只是未被开采的矿山，需要挖掘和提炼才能获得对商业目的有用的规律性知识。 从商业角度看，数据挖掘就是按企业的既定业务目标，对大量的企业数据进行深层次分析以揭示隐藏的、未知的规律性并将其模型化，从而支持商业决策活动。,数据挖掘的技术含义,数据库中的知识发现（KDD： Knowledge Discovery in Databases）是比数据挖掘出现更早的一个名词。 KDD与Data Mining的关系，有不同的看法： KDD看成数据挖

11、掘的一个特例：这是早期比较流行的观点，这种描述强调了数据挖掘在源数据形式上的多样性。 数据挖掘是KDD的一个关键步骤：这种观点得到大多数学者认同，有它的合理性。 KDD与Data Mining含义相同：事实上，在现今的许多场合，如技术综述等，这两个术语仍然不加区分地使用着。也有其他的说法： KDD在人工智能界更流行，而Data Mining在数据库界使用更多。 在研究领域被称作KDD，在工程领域则称之为数据挖掘。,数据挖掘定义,数据挖掘定义有广义和狭义之分。 从广义的观点，数据挖掘是从大型数据集（可能是不完全的、有噪声的、不确定性的、各种存储形式的）中，挖掘隐含在其中的、人们事先不知道的、对决

12、策有用的知识的过程。 从这种狭义的观点上，我们可以定义数据挖掘是从特定形式的数据集中提炼知识的过程。 下列技术不是数据挖掘： OLTP Expert systems Small ML Statistical programs,数据挖掘研究的理论基础,数据挖掘方法可以是基于数学理论的，也可以是非数学的；可以是演绎的，也可以是归纳的。 从研究者可能是来自于数据库、人工智能、数理统计、计算机科学以及其他方面的学者和工程技术人员，他们会从不同的视点进行探讨性研究。 有下面一些重要的理论视点值得关注： 模式发现（Pattern Discovery）架构 规则发现（Rule Discovery）架构 基于

13、概率和统计理论 微观经济学观点（Microeconomic View） 基于数据压缩（Data Compression）理论 基于归纳数据库（Inductive Database）理论 可视化数据挖掘（Visual Data Mining） 等等,第一章 绪论 内容提要,数据挖掘技术的产生与发展 数据挖掘研究的发展趋势 数据挖掘概念 数据挖掘技术的分类问题 数据挖掘常用的知识表示模式与方法 不同数据存储形式下的数据挖掘问题 粗糙集方法及其在数据挖掘中的应用 数据挖掘的应用分析,根据挖掘任务,分类或预测模型发现 数据总结与聚类发现 关联规则发现 序列模式发现 相似模式发现 混沌模式发现 依赖关系

14、或依赖模型发现 异常和趋势发现等,根据挖掘对象,关系数据库挖掘 面向对象数据库挖掘 空间数据库挖掘 时态数据库挖掘 文本数据源挖掘 多媒体数据库挖掘 异质数据库挖掘 遗产数据库挖掘 web数据挖掘等,根据挖掘方法,机器学习方法 统计方法 聚类分析方法 神经网络（Neural Network）方法 遗传算法（Genetic Algorithm）方法 数据库方法 近似推理和不确定性推理方法 基于证据理论和元模式的方法 现代数学分析方法 粗糙集（Rough Set）或模糊集方法 集成方法等,根据知识类型,挖掘广义型知识 挖掘差异型知识 挖掘关联型知识 挖掘预测型知识 挖掘偏离型（异常）知识 挖掘不确

15、定性知识等,第一章 绪论 内容提要,数据挖掘技术的产生与发展 数据挖掘研究的发展趋势 数据挖掘概念 数据挖掘技术的分类问题 数据挖掘常用的知识表示模式与方法 不同数据存储形式下的数据挖掘问题 粗糙集方法及其在数据挖掘中的应用 数据挖掘的应用分析,知识表示模式分类,数据挖掘的目的是发现知识，知识要通过一定的模式给出。通过对数据挖掘中知识表示模式及其所采用方法的分析，可以更清楚地了解数据挖掘系统的特点。 主要知识模式类型有： 广义知识（Generalization） 关联知识（Association） 类知识（Class/Cluster） 预测型知识（Prediction） 特异型知识（Excep

16、tion）,广义知识挖掘,广义知识是指描述类别特征的概括性知识。这类数据挖掘系统是对细节数据的所蕴涵的概念特征信息的概括和抽象的过程。 主要方法有： 概念描述（Concept Description）方法：概念描述本质上就是对某类对象的内涵特征进行概括： 特征性（Characterization）描述：描述某类对象的共同特征。 区别性（Discrimination）描述：描述不同类对象之间的区别。 多维数据分析可以看作是一种广义知识挖掘的特例 多层次概念描述问题：由数据归纳出的概念是有层次的，不同层次的概念是对原始数据的不同粒度上的概念抽象。例如， “北京工业大学”能归纳出“北京市”、“中国”

17、、“亚洲”等层次。 销售表SALES（ENO，ENAME，EAGE，VALUE，DEPT），它的每个属性的定义域都可能存在蕴涵于领域知识内的概念延伸。例如，DEPT能归纳出公司COMPANY、城市CITY或国家COUNTRY等层次 概念分层（Concept Hierarchy）技术：将低层概念集映射到高层概念集的方法，是一个常用的处理多层次概念描述的方法。,主要的概念分层方法,模式分层（Schema Hierarchy）：利用属性在特定背景知识下的语义层次形成不同层次的模式关联。 这种关联是一种的全序或偏序关系。 例如，DEPT的模式分层结构可能是：DEPTCOMPANYCITYCOUNTRY

18、。 集合分组分层（Set-Grouping Hierarchy）：将属性在特定背景知识下的取值范围合理分割，形成替代的离散值或区间集合。 例如，年龄EAGE可以抽象成20，29，30，39，40，49，50，59或者青年，中年，老年 。 操作导出分层（Operation-Drived Hierarchy）：有些属性可能包含多类信息。 例如，一个跨国公司的雇员号可能包含这个雇员的所在的部门、城市、国家和雇佣的时间等。对这类对象可以作为背景知识定义它的结构，通过编码解析等操作完成概念的抽象。 基于规则分层（Rule-Based Hierarchy）：通过定义背景知识的抽象规则，形成不同层次上的概念

19、的抽象。,关联知识挖掘,关联知识挖掘的目的就是找出数据库中隐藏的关联信息。 关联知识反映一个事件和其他事件之间的依赖或关联。 关联可分为简单关联、时序（Time Series）关联、因果关联、数量关联等。 从广义上讲，关联分析是数据挖掘的本质。 关联规则挖掘（Association Rule Mining）是关联知识发现的最常用方法： 关联规则的研究最早的分支之一，最著名的Apriori算法。 是数据挖掘研究中比较深入的分支，许多关联规则挖掘的理论和算法已经被提出。,类知识挖掘,类知识（Class）刻画了一类事物，这类事物具有某种意义上的共同特征，并明显和不同类事物相区别。 有两个基本的方法来

20、挖掘类知识： 分类：分类是数据挖掘中的一个重要的目标和任务，是目前的研究和应用最多的分支之一。 分类的目的是学会一个分类模型（称作分类器），该模型能把数据库中的数据项映射到给定类别中。 分类技术是一种有指导的学习（Supervised Learning），即每个训练样本的数据对象已经有类标识，通过学习可以形成表达数据对象与类标识间对应的知识。 聚类：数据挖掘的目标之一是进行聚类分析。 聚类是把一组个体按照相似性归成若干类别，它的目的是使得属于同一类别的个体之间的差别尽可能的小，而不同类别上的个体间的差别尽可能的大。 聚类属于无指导学习（Unsupervised Learning） ），当一组数

21、据对象可以由一个概念（区别于其他的概念）来描述时，就形成一个簇（Cluster）。刻画了数据所蕴涵的类知识。,分类中的基础方法,决策树方法：基本的分类技术之一，如ID3及其改进算法ID4、ID5、C4.5、C5.0等；针对大训练样本集的SLIQ、SPRINT、雨林（Rainforest）BOAT等算法。 贝叶斯分类 ：具有坚实的理论基础，理论上具有较小的出错率。但是，它的适应性差。 神经网络：作为一个相对独立的研究分支已经很早被提出，具有高度的抗干扰能力和可以对未训练数据进行分类等优点，因此产生了神经网络和数据挖掘技术的结合性研究。 遗传算法：是基于进化理论的机器学习方法。 类比学习 ：最典型

22、的方法是k-最临近分类（k-Nearest Neighbor Classification）方法，它属于懒散学习法。 其他方法：如粗糙集（Rough Set）、模糊集（Fuzzy Set）方法等 。,主要聚类的技术,基于划分的聚类方法：k-平均算法是统计学中的一个经典聚类方法，它以预先定义好的簇平均值，构造划分，评价和选择他们。 基于层次的聚类方法：通过对源数据库中的数据进行层次分解，达到目标簇的逐步生成。 凝聚（Agglomeration）：由小到大逐步合并、评价。 分裂（Division）由大到小逐步分裂、评价。 基于密度的聚类方法：基于密度的聚类方法是通过度量区域所包含的对象数目来形成最

23、终目标的。 如果一个区域的密度超过指定的值，那么它就需要进一步分解。 基于网格的聚类方法：对象空间离散化成有限的网格单元，聚类工作在这种网格结构上进行。 基于模型的聚类方法：每个簇假定一个模型，寻找数据对给定模型的最佳拟和。,预测型知识挖掘,预测型知识（Prediction）是指由历史的数据产生的并能推测未来数据趋势的知识。 预测性挖掘主要是对未来数据的概念分类和趋势输出。 分类技术可以用于产生预测型的类知识。 统计学中的回归方法等可以通过历史数据直接产生对未来数据预测的连续值，因而这些预测型知识已经蕴藏在诸如趋势曲线等输出形式中。 预测型知识的挖掘可以结合经典的统计方法、神经网络和机器学习等

24、技术来研究。,预测型知识挖掘中的典型方法,趋势预测模式：主要是针对那些具有时序（Time Series）属性的数据，如股票价格等，或者是序列项目（Sequence Items）的数据，如年龄和薪水对照等，发现长期的趋势变化等。 周期分析模式：主要是针对那些数据分布和时间的依赖性很强的数据进行周期模式的挖掘。例如，服装在某季节或所有季节的销售周期。 序列模式：主要是针对历史事件发生次序的分析形成预测模式来对未来行为进行预测。例如，预测“三年前购买计算机的客户有很大概率会买数字相机”。 神经网络：在预测型知识挖掘中，神经网络也是很有用的模式结构。,特异型知识挖掘,特异型知识（Exception）是

25、源数据中所蕴涵的极端特例或明显区别于其他数据的知识描述，它揭示了事物偏离常规的异常规律。 特异知识挖掘的价值： 例如，在Web站点发现那些区别于正常登录行为的用户特点可以防止非法入侵。 金融、电信欺诈等 分类中的反常实例、不满足普通规则的特例、观测结果与模型预测值的偏差、数据聚类外的离群值等,特异型知识挖掘的任务和方法,许多技术可以扩展到特异型知识挖掘中,如： 孤立点（Outlier）分析：孤立点是指不符合数据的一般模型的数据。在类知识挖掘中，孤立点分析是不能归入正常类知识中的零散数据的再分析。 异常序列分析：在一系列行为或事件对应的序列中发现明显不符合一般规律的特异型知识。 特异规则发现：产

26、生并评价虽然具有低支持度但可能很有价值的规则。,第一章 绪论 内容提要,数据挖掘技术的产生与发展 数据挖掘研究的发展趋势 数据挖掘概念 数据挖掘技术的分类问题 数据挖掘常用的知识表示模式与方法 不同数据存储形式下的数据挖掘问题 粗糙集方法及其在数据挖掘中的应用 数据挖掘的应用分析,数据挖掘方法与数据存储类型,数据挖掘技术应该应用到任何数据存储方式的知识挖掘中，但是因为源数据的存储类型的不同，挖掘的挑战性和技术会不同。 近年来的研究表明数据挖掘所涉及的数据存储类型越来越丰富，除了一些有通用价值的模型、构架等研究外，也开展了一些针对复杂或新型数据存储方式下的挖掘技术或算法的研究。 主要的数据类型：

27、 事务数据库（Transactional Database ） 关系型数据库 （Related Database ） 数据仓库（Data Warehouse ） 在关系模型基础上发展的新型数据库 面向应用的新型数据源 Web数据,事务数据库中的数据挖掘,一个事务数据库是对事务型数据的收集。1993年，当Agrawal等开始讨论数据挖掘问题时，是以购物篮分析（Market Basket Analysis）作为商业应用背景的。 从事务数据库中发现知识是数据挖掘中研究较早但至今仍然很活跃的问题。通过特定的技术对事务数据库进行挖掘，可以获得动态行为所蕴藏的关联规则、分类、聚类以及预测等知识模式。 第三

28、章将详细讲解,关系型数据库中的数据挖掘,关系型数据库是由一系列数据表组成的，相当成熟： 成熟的语义模型（像实体-关系模型）；成熟的DBMS（像Oracle） 成熟的查询语言（像SQL语言；可视化的辅助工具和优化软件。 一些更深入和亟待解决的问题： 多维知识挖掘： 传统的事务数据库挖掘所研究的知识一般是单维（Single-Demension）的，但是，在关系型数据库中，多维的知识更普遍和有应用价值。 单维： “购买计算机的人也购买打印机”。 多维： “什么样购买计算机的人也购买打印机的可能性更大？” 。 多表挖掘：关系型数据库是一系列表的集合。因此，多表挖掘是必然的。 数量数据挖掘： 关系型数据

29、库经常包含非离散数量属性（如工资）。 多层知识挖掘：数据及其关联总是可在多个不同的概念层上来理解它。 知识评价问题：对传统的数据挖掘框架的知识评价问题，也是关系型数据库中数据挖掘走向实际应用必须要解决的问题。 约束数据挖掘问题：数据挖掘系统在用户的约束指导下进行，可以提高挖掘效率和准确度。,数据仓库中的数据挖掘,数据仓库中的数据是按着主题来组织的。存储的数据可以从历史的观点提供信息。虽然目前的一些数据仓库辅助工具可以帮助完成数据分析，但是发现蕴藏在数据内部的知识模式及其按知识工程方法来完成高层次的工作仍需要数据挖掘技术支持。 数据挖掘不仅伴随数据仓库而产生，而且随着应用深入产生了许多新的课题。

30、 如果我们把数据挖掘作为高级数据分析手段来看，那么它是伴随数据仓库技术提出并发展起来的。 OLAP尽管在许多方面和数据挖掘是有区别的，但是它们在应用目标上有很大的重合度。 数据挖掘更看中数据分析后所形成的知识表示模式，而OLAP更注重利用多维等高级数据模型实现数据的聚合。从某种意义上讲，我们可以把数据挖掘看作是OLAP的高级形式，与此更接近的名词可能算是OLAM（联机分析挖掘）。,新型数据库中的数据挖掘,对象关系型数据库（Object-Ralational Database）挖掘； 面向对象数据库的挖掘； 空间数据库的挖掘； 时态数据库的挖掘； 工程数据库（Engineering Databa

31、se）的挖掘； 多媒体数据库（Multimedia Database）的挖掘； 等等,Web数据源中的数据挖掘,随着Internet的广泛使用， Web这一巨大的海洋中蕴藏着极其丰富的有用信息。 面向Web的数据挖掘比面向数据库和数据仓库的数据挖掘要复杂得多： 异构数据源环境：Web网站上的信息是异构: 每个站点的信息和组织都不一样；存在大量的无结构的文本信息、复杂的多媒体信息；站点使用和安全性、私密性要求各异等等。 数据的是复杂性：有些是无结构的（如Web页），通常都是用长的句子或短语来表达文档类信息；有些可能是半结构的（如Email，HTML页）。当然有些具有很好的结构（如电子表格）。揭开

32、这些复合对象蕴涵的一般性描述特征成为数据挖掘的不可推卸的责任。 动态变化的应用环境： Web的信息是频繁变化的，像新闻、股票等信息是实时更新的。 这种高变化也体现在页面的动态链接和随机存取上。 Web上的用户是难以预测的。 Web上的数据环境是高噪音的。,Web挖掘的研究主要流派,Web结构挖掘：挖掘Web上的链接结构。 通过Web页面间的链接信息可以识别出权威页面（Authoritative Page）、安全隐患（非法链接）等。 Web使用挖掘对Web上的Log日志记录的挖掘 Web上的Log日志记录了包括URL请求、IP地址以及时间等的访问信息。 分析和发现Log日志中蕴藏的规律可以帮助我

33、们识别潜在的客户、跟踪Web服务的质量以及侦探非法访问的隐患等。 Web内容挖掘： Web的内容是丰富的，而且构成成分是复杂的（无结构的、半结构的等），对内容的分析是重要而艰巨的工作。 Web的内容主要是包含文本、声音、图片等的文档信息。 文本挖掘（Text Mining）和Web搜索引擎（Search Engine）等相关领域的研究。目 多媒体信息挖掘技术。,第一章 绪论 内容提要,数据挖掘技术的产生与发展 数据挖掘研究的发展趋势 数据挖掘概念 数据挖掘技术的分类问题 数据挖掘常用的知识表示模式与方法 不同数据存储形式下的数据挖掘问题 粗糙集方法及其在数据挖掘中的应用 数据挖掘的应用分析,粗

34、糙集理论简介,粗糙集理论是一种研究不精确、不确定性知识的数学工具，由波兰科学家Z. Pawlak在1982年首先提出的。 粗糙集一经提出就立刻引起数据挖掘研究人员的注意，并被广泛讨论。 粗糙集的知识形成思想可以概括为：一种类别对应于一个概念，知识由概念组成。 粗糙集理论是一种刻画不完整性和不确定性的数学工具，能有效地分析和处理不精确、不一致、不完整等各种不完备信息，并从中发现隐含的知识，揭示潜在的规律。,粗糙集理论简介,在数据挖掘与知识发现中，粗糙集理论与方法对于处理复杂系统已成为一个有效的方法，它与概率论、模糊集方法和证据理论等其他处理不确定性问题理论的最显著区别是：它无需提供问题所处理的数

35、据集合的任何先验信息。粗糙集理论强调的是信息系统中知识的不完全性、不可分辨性，其处理方法是确定的，要求属性值都是定性值，而实际应用中大量存在的是定量数据，必须设法转换成定性数据才能运用粗糙集方法。因此与其他处理不确定性问题的理论，如模糊数学和云理论等，具有很强的互补性，可以相互促进，增强其知识发现的能力。,粗糙集理论简介,粗糙集和数据挖掘关系密切，目前已经在关联规则、决策树等方面得到了广泛应用。基于粗糙集的关联规则提取主要步骤包括去除不一致实例、求属性核、求相对约简、相同实例合并和值约简。基于粗糙集的单变量决策树构造方法的基本思想是具有最小边界的属性在构造决策树时将首先被选择。并且目前的研究趋

36、向是：粗糙集和遗传算法相结合、和模糊集相结合，以及和神经网络相结合用于数据挖掘。,粗糙集理论简介,粗糙集为数据挖掘提供了一种新的方法和工具，并拥有广阔的前景。 首先，数据挖掘研究的实施对象多为关系型数据库。关系表可被看作为粗糙集理论中的信息表或决策表，这给粗糙集方法的应用带来极大的方便； 第二，粗糙集的约简理论可用于高维数据的预处理上以去除冗余属性从而达到降低维数的目的； 第三，现实世界中的规则有确定性的，也有不确定性的。从数据库中发现不确定性的知识，为粗糙集方法提供了用武之地； 第四，运用粗糙集方法得到的知识发现算法有利于并行执行，这可极大地提高对大规模数据库的知识发现的效率。,第一章 绪论

37、 内容提要,数据挖掘技术的产生与发展 数据挖掘研究的发展趋势 数据挖掘概念 数据挖掘技术的分类问题 数据挖掘常用的知识表示模式与方法 不同数据存储形式下的数据挖掘问题 粗糙集方法及其在数据挖掘中的应用 数据挖掘的应用分析,数据挖掘技术应用广泛,数据挖掘技术从一开始就是面向应用的。由于现在各行业的业务操作都向着流程自动化的方向发展，企业内产生了大量的业务数据。 数据挖掘技术应用很广，应用较好的领域有： 金融保险业：Credit Scoring； Insurance Evaluation 电信： Detecting telephone fraud 零售（如超级市场）等商业领域：Marketing

38、Analysis 医学： Detecting inappropriate medical treatment 体育： IBM Advanced Scout analyzed NBA game statistics 在天文学、分子生物学等科学研究方面 等等,数据挖掘与CRM,CRM（客户关系管理）是指对企业和客户之间的交互活动或行为进行管理的过程。 数据挖掘能够帮助企业确定客户的特点，使企业能够为客户提供有针对性的服务。因此，把数据挖掘和CRM结合起来进行研究和实践，是一个有很大应用前景的工作。 所能解决的典型商业问题包括： 数据库营销（Database Marketing） 客户群体划分（Customer Segmentation & Classification） 客户背景分析（Profile