6.1 聚类分析概念

第六章聚类分析·6.1聚类分析概念·6.2聚类分析算法分类·6.3聚类分析中的数据类型·6.4层次聚类方法·6.5划分聚类方法·6.6综合案例6.1聚类分析概念聚

类

分

析

概

念聚类是一种无监督分类法:没有预先指定的类别；

聚类分析中“类”的特征：聚类所说的类不是事先给定的，而是根据数据的相似性和距离来划分聚类的数目和结构都没有事先假定簇（Cluster）:一个数据对象的集合在同一个类中，对象之间具有相似性；不同类的对象之间是相异的。聚

类

分

析

概

念聚类分析（群分析、簇群分析）把一个给定的数据对象集合分成不同的簇；

所谓聚类就是按照事物的某些属性，把事物聚集成类，使类间的相似性尽可能的小，类内相似性尽量大的过程。典型的应用作为一个独立的分析工具，用于了解数据的分布；也可作为其它算法的一个数据预处理步骤；（如某商业应用往往先对用户数据进行聚类，根据聚类结果将每个簇定义为一个类，然后再基于这些训练分类模型，用于判别新用户的类型。）孤立点挖掘—异常分析聚

类

分

析

概

念聚类分析原理介绍

聚类方法的目的是寻找数据中：潜在的自然分组结构（astructureof“natural”grouping）感兴趣的关系（relationship）聚

类

分

析

概

念聚类分析原理介绍什么是自然分组结构？我们看看以下的例子：有16张牌如何将他们分为一组一组的牌呢？聚

类

分

析

概

念聚类分析原理介绍分成四组每组里花色相同组与组之间花色相异AKQJ花色相同的牌为一副Individualsuits聚

类

分

析

概

念聚类分析原理介绍符号相同的的牌Likefacecards分成四组符号相同的牌为一组AKQJ聚

类

分

析

概

念聚类分析原理介绍分成两组颜色相同的牌为一组AKQJ颜色相同的配对Blackandredsuits聚

类

分

析

概

念聚类分析原理介绍大配对和小配对Majorandminorsuits这个例子告诉我们，分组的意义在于我们怎么定义并度量“相似性”Similar因此衍生出一系列度量相似性的算法AKQJ聚

类

分

析

概

念聚类基本原理一个好的聚类方法要能产生高质量的聚类结果——簇，包括高的簇内相似性(intra-clustersimilarity)和低的簇间相似性(inter-clustersimilarity)。聚

类

分

析

概

念什么是一个好的聚类方法？判断一个聚类方法质量的好坏依赖于用于该聚类方法的相似度度量具体实现方法能否发现部分或所有隐藏模式“物以类聚”聚

类

分

析

概

念主要应用例1：数据挖掘聚类数据的基本概况特征抽取或分类聚类在数据挖掘中可以作为其他算法的预处理步骤，获得数据的基本概况，在此基础上进行特征抽取或分类就可以提高精确度和挖掘效率，或将聚类结果用于进一步关联分析，以获得进一步的有用信息；聚

类

分

析

概

念主要应用例2：在商业上聚类分析可以帮助市场分析人员从客户基本资料数据库中发现不同的客户群，并且用购买模式来刻画不同的客户群的特征。聚

类

分

析

概

念主要应用通过观察聚类得到的每个簇的特点，可以集中对特定的某些簇作进一步分析或者孤立点挖掘。集中分析：这在诸如市场细分、目标顾客定位、业绩估评、生物种群划分等方面具有广阔的应用前景；孤立点挖掘：许多数据挖掘算法试图使孤立点影响最小化，或者排除它们。然而孤立点本身可能是非常有用的。如在欺诈探测中，孤立点可能预示着欺诈行为的存在。含有孤立点的数据分布聚

类

分

析

概

念要求根据潜在的各项应用，数据挖掘对聚类分析方法提出了不同要求。典型要求可以通过以下几个方面来刻画：可伸缩性：指聚类算法不论对于小数据集还是对于大数据集，都应是有效的。具有较高伸缩性的算法有：WaveCluster、ROCK

等聚

类

分

析

概

念要求能发现任意形状的簇：许多聚类算法经常使用欧几里得距离（欧氏距离）来作为相似性度量方法，但基于这样的距离度量的算法趋向于发现具有相近密度和尺寸的球状簇。对于一个可能是任意形状的簇的情况，提出能发现任意形状簇的算法是很重要的。2D距离3D距离聚

类

分

析

概

念要求在决定输入参数的时候，尽量不需要特定的领域知识：聚类结果对于输入的参数很敏感。如果算法的参数依赖于领域特定的知识，那么就会降低算法的可迁移性，还会导致用户负担加重和质量难以控制。聚

类

分

析

概

念要求能够处理噪声和异常：聚

类

分

析

概

念要求对输入数据对象的顺序不敏感：聚

类

分

析

概

念要求能处理高维数据：既可处理属性较少的数据，又能处理属性较多的数据。很多聚类算法擅长处理低维数据，一般只涉及两维到三维，我们对两、三维数据的聚类结果很容易直观地判断聚类的质量。但是，高维数据聚类结果的判断就不那样直观了。数据对象在高维空间的聚类是非常具有挑战性的，尤其是考虑到这样的数据可能高度偏斜并且非常稀疏。聚

类

分

析

概

念要求能产生一个好的、能满足用户指定约束的聚类结果：在实际应用当中可能需要在各种约束条件下进行聚类。既要找到满足特定