聚类分析与判别分析.ppt

第10章 聚类分析与判别分析,本章重点： 聚类分析概述 层次聚类 快速聚类 判别分析,10.1 聚类分析概述,聚类分析的意义 聚类分析说明,10.1.1 聚类分析的意义,聚类分析是一种探索性的分析，在分类的过程中，人们不必事先给出一个分类的标准，聚类分析能够从样本数据出发，自动进行分类分析，所得到的聚类数未必一致。因此，这里所说的聚类分析是一种探索性的分析方法。 对个案的聚类分析类似于判别分析，都是将一些观察个案进行分类。聚类分析时，个案所属的群组特点还未知。即，在聚类分析之前，研究者还不知道独立观察组可以分成多少个类，类的特点也无所得知。 变量的聚类分析类似于因素分析。两者都可用于辨别变量的相关组别。不同在于，因素分析在合并变量的时候，是同时考虑所有变量之间的关系；而变量的聚类分析，则采用层次式的判别方式，根据个别变量之间的亲疏程度逐次进行聚类。,10.1.2 聚类分析说明,聚类分析的方法主要有两种，一种是“快速聚类分析”；另一种是“层次聚类,分析”。如果观察值的个数多或文件非常庞大，则宜使用快速聚类分析方法。 因为观察值数目巨大，层次聚类分析的两种判别图形会过于分散，不容易解释。 判别分析是一种有效的对个案进行分类分析的方法。和聚类分析不同的是，判别分析时，组别的特征已知。如银行为了对贷款进行管理，需要预测哪些类型的客户可能不会按时归还贷款。已知过去几年中，900个客户的贷款归还信誉度，据此可以将各户分成两组：可靠客户和不可靠客户。再通过收集客户的一些资料，如年龄、存款、收入等，将这些资料作为自变量，通过判别分析，建立判别函数。那么，如果有200个新的客户提交贷款请求，就可以利用刚建好的判别函数，对新的客户进行分析，从而判别新的客户是属于可靠客户类还是不可靠客户类。,10.2 层次聚类,层次聚类Q型聚类 层次聚类Q型聚类应用实例 层次聚类R型聚类 层次聚类R型聚类应用实例,10.2.1 层次聚类Q型聚类,层次聚类分析中的Q型聚类可使具有共同特点的样本聚齐在一起，以便对不同类的样本进行分析。层次聚类分析中，测量样本之间的亲疏程度，一种是样本数据与小类，小类与小类之间的亲疏程度。 样本数据之间的亲疏程度主要通过样本之间的距离、样本间的相关系数来度量。SPSS根据变量数据类型的不同，采用不同的测定亲疏程度的方法。,10.2.2 层次聚类Q型聚类应用实例,经调查得知某班8个学生入学时的语文成绩和中期测试语文成绩，现要求对这8名学生的语文成绩进行聚类，聚类的依据是入学语文成绩和第一次考试的语文成绩。,10.2.4 层次聚类R型聚类,层次聚类R型聚类是对研究对象的观察变量进行分类，它使具有共同特征的变量取在一起，以便可以从不同类中分别选出具有代表性的变量作为分析，从而减少分析变量的个数。其计算公式与Q型聚类计算公式相似，不同的是R型聚类是对变量进行距离的计算，Q型聚类是对样本间进行距离的计算。,10.2.5 层次聚类R型聚类应用实例,该例可以借用层次聚类Q型聚类的实例，分析某班级中语文成绩、数学成绩、化学成绩和外语成绩四门，哪些课程属于同一个类。,10.3 快速聚类,快速聚类分析的概念 快速聚类分析的计算过程及公式 快速聚类分析应用实例,快速聚类分析的计算过程如下：,10.3.1 快速聚类分析的概念,快速聚类分析是由用户指定类别数的大样本资料的逐步聚类分析。它先对数据进行初始分类，然后逐步调整，得到最终分类。快速聚类分析的实质是K-Mean聚类。 和层次聚类分析一致，快速聚类分析也以距离为样本间亲疏程度的标志。但两者的不同在于：层次聚类可以对不同的聚类类数产生一系列的聚类解，而快速聚类只能产生固定类数的聚类解，类数需要用户事先指定。 另外，在快速聚类分析中，用户可以自己指定初始的类中心点。如果用户的经验比较丰富可以指定比较合理的初始类点，否则，需要增加迭代的次数，以保证最终聚类结果的准确性。,10.3.2 快速聚类分析的计算过程及公式,在SPSS中确定 个类的初始类中心点。SPSS会根据样本数据的实际情况，选择 个由代表性的样本数据作为初始类中心。初始类中心也可以由用户自行指定，需要指定 组样本数据作为初始类中心点。,1.指定聚类的类数,2. 确定中心点,接着，SPSS重新确定 个类的中心点。SPSS计算每个变量的变量值均值，并以均值点作的类中心点；最后重复上面的两步计算过程，直到达到指定的迭代次数或终止迭代的判断要求为止。,10.3.3 快速聚类分析应用实例,本实例调查了全国10个学校的校风、校纪、领导角色和教师态度4个指标，希望使用快速聚类分析将这10个学校按照其各自的特点分成4种类型。,10.4 判别分析,判别分析的概念 判别分析应用实例,判别分析先根据已知类别的事物的性质建立函数式，然后对未知类别的新事物进行判断以将之归入已知的类别中。 在判别分析中有如下假定： 预测变量服从正态分布。 预测变量之间没有显著的相关。 观测变量的平均值和方差不相关。 预测变量之间的相关性在不同类