应用多元统计分析习题解答聚类分析

1、第五章聚类分析5.1 判别分析和聚类分析有何区别？答：即根据一定的判别准则，判定一个样本归属于哪一类。具体而言，设有n个样本，对每个样本测得p项指标（变量）的数据，已知每个样本属于k个类别（或 总体）中的某一类，通过找出一个最优的划分，使得不同类别的样本尽可能地区 别幵，并判别该样本属于哪个总体。聚类分析是分析如何对样品（或变量）进行 量化分类的问题。在聚类之前，我们并不知道总体，而是通过一次次的聚类，使 相近的样品（或变量）聚合形成总体。通俗来讲，判别分析是在已知有多少类及 是什么类的情况下进行分类，而聚类分析是在不知道类的情况下进行分类。5.2 试述系统聚类的基本思想。答：系统聚类的基本思

2、想是：距离相近的样品（或变量）先聚成类，距离相远的 后聚成类，过程一直进行下去，每个样品（或变量）总能聚到合适的类中。5.3 对样品和变量进行聚类分析时，所构造的统计量分别是什么？简要说明为什么这样构造？答：对样品进行聚类分析时，用距离来测定样品之间的相似程度。因为我们把n个样本看作p维空间的n个点。点之间的距离即可代表样品间的相似度。常用的 距离为Pq他（一） 闵可夫斯基距离：djj （q） （ Xik X jk ）k 1q取不同值，分为（1）绝对距离（q 1）（2）欧氏距离（q 2）（3）切比雪夫距离（q ）（二）马氏距离（三）兰氏距离对变量的相似性，我们更多地要了解变量的变化趋势或变化方

3、向，因此用相关性进行衡量。将变量看作p维空间的向量，一般用（一）夹角余弦（二）相关系数5.4 在进行系统聚类时，不同类间距离计算方法有何区别？选择距离公式应遵循哪些原则？ 答：设dj表示样品X与X之间距离，用D表示类G与G之间的距离（1）.最短距离法（2）最长距离法(3) 中间距离法2 1 2 1 2 2 Dkrj 一 Dkp 一 DkqDpqI- I 纲 C 24其中(4) 重心法(5) 类平均法（6）可变类平均法（7）可变法D：(DkpDjq)2Dpq其中是可变的且 1（8）离差平方和法通常选择距离公式应注意遵循以下的基本原则:1)要考虑所选择的距离公式在实际应用中有明确的意义。如欧氏距离

4、就有非常明确的空间距离概念。马氏距离有消除量纲影响的作用。(2)要综合考虑对样本观测数据的预处理和将要采用的聚类分析方法。如在进行 聚类分析之前已经对变量作了标准化处理，则通常就可采用欧氏距离。(3)要考虑研究对象的特点和计算量的大小。样品间距离公式的选择是一个比较 复杂且带有一定主观性的问题，我们应根据研究对象的特点不同做出具体分折。 实际中，聚类分析前不妨试探性地多选择几个距离公式分别进行聚类，然后对聚 类分析的结果进行对比分析，以确定最合适的距离测度方法。5.5 试述 K 均值法与系统聚类法的异同。答：相同：K均值法和系统聚类法一样，都是以距离的远近亲疏为标准进行聚类的。不同：系统聚类对

5、不同的类数产生一系列的聚类结果，而K均值法只能产生指定类数的聚类结果。具体类数的确定，离不开实践经验的积累；有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K均值法确定类数的参考。5.6试述K均值法与系统聚类有何区别？试述有序聚类法的基本思想。答：K均值法的基本思想是将每一个样品分配给最近中心(均值)的类中。系统聚 类对不同的类数产生一系列的聚类结果，而K均值法只能产生指定类数的聚类结果。具体类数的确定，有时也可以借助系统聚类法以一部分样品为对象进行聚类， 其结果作为K均值法确定类数的参考。有序聚类就是解决样品的次序不能变动时的聚类分析问题。 如果用 X(1),X(2), ,X(

6、n) 表示 n 个有序的样品，则每一类必须是这样的形式，即X(i),X(i 1), ,X(j) ，其中1 i n,且j n,简记为Gi i,i 1, j。在同一类中的样品是次序相邻的。一般的步骤是(1)计算直径D (i,j ) o (2)计算最小分类损失函数Lp(l,k)(3)确定分类个数k o (4)最优分类。5.7 检测某类产品的重量，抽了六个样品， 每个样品只测了一个指标，分别为1, 2, 3, 6, 9, 11.试用最短距离法，重心法进行聚类分析。(1)用最短距离法进行聚类分析。采用绝对值距离，计算样品间距离阵h中最小元素是弼=2于是将；.，聚为一类，记为于是将I,匕，上聚为一类，记G

7、10Gg102105430g58763 01098520计算样本距离阵03! 3 03 6 30D斗7 二 D -3中最小元素是于是将5，聚为一类，记为 乜因此，（2）用重心法进行聚类分析计算样品间平方距离阵 曲讥TG10$10410251690g56449369 010081642540易知.中最小元素是于是将31，西，岀聚为一类,记为计算距离阵-i“羽0812540注：计算方法，其他以此类推。心中最小元素是八:严4于是将富，费聚为一类，记为站计算样本距离阵聚为一类，记为仆因此,5.8下表是15个上市公司2001年的一些主要财务指标，使用系统聚类法和K均值法分别对这些公司进行聚类，并对结果进

8、行比较分析。公司净资产每股净总资产资产负流动负每股净净利润总资产编号收益率利润周转率债率债比率资产增长率增长率111.090.210.0596.9870.531.86-44.0481.99211.960.590.7451.7890.734.957.0216.11300.030.03181.99100-2.98103.3321.18411.580.130.1746.0792.181.146.55-56.325-6.19-0.090.0343.382.241.52-1713.5-3.366100.470.4868.4864.7-11.560.85710.490.110.3582.9899.871.

9、02100.2330.32811.12-1.690.12132.14100-0.66-4454.39-62.7593.410.040.267.8698.511.25-11.25-11.43101.160.010.5443.71001.03-87.18-7.411130.220.160.487.3694.880.53729.41-9.97128.190.220.3830.311002.73-12.31-2.771395.79-5.20.5252.3499.34-5.42-9816.52-46.821416.550.350.9372.3184.052.14115.95123.4115-24.18-

10、1.160.7956.2697.84.81-533.89-27.74解:令净资产收益率为 X1,每股净利润X2,总资产周转率为X3,资产负债率为X4,流动负债比率为X5,每股净资产为X6,净利润增长率为X7,总资产增长率为X8, 用 spss 对公司聚类分析的步骤如下：a） 系统聚类法 :1. 在 SPSS窗口 中选择 Analyze Classify Hierachical Cluster，调出系统聚类分析主界面，并将变量X1 -X8移入Variables框中。在Cluster栏中选择Cases 单选按钮,即对样品进行聚类（若选择 Variables ,则对变量进行聚类）。在 Display

11、 栏中选择 Statistics 和 Plots 复选框,这样在结果输出窗口中可以同 时得到聚类结果统计量和统计图。图 5.1 系统分析法主界面2. 点击 Statistics 按钮,设置在结果输出窗口中给出的聚类分析统计量。我们选择 Agglomeration schedule 与 Cluster Membership 中的 Rangeof solution 2-4 , 如图 5.2 所示,点击 Continue 按钮,返回主界面。（其中, Agglomeration schedule 表示在结果中给出聚类过程表,显示系统聚类 的详细步骤； Proximity matrix 表示输出各个体之

12、间的距离矩阵； Cluster Membership 表示在结果中输出一个表,表中显示每个个体被分配到的类别,Range of solution 2-4 即将所有个体分为 2 至 4 类。）3. 点击 Plots 按钮,设置结果输出窗口中给出的聚类分析统计图。 选中 Dendrogram 复选框和Icicle 栏中的None单选按钮，如图5.3，即只给出聚类树形图，而不 给出冰柱图。单击 Continue 按钮,返回主界面。图 5.2 Statistics 子对话框图 5.3 Plots 子对话框4. 点击Method按钮，设置系统聚类的方法选项。Cluster Method下拉列表用于指 定

13、聚类的方法，这里选择Between-group inkage （组间平均数连接距离）；Measure 栏用于选择对距离和相似性的测度方法,选择 Squared Euclidean distance （欧 氏距离）；单击 Continue 按钮,返回主界面。图5.4 Method子对话框图5.5 Save子对话框5. 点击Save按钮，指定保存在数据文件中的用于表明聚类结果的新变量。None表示不保存任何新变量； Single solution 表示生成一个分类变量,在其后的矩形 框中输入要分成的类数； Range of solutions 表示生成多个分类变量。这里我 们选择 Range of

14、 solutions ，并在后面的两个矩形框中分别输入 2和 4，即生成 三个新的分类变量，分别表明将样品分为 2类、3类和 4类时的聚类结果 ,如图5.5 。点击 Continue ，返回主界面。6. 点击0K按钮，运行系统聚类过程。聚类结果分析 :下面的群集成员表给出了把公司分为 2类， 3类， 4类时各个样本所属类别的情况， 另外，从右边的树形图也可以直观地看到，若将 15个公司分为 2类，则 13独自为一 类，其余的为一类；若分为 3类，则公司 8分离出来，自成一类。以此类推。表 5.1 各样品所属类别表图 5.6 聚类树形图b） K 均值法的步骤如下：1. 在 SPSS窗口 中选择

15、Analyze f Classify f K-Means Cluster，调出 K均值聚类分 析主界面，并将变量 X1-X8移入Variables 框中。在 Method框中选择Iterate classify ，即使用K-means算法不断计算新的类中心，并替换旧的类中心（若选 择 Classify only ，则根据初始类中心进行聚类，在聚类过程中不改变类中心）。在 Numberof Cluster 后面的矩形框中输入想要把样品聚成的类数，这里我们输 入 3，即将 15个公司分为 3类。（Centers 按钮，则用于设置迭代的初始类中心。如果不手工设置，则系统会自 动设置初始类中心，这里我

16、们不作设置。）图 5.7 K 均值聚类分析主界面2. 点击 Iterate 按钮，对迭代参数进行设置。 Maximum Iterations 参数框用于设 定K-mea ns算法迭代的最大次数，输入 10，Con verge nee Criterio n 参数框用于 设定算法的收敛判据，输入 0，只要在迭代的过程中先满足了其中的参数，则迭 代过程就停止。单击 Continue ，返回主界面。图 5.8 Iterate 子对话框3. 点击 Save 按钮，设置保存在数据文件中的表明聚类结果的新变量。我们将两个 复选框都选中，其中 Cluster membership 选项用于建立一个代表聚类结果

17、的变 量，默认变量名为 qcl_1 ；Distance from cluster center 选项建立一个新变量， 代表各观测量与其所属类中心的欧氏距离。单击 Continue 按钮返回。图 5.9 Save 子对话框4. 点击 Options 按钮，指定要计算的统计量。选中 Initial cluster centers和Cluster information for each case复选框。这样，在输出窗口中将给出聚类的初始类中心和每个公司的分类信息， 包括分配到哪一类和该公司距所属类中心 的距离。单击 Continue 返回。图 5.10 Options 子对话框5. 点击OK按钮，

18、运行K均值聚类分析程序。聚类结果分析 :以下三表给出了各公司所属的类及其与所属类中心的距离， 聚类形成的类的中心的各变量值以及各类的公司数。由以上表格可得公司 13 与公司 8 各自成一 类，其余的公司为一类。通过比较可知，两种聚类方法得到的聚类结果完全一致。5.9 下表是某年我国 16 个地区农民支出情况的抽样调查数据，每个地区调查了反 映每人平均生活消费支出情况的六个经济指标。试通过统计分析软件用不同的方法进行系统聚类分析，并比较何种方法与人们观察到的实际情况较接近地区食品衣着燃料住房交通和 通讯娱乐教 育文化北京190.3343.779.7360.5449.019.04天津135.236

19、.410.4744.1636.493.94河北95.2122.839.322.4422.812.8山西104.7825.116.49.8918.173.25内蒙128.4127.638.9412.5823.992.27辽宁145.6832.8317.7927.2939.093.47吉林159.3733.3818.3711.8125.295.22黑龙江116.2229.5713.2413.7621.756.04上海221.1138.6412.53115.6550.825.89江苏144.9829.1211.6742.627.35.74浙江169.9232.7512.7247.1234.355安徽

20、135.1123.0915.6223.5418.186.39福建144.9221.2616.9619.5221.756.73江西140.5421.517.6419.1915.974.94山东115.8430.2612.233.633.773.85河南101.1823.268.4620.220.54.3解:令食品支出为XI,衣着支出为X2,燃料支出为X3,住房支出为X4,交通和通 讯支出为X5,娱乐教育文化支出为 X6,用spss对16各地区聚类分析的步骤如 5.8 题，不同的方法在第 4个步骤的Method子对话框中选择不同的 Cluster method 。1. Betwee n-group

21、 in kage （组间平均数连接距离）上表给出了把全国16个地区分为2类、3类和4类时，各地区所属的类别，另外 从右边的树形图也可以直观地观察到，若用组间平均数连接距离将这些地区分为3类，则9 （上海）独自为一类，1 （北京）和11 （浙江）为一类，剩余地区为一类。2. With in-group lin kage（组内平均连接距离）若用组内平均数连接距离将这些地区分为3类，贝y 9 （上海）独自为一类，1 （北京）独自为一类，剩余地区为一类。3. Nearest neighbor （最短距离法）若用最短距离法将这些地区分为3类，则9 （上海）独自为一类，1 （北京）独自为一类，剩余地区为一

22、类。4. Furthest neighbor（最远距离法）若用最远距离法将这些地区分为 3类，则9 （上海）独自为一类，1 （北京）和11 （浙江）为一类，剩余地区为一类5. Cen troid cluster（重心法） 若用重心法将这些地区分为3类，则9 （上海）独自为一类，1 （北京）和11 （浙江） 为一类，剩余地区为一类。6. Media n cluster （中位数距离）若用中位数距离法将这些地区分为3类，则9 （上海）独自为一类，1 （北京）和11 （浙江）为一类，剩余地区为一类。7. Ward method （离差平方和）若用离差平方和法将这些地区分为 3类，则9 （上海），1

23、（北京）和11 （浙江） 为一类，2 （天津）、6 （辽宁）、7 （吉林）、10 （江苏）、12 （安徽）、13 （福建） 和14 （江西）为一类，剩余地区为一类。5.10根据上题数据通过 SPSS统计分析软件进行快速聚类运算，并与系统聚类分 析结果进行比较。解：快速聚类运算即 K均值法聚类，具体步骤同 5.8，聚类结果如下：聚类的结果为9 （上海）独自为一类，1 （北京）、2 （天津）、6 （辽宁）、7 （吉林）、10 （江苏）、11 （浙江）、13 （福建）和14 （江西）为一类，剩余地区为一类。5.11下表是2003年我国省会城市和计划单列市的主要经济指标：人均GD氏（元）、人均工业产值

24、X2 （元）、客运总量X3 （万人）、货运总量X4 （万吨）、地方 财政预算内收入X5 （亿元）、固定资产投资总额X6 （亿元）、在岗职工占总人口的 比例X7 （%）、在岗职工人均工资额X8 （元八 城乡居民年底储蓄余额 X9 （亿元）。 试通过统计分析软件进行系统聚类分析，并比较何种方法与人们观察到的实际情 况较接近。城市北京31886331683052030671593200037.8253126441天津264334373235073467920593418.8186481825石家庄15134131591184310008494169.5123061044太原1575215831297

25、5152483319722.812679660呼和浩特1899111257350841552118213.514116255沈阳23268154466612146368155714.8149611423大连2914527615110012108111140714.7175601310长春18630210456999108924629412.513870831哈尔滨148257561645895187642317.7124511154上海4658677083721263861899227421.0273056055南京2754743853167901480513679415.4221901134

26、杭州3266749823213491681515071711.8246671466宁波3254347904249381379713955510.9236911060合肥106211171460344641362458.313901359福州2228121310968082506737611.815053876厦门5359093126444130557023838.619024397南昌142219205572844543121011.013913483济南23437226345810143547642913.516027758青岛2470535506146663055312054814.515

27、335908郑州16674140231070978476637312.7135381048武汉212781708311882166108062317.4137301286长沙15446887310609106316043410.016987705广州48220554042975128859275108925.1288053727深圳19183834751910989679329187569.6310532199南宁8176339070165893361708.313171451海口1644214553132843304129916.514819284重庆71905076582903245016

28、211876.5124401897成都17914928972793287989078811.9152741494贵阳11046103501851153184023115.812181345昆明16215116015126123386034214.614255709西安1314089131141393926544615.9135051211兰州1445917136220955812120318.013489468西宁706656052788203787610.114629175银川1178711013214621271213421.913497193乌鲁木齐2250817137218812754

29、4118026.116509420南宁31886331683052030671593200037.8253126441海口264334373235073467920593418.8186481825资料来源：中国统计年鉴2004解：用spss对37个地区聚类分析的步骤如5.8题，不同的方法在第 4个步骤的Method子对话框中选择不同的 Cluster method 。I.Betwee n-group in kage （组间平均数连接距离）从上面的树形图可以直观地观察到，若用组间平均数连接距离将这些地区分为3类，则24 （深圳）独自为一类，10 （上海）和16 （厦门）为一类，剩余地区为一 类。2. Withi n-group lin