聚类分析与判别分析操作及案例

数理统计BSY1001243第17页北京航空航天大学研究生课程《数理统计B》论文地区生产总值的聚类分析与判别分析姓名：王青云学号：SY1001243授课教师：冯伟日期：2011-1-2地区生产总值的聚类分析与判别分析姓名：王青云学号：SY1001243摘要：为了了解全国各地区的经济类型，需要对地区进行分类，可以利用社会科学统计软件包(简称SPSS)对地区经济情况进行聚类分析和判别分析。该工作依据地区生产总值、第一产业、工业、建筑业、交通运仓储及邮电通讯业、批发零售贸易及餐饮业、金融保险业、房地产业八个指标对2009年全国31个省和直辖市的经济类型进行了聚类分析，将不同地区的经济类型划分类别；并随机抽取了北京、福建、山东三省进行判别分析。关键词：经济类型，聚类分析，判别分析，SPSS一引言人们认识事物时往往先把被认识的对象进行分类，以便寻找其中同与不同的特征，因而分类学是人们认识世界的基础科学。统计学中常用的分类统计方法主要是聚类分析与判别分析。聚类分析是直接比较各事物之间的性质，将性质相近的归为一类，将性质差别较大的归入不同的类。判别分析则先根据已知类别的事物的性质，利用某种技术建立函数式，然后对未知类别的新事物进行判断以将之归入已知的类别中。聚类分析与判别分析有很大的不同，聚类分析事先并不知道对象类别的面貌，甚至连共有几个类别也不确定；判别分析事先已知对象的类别和类别数，它正是从这样的情形下总结出分类方法，用于对新对象的分类[1]。二分析方法问题：根据地区各行业收入对全国各地区经济类型进行分类。方法：先进行聚类分析，再进行判别分析，采用SPSS软件进行。2009年全国31个省市的地区总产值、第一产业、工业、建筑业、交通运仓储及邮电通讯业、批发零售贸易及餐饮业、金融保险业、房地产业、其他行业表1所示[2]。2.1聚类分析在SPSS数据编辑窗口中输入表1中数据：表12009年地区生产收入地区地区生产总值第一产业第二产业第三产业工业建筑业交通运输和邮政业批发和零售业住宿和餐饮业金融业房地产业其他北京12153.03118.292303.08552.47556.641525.03262.511603.631062.474168.91天津7521.85128.853622.11365.73471.01836.84131.84461.2308.731195.54河北17235.482207.347983.86975.971491.921157.8247.14525.67612.42033.38山西7358.31477.593518.88474.92523.38557.86203.58361.64173.311067.15内蒙古9740.25929.64503.33610.67773.29915.89294.73291.1286.651134.99辽宁15212.491414.96925.63980.71790.561410.33318.8560.2605.272206.09吉林7278.75980.573054.6487.32341.76673.12157.73180.83200.141202.68黑龙江85871154.333549.73510.99433.55757.36211227.54301.181441.32上海15046.45113.825408.75593.03635.012183.85238.361804.281237.562831.79江苏34457.32261.8616464.942101.431423.253579.81678.361596.982025.394325.28浙江22990.351163.0810518.211390.28888.022119.39416.841899.331316.833278.36安徽10062.821495.454064.72840.5467.92733.19157.14359.6497.941446.36福建12236.531182.745106.38898.92751.421043.42235.98612.2656.611748.86江西7655.181098.663196.56722.89394.9553.89167.59165.1305.91049.69山东33896.653226.6416896.142005.691742.333106.24594.51044.91329.593950.63河南19480.462769.059900.271110.23823.571057.81526.51499.92622.982170.12湖北12961.11795.95183.68854.4642.72979.14337.81479.11546.112142.23湖南13059.691969.694819.4867.79704.831221.2304.93402.57400.112369.17广东39482.562010.2718091.561328.141595.343907.43945.762283.292470.636850.14广西7759.161458.492863.84517.7378.75551.14208336.82348.981095.45海南1654.21462.19300.63142.888.68168.7560.2265.73121.76243.45重庆6530.01606.82917.4531.37347.98524.36132.88389.97229.09850.16四川14151.282240.615678.241033.63520.71868.98405.45524.63548.142330.89贵州3912.68550.271252.67223.95399.77293.53153.41194.44136.15708.49云南6169.751067.62088.17494.36179.45571.03162.1351.74205.141050.16西藏441.3663.8833.11103.5221.1927.0614.723.1713.28141.45陕西8169.8789.643501.25735.17423.24707.39175.01336.21239.921261.97甘肃3387.56497.051203.7323.54213.64231.2188.5288.27101.37640.26青海1081.27107.4470.3310549.3266.1314.5445.6323.05199.87宁夏1353.31127.25520.38141.94114.7774.5225.5975.5447.56225.76新疆4277.05759.741555.84373.75209.095253.662.25198.87115.23748.67（2）定义聚类类型：在“Analyze”菜单“Classify”中选择Hierarchical命令，在弹出的HierarchicalClusterAnalysis对话框中，从对话框左侧的变量列表中选择地区变量，使之添加到LableCasesby框中，同样将指标第一产业，工业，建筑业，交通运仓储及邮电通讯业，批发零售贸易及餐饮业，金融保险业，房地产业，其他行业添加到Variable（s）框中。在Cluster栏中选择聚类类型“Cases”，在Display中选择显示内容，为系统默认选项。（3）设置统计量的值：单击Statistics按钮，打开Statistics对话框，同时选中对话框上方的聚类进度“Agglomerationschedule”和相似性矩阵“Proximitymatrix”选项，同时选中ClusterMembership中的Rangeofsolutions，选择3到5。（4）设置输出图表：单击Plots按钮，打开Plots对话框，选中树枝图。（5）选择聚类方法：单击Method按钮，打开Method对话框，选择默认的Between-groupslinkage（即组间连接法），Interval中也选择默认选项（二元变量欧氏距离）。TransformValues中的Standardize选择z-cores。（6）单击OK，即可得到SPSS聚类分析的分析结果。表2为数据汇总表，是Processing过程中的输出信息，即数据的基本信息。31个样本参与分析，没有缺失值。表2数据汇总表案例处理摘要a案例有效缺失合计N百分比N百分比N百分比31100.0%00.0%31100.0%a.平方Euclidean距离已使用表3是使用两组间的连接统计量进行聚类的详细过程。有31个样本，经30步聚类。Stage：聚类步骤；Cluster1，Cluster2：该步被合并的两类中的样品号或类号，合并结果取小的序号。StageClusterfirstappears：非零数值表示合并两项前一次出现的聚类步序号，而0表示第一次出现。NextStage：表示合并结果在下一步合并时的步序号[2]。表4、5为聚类结果，分别为分类表（表4）和树状图（表5）。由以上树状图可以看出，如若将全国各省和直辖市的经济类型分为三类，则分类如下：（Ⅰ）北京、上海、浙江；（Ⅱ）辽宁、湖北、湖南、福建、四川、青海、宁夏、海南、西藏、贵州、甘肃、重庆、新疆、云南、安徽、黑龙江、山西、内蒙古、吉林、江西、陕西、广西、天津、河北、河南；（Ⅲ）江苏、山东、广东。若将全国各省和直辖市的经济类型分为四类，则分类如下：（Ⅰ）北京、上海、浙江；（Ⅱ）辽宁、湖北、湖南、福建、四川、青海、宁夏、海南、西藏、贵州、甘肃、重庆、新疆、云南、安徽、黑龙江、山西、内蒙古、吉林、江西、陕西、广西、天津、河北、河南；（Ⅲ）江苏、山东；（Ⅳ）广东。而若将全国各省和直辖市的经济类型分为五类，则分类如下：（Ⅰ）北京、上海、浙江；（Ⅱ）青海、宁夏、海南、西藏、贵州、甘肃、重庆、新疆、云南、安徽、黑龙江、山西、内蒙古、吉林、江西、陕西、广西、天津；（Ⅲ）河北、辽宁、福建、河南、湖南、湖北、四川；（Ⅳ）江苏、山东；（Ⅴ）广东。表3数据聚类表聚类表阶群集组合系数首次出现阶群集下一阶群集1群集2群集1群集212629.02000222630.06010732831.1690010478.23400951718.256001561427.28100972126.28902178422.35900139714.4024612102428.4490317112025.554001212720.580911161324.621081814613.6690019151723.7645019167121.055120181721241.1307102218271.443131620196171.49314152320251.6871802221191.9490026222213.635201727236164.0881902424364.543023272510154.5640028261118.09821029272310.35522242928101914.49825030291218.5382627303011061.97829280表4分类表群集成员案例5群集4群集3群集1:北京市1112:天津市2223:河北省3224:山西省2225:内蒙古自治区2226:辽宁省3227:吉林省2228:黑龙江省2229:上海市11110:江苏省43311:浙江省11112:安徽省22213:福建省32214:江西省22215:山东省43316:河南省32217:湖北省32218:湖南省32219:广东省54320:广西壮族自治区22221:海南省22222:重庆市22223:四川省32224:贵州省22225:云南省22226:西藏自治区22227:陕西省22228:甘肃省22229:青海省22230:宁夏回族自治区22231:新疆维吾尔自治区222表5树枝图2.2判别分析判别分析也是一种数据的分析方法。在生产活动、经济管理、科学实验甚至日常活动中，人们常常需要判定所研究问题的归属问题。例如经济分析中根据一个国家或地区的若干经济指标，判断该国家或地区经济发展的程度和状态。在事先已经建立了样品分类，需要将新样本归入到已知分类的样本组中时，就可以使用判别分析。判别分析是先根据已知类别的事物的性质（自变量），建立函数式（自变量的线性组合，即判别函数），然后对未知类别的新事物进行判断以将之归入已知的类别中。通常使用的判别分析方法有：距离判别法、Bayes判别法以及Fisher判别法等方法。本文中将使用SPSS17.0的Classify→Discriminate程序随机选取北京、福建、山东省份进行判别分析，以确定这些地区所属的经济类型。本文使用的Fisher判别法的函数系数列表如表6，从表6可列各类的Fisher判别函数，输入相关经济指标就可以判别其它市的经济类型。表6Fisher判别函数（分类函数系数表）分类函数系数V121.002.003.004.00生产总值.014-.001.008.048第一产业-.003.002-.018-.058工??业-.012.000-.004-.027建筑业-.053.014-.011-.201交通运输和邮政业-.027.007-.030-.106批发和零售业-.027.005.023-.064住宿和餐饮业-.012.014-.064-.162金融业.063.014-.055.016房地产业-.081-.001.024.010(常量)-100.574-4.267-57.196-216.965Fisher的线性判别式函数设：地区生产总值=X1，第一产业=X2，工业=X3，建筑业=X4，交通运输和邮政业=X5，批发和零售业=X6，住宿和餐饮业=X7，金融业=X8，房地产业=X9。Y1＝0.014X1－0.003X2－0.012X3－0.053X4－0.027X5－0.027X6－0.012X7+0.163X8－0.081X9－100.574Y2＝－0.001X1+0.002X2+0.014X4+0.007X5+0.005X6+0.014X7+0.014X8－0.011X9－4.267Y3＝0.008X1－0.018X2－0.004X3－0.011X4－0.030X5+0.023X6－0.064X7－0.055X8+0.024X9－57.196Y4＝0.048X1－0.058X2－0.027X3－0.201X4－0.106X5－0.064X6－0.162X7－0.016X8+0.010X9－216.965将北京、福建、山东省份的指标代入四个判别函数，判别函数值最大函数所属类别即为这个省份的分类。经判别可知北京属于第一类，福建属于第二类，山东属于第三类。表7为分类结果表，图1为分类散点图。表7分类结果表分类结果b,cV12预测组成员合计1.002.003.004.00初始计数1.00200022.0002400243.00001014.0000011%1.00.0100.02.00.0100.03.00.0.0100.0.0100.04.0100.0100.0交叉验证a计数1.00200022.0002400243.00100014.0010001%1.00.0100.02.00.0100.03.00.0100.04.00.0100.0a.仅对分析中的案例进行交叉验证。在交叉验证中，每个案例都是按照从该案例以外的所有其他案例派生的函数来分类的。b.已对初始分组案例中的100.0%个进行了正确分类。c.已对交叉验证分组案例中的92.9%个进行了正确分类。图1分类散点图从表8判别结果可见，9、14分别是江苏和湖北出现错判，从2.2聚类分析可以看出，北京，福建和山东是比较有代表性的省份，所以在缺少的情况下进行判别分类，造成的误判也是可能的。分析与结论：将全国各省和直辖市的经济类型分为四类，则分类如下：（Ⅰ）北京、上海、浙江；（Ⅱ）辽宁、湖北、湖南、福建、四川、青海、宁夏、海南、西藏、贵州、甘肃、重庆、新疆、云南、安徽、黑龙江、山西、内蒙古、吉林、江西、陕西、广西、天津、河北、河南；（Ⅲ）江苏、山东；（Ⅳ）广东。表8判别结果按照案例顺序的统计量案例数目最高组第二最高组判别式得分P(D>d|G=g)实际组预测组pdfP(G=g|D=d)到质心的平方Mahalanobis距离组P(G=g|D=d)到质心的平方Mahalanobis距离函数1函数2函数3初始122.06731.0007.1611.000128.851-.039-.888-.362222.93131.000.4441.000206.8482.970-.630.058322.55331.0002.0971.000193.5452.496-1.605-.051422.07631.0006.8801.000238.4293.3891.6541.773522.07531.0006.9091.000147.418.4761.499-.137622.81131.000.9591.000222.3823.450.011.231722.94331.000.3881.000196.9372.452-.382.693811.72631.0001.3133.000160.071-12.153-1.102-2.5589331.00031.000.0001.000160.131-12.80411.089.7631011.72631.0001.3133.000162.819-10.035-.678-3.3231122.12631.0005.7271.000166.2811.4621.512-1.2491222.17331.0004.9821.000213.3333.0401.900-.5341322.00731.00012.0001.000219.9242.210-.0773.5611422.42731.0002.7811.000155.366.996-.899.0921522.47831.0002.4861.000231.4633.896-.732-.34116441.00031.000.0001.000238.882-24.869-5.3162.4941722.86731.000.7271.000198.0702.405.019.9371822.76731.0001.1421.000205.6672.655.569.8681922.85231.000.7891.000184.7692.277.110-.7062022.42531.0002.7901.000168.8431.575-1.541-.1262122.46231.0002.5771.000205.0242.729-1.633.7192222.88731.000.6391.000214.1223.250-.127-.1492322.97531.000.2171.000204.3082.891-.365-.0332422.35831.0003.2281.000206.0293.098.603-1.3982522.84731.000.8091.000210.6803.180-.552-.3272622.95831.000.3131.000202.6782.820-.618.0602722.96731.000.2651.000198.6222.704-.594-.0842822.38231.0003.0611.000216.8373.481-1.228-.870交叉验证a122.00181.00026.6641.000180.076222.00081.000243.3651.000553.934322.22181.00010.6681.000192.122422.00081.00044.9973.000351.415522.03681.00016.4581.000165.427622.65881.0005.9051.000233.412722.98181.0001.9921.000190.404811.00081.00066.1313.000166.874931**.00081.000160.1312.000361.15310