如何有效利用主成分分析进行综合评价

如何有效利用主成分分析进行综合评价摘要：由于主成分分析在多元统计分析中的降维作用，使之在社会、经济、医疗、生化等各领域运用越来越广泛，但由于传统主成分分析方法的局限性导致了一些问题的产生。这些问题吸引了许多领域专家的关注，并具有针对性的提出了一些不同的改进方法。本文介绍了主成分分析的基本和性质，并整理了近年来主成分分析在综合评价应用中遇到的普遍问题并整理验证了认同率较强的一些改进方法，以供大家研究学习。关键词：主成分分析；综合评价；均值化1引言1.1研究的背景和意义随着生产力的不断进步，生产方式由外延式扩张转化为追求经济效益的内涵式发展，以致在生产过程中必须考虑经济效益的各个方面，如生产力水平、技术进步、资源占用等情况,并需要就综合各方面的因素进行综合评价。评价是根据确定的目的来测定对象系统的属性，并将这种属性变为客观定量的计值或者主观效用行为，整个过程离不开评价者的参与，而综合评价作为评价的一种也需要评价者做出相应反应或指示，而很多综合评价过程易受到评价者的干预，使评价结果产生偏差。主成分分析能将高维空间的问题转化到低维空间去处理【9】使问题变得比较简单、直观，而且这些较少的综合指标之间互不相关，又能提供原有指标的绝大部分信息。而且，伴随主成分分析的过程，将会自动生成各主成分的权重，这就在很大程度上抵制了在评价过程中人为因素的干扰，因此以主成分为基础的综合评价理论能够较好地保证评价结果的客观性，如实地反映实际问题。主成分综合评价提供了科学而客观的评价方法，完善了综合评价理论体系，为管理和决策提供了客观依据，能在很大程度上减少了上述不良现象的产生。所以在社会经济、管理、自然科学等众多领域的多指标体系中，如节约型社会指标体系、生态环境可持续型指标体系、和谐社会指标体系、投资环境指标体系等，主成分分析法常被应用于综合评价与监控【6】综上所述，对综合评价指标体系理论进行研究，既有理论上的必要性，更有实践中的迫切性。1.2研究的发展史基于主成分分析的综合评价以主成分分析为理论基础，以综合评价为主线，着眼于作出合理公正的综合评价。以下从综合评价和主成分分析两个方面来讨论主成分综合评价的发展史。1.2.1综合评价的发展史综合评价是伴随着人类文明的产生、发展而产生、发展的。其基本思想是将反映研究对象数量特征的多个指标转化为一个综合指标，并据以对各个具体评价对象进行排序比较，从而做出好坏优劣的评价结论。1888年，艾奇沃斯(Edgeworth)发表了论文《考试中的统计学》提出了对考生中的不同部分应如何加权。1913年，斯皮而曼(sPe〜an)发表了《和与差的相关性》一文，讨论了不同加权的作用。在20世纪30年代，瑟斯通(Thurstone)和利克特(Likert)又对定性记分方法的工作给予了新的推动。20世纪60年代，美国学者查德(L•A•zadaen)模糊集合理论，为模糊综合评价法奠定了基础。20世纪70一80年代，是现代科学评价蓬勃兴起的年代。在此期间，产生了多种应用广泛的评价方法，诸如ELECTRE法(1971—1977,1983)、多维偏好分析的线性规划法(LINMAP，1973)、层次分析法(AHP，1977)、数据包络分析法(DEA,1978)、逼近于理想解的排序法(TOPSIS，1981)等【7】。1.2.2主成分分析的发展史主成分分析，首先是由英国的皮尔生(Kar卜Pearson)对非随机变量引入的，而后美国的数理统计学家赫特林(Harold.HoteHing)在1933年将此方法推广到随机向量的情形团⑻。主成分分析的降维思想从一开始就很好地为综合评价提供了有力的理论和技术支持。20世纪80~90年代，是现代科学评价在我国向纵深发展的年代，人们对包括主成分综合评价在内的评价理论、方法和应用开展了多方面的、卓有成效的研究，主要表现为:常规评价方法在国民经济、生产控制和社会生活中的广泛应用;多种评价方法的组合研究，综合应用及比较;新评价方法的研究和应用;评价方法的深入研究，如:评价属性集的设计、标准化变换、评价模型选择等等。1.3主成分做综合评价的研究现状目前国内外关于综合评价的方法很多，在根据各指标间相关关系或各指标值的变异程度来确定权重系数的方法中，主成分分析法是应用尤为广泛。在使用该方法的早期，大多都是按照传统的主成分分析法做综合评价的步骤来计算综合得分来对样品排序，即利用主成分耳，F2，…，F做线性组合，并以每个主成分F.的方差贡献率a.作为权重系数来构造一个12mii综合评价函数：

Y=aiFi+讥+„+amFm然而，随着传统主成分分析方法在综合评价中的进一步应用，人们发现此方法时经不起实践检验的。在实际应用中，经常发现运用此方法所得结果的解释往往与实际情况不符。举了一个简单的例子，假定高考中考试科目有四门：数学(X])、语文(x2)、外语(x3)和物理(x4),满分都是相同的150分。考生的四门考试成绩必须综合成一个综合评价函数，一般取为总分工X。但从统计学的角度来看，可能取为工X*更为合理，这里x.*是x.的标准化数值(x]*、111i=1i=1x2*、x3*、x4*有相同的均值和标准差)。如果我们使用传统的主成分分析法，根据上述综合评价函数F的得分来对学生进行排名，那就酿成大错了。就此，一些学者提出了一些改进的方法，其中具有代表性的方法有：Yrn(1998)提出，当第一主成分的方差比较大时，即贡献率较大时，用它做综合评价指标。如果觉得用一个主成分解释的方差不够大时，综合反映X1，X2，„，X信息的能力不够，而用多个主成分12p构造综合评价函数又不合适时，可以像因子分析那样对主成分进行旋转。Hou(2006)也提出，当用第一主成分进行综合评价达不到理想结果时，可用分组主成分评价法。即先用因子分析法将p个变量分成k组，然后分别对各组变量进行主成分分析，只取每组的一主成分，求出九j各组第一主成分的得分C.(j=1,2,…,k)以因子旋转后各因子的放差贡献率为权重Wj=J亡九丿j=1建立综合评价函数：z=丈WjCj。最后根据各评价样本综合得分y来对样品进行排序。但其可行性也受到了一些学者的质疑【4】。由此可见，主成分综合评价法是一片有待进一步深耕细作的热土。2关于主成分分析基本知识2.1主成分分析设要进行主成分分析的原指标有p个，记作x1，x2，…，x。现有n个样品，相应12的观测值为x.k，I=1,2,„,n,而k=1,2,„，p。ik作标准化变换后，将Xk变换为Xk*，即Skk=1,2,…，Skk=1,2,…，m.式中，Xk及Sk分别是Xk的均值及标准差，xk*的均值为0、标准差为1.kk主成分分析的原理是:mvp).根据各样品原指标的观测值x，k或标准化变换后的观测值x，k*求出系数ikmvp).aik(k=1,2,„,p,j=1,2,...,m，建立用标准化变换后的指标xk*表示综合指标Fj的方程Fj=工akjxk*，也可建立用原指标X原指标Xk表示综合指标FJ的方程Fj=工akjxk*。k对系数a,k由下列原则决定:ik⑴各个综合指标Fj彼此独立或不相关;(2)各个综合指标Fj所反映的各个样品的总信息等于原来p个指标Xk*所反映的各个样品的总信息，即p个FJ的方差入.之和等于p个Xk*的方差之和,也就是Dj=P且入1三入2…三入p。j称上述彼此独立或不相关又不损失或损失很少原有信息的各个综合指标。y.为原指标J的主成分•其中，第一综合指标气的方差最大，吸收原来p个指标的总信息最多，称第一主成分；第二综合指标f2的方差次之，吸收原来p个指标的总信息次之，称为第二主成分;同理，F3f4„f分别称为第三主成分、第四主成分第p主成分。【9】34p2.2主成分分析能否旋转2.2.1主成分分析与因子分析的联系与区别相当数量的应用文章对主成分分析与因子分析不加严格区分，因而对分析结果的解释非常模糊。文献【1】认为主成分分析与因子分析两者之间有联系，但也存在着明显的区别。从联系上看，主成分分析和因子分析都是将多个相关变量(指标)转化为少数几个不相关变量的一种多元统计分析方法。其目的是使在高维空间中研究样本分布规律的问题，通过降维得到简化，并尽量保留原变量的信息量。两者都有消除相关、降维的功能。主成分分析是通过变量变换把注意力集中到具有最大变差的那些主成分上，而视变量不大的主成分为常数予以舍弃；因子分析是通过因子模型把注意力集中到少数不可观测的公共；而p.p因子上，而舍弃特殊因子。主成分个数与公共因子个数的选择准则通常是相同的。主成分分析中主成分向量Y与原指标向量X的表达式为Y=LTX,式中；而p.pij因子分析中的因子模型为X=AF+£，其中£为特殊因子，A=^a)，当D《)=0时,p.m0可采用主成分分析法估计A阵，则a二*厂l。ij“jij对主成分分析中的主成分与因子分析中的公共因子的含义均需进行明确解释，否则，会遇到应用上的困难。虽然主成分分析法与因子分析法有着密切的联系，但从应用上更需关注的是它们之间的区别。1、主成分分析的实质是P维空间的坐标旋转，并不改变样本数据结构，不能作为模型来描述；因子分析的实质是P维空间到M维空间的一种映射，需构造模型。2、主成分的个数与原变量个数相等，而公因子的个数小于原变量的个数。3、主成分分析是把主成分表示为原变量的线性组合，因子分析是把原变量表示为公共因子和特殊因子的线性组合。4、主成分分析由可观测的变量X直接求的主成分Y,并可逆；因子分析只能通过可观测的原变量去估计不可观测的公共因子F,不能用X表示F。5、主成分分析中的L阵是唯一的正交阵；因子分析中的A阵不唯一，也不一定是正交阵。6、主成分分析主要应用在综合评价和指标筛选上；因子分析除这两个作用以外，还可以应用于对样本或变量的分类。2.2.2能否对主成分实施旋转对于主成分能否进行旋转这一问题，很多研究学者认为，当主成分不能很好解释综合评价结果时，可以像因子分析那样进行正交旋转，从而使主成分得到更好的解释。关于主成分能否旋转的问题，文献【1】【4】【5】【7】【8】均做了论证，发现这种方法是不可行的。论证具体如下：主成分分析的实质是对原始指标变量进行线性变换，即F=XA,其中A二')jp.p显然A为正交矩阵，如果对主成分进行旋转，则有：x=fat=flltAt=FAt其中L是正交矩阵。由于X矩阵不变，其相关矩阵R对应的特征根和单位特征向量也不变，即说明矩阵A具有唯一性。由上式知：如果主成分能旋转则说明矩阵A不是唯一的。从而我们可以得出：主成分不能进行旋转。

3主成分分析做综合评价的局限性与改进方法3.1传统主成分分析做综合评价的一般步骤(1)将原始数据标准化。将各样品指标值(1)将原始数据标准化。将各样品指标值xi按Xx^2式转化成标准化指标iX,其中，E(Xj)和D(Xi)分别是Xj的均值和方差。Xj的均值是0方差是1.(2)求各标准化指标(2)求各标准化指标Xj的两两相关系数j并写出相关系数矩阵R二［r］。ijpxp其中，r二1£xxx(i,j=1,2,„,p)ijn—1ijijt=1(3)求相关矩阵的特征根入「(：=1,2,…，p),

将其由大到小排序。入J三入2*…三入p*九*三0,称a——i—为第i个主成分F,的贡献率;

ipi

£九i日为前m个主成分耳，F2，…，F的累p12m计贡献率。由累积方差贡献率确定主成分的个数m(mWp)，求出入i*(i=1,2，…，m)对应的贡献率、累计贡献率。求各个主成分片与标准化指标Xi*对应的系数关系。求各例样品在m个主成分的得分y1,y2,„，y.m。求各样品综合得分y,并排列名次。3.2主成分分析的局限性3.2.1第一主成分未必能用于综合评价文献【8】通过论证指出，主成分贡献率的大小反映的是该主成分包含原始数据的信息量的大小，这种信息不一定指的是综合水平，也有可能指的是变量间的差异性。对于有些情况做综合评价，如一个班同学的综合排名，用于综合评价的需是水平因子，但只考虑第一主成分的话，得到的会是一个形状因子，所以在这种情况下，第一主成分贡献率再高，用于综合评价也是不合理的。3.2.2主成分分析标准化的不足文献【2】【3】【7】等文献指出，原始数据保含两部分信息：一部分是个指标变异程度的差异信息；另一部分是个指标间相互影响程度上的相关信息。但在主成分分析过程中，为了消除指标纲量和数量级的影响往往对原始数据进行标准化：

x一xx-ijj,i=1,2,…,n；j=1,2,…,pijs其中x=—Yx,s2=—£x-x),j=1,2,…，p。ijnkjjn—1©jk=1k=1由此可以看出标准化使各指标的方差全为1,在消除量纲和数量级影响的同时，也消除了各指标变异程度上的差异信息。而从标准化后的数据提取的主成分，即从相关系数矩阵来计算主成分，实际上只包含了各指标间相互影响这一个方面的信息，所以不能准确反映原始数据所包含的全部信息。3.2.3“线性”相关度的不足文献【3】指出，主成分分析只是一种“线性”降维技术，之梦处理线性问题：一方面主成分是原始指标的线性组合，另一方面对原始数据进行标准化处理，是协方差矩阵变成相关系数矩阵，而相关系数矩阵矩阵只能反映指标间的“线性”相关程度。研究实际问题时，不仅指标见有非线性关系，有时主成分与原始数据之间也呈非线性关系，如果简单地进行先行处理，必然导致评价结果的偏差。3.3关于主成分分析做综合评价的改进3.3.1可用于综合评价的主成分的条件在用主成分分析做综合评价的改进时，对选择第一主成分还是多个主成分现在任有一定的分歧，就此问题许多学者都做了研究探讨小⑺⑻，过程如下：当(Xi1当(Xi1当(Xi1，Xi2点；若(X,1,x.2i1i2，Xi2…，X.)>(Xk1,Xk2,„,Xk)时，称第i个样本点优于第k个样本点;ipk1k2kp…，Xip)2(Xk1,Xk2，…，Xkp)时，称第i个样本点不劣于第k个样本„，Xip)2(Xk1,Xk2,„，Xkp)^Xk1,Xk2,„，Xkp)2(Xi1，Xi2，…,x.)同时成立，称第i个样本点无异于第k个样本点。ip定义若综合评价得分y是有序的，当且仅当yi三ykyi三yk(其中yi是第i个样本点的综合得分i=1,2,„,n)时，有%,Xi2三(Xk1,Xk2,„,Xkp),否则称y是无序的。P厂y、1y2„,Xip)将y改写成一般形式如下：y==工atXa=Xjjjj=1£、厶atajjjj=1丿Iy丿n上式中tj可取-1,1或0(0表示不选择第j个主成分)，由上式得：综合评价得分y对应

于指标X.的权数为于指标X.的权数为刀iata。由于各指标是正向指标，我们可以得到如下定理。jjijj=1丿ata三o,i=l,2,…,p。jjij定理综合评价得分y是有序的，当且仅当'j=i丿由上述推导可知，要想第一主成分能有效用于做综合评价，则按第一主成分做综合评价的得分值y必须是有序的，当且仅当州三0,j=1,2,„,p。即第一主成分的系数均为正值时，第一主成分做综合评价的取值y才是有序的，此时才可以用第一主成分做综合评价，否则不行。类似地，还可以令t.=1,其它为0的情况，可得到第i主成分有序的充要条件是a„三0,11Jj=1,2,„,p。3.3.2均值法的应用由于传统主成分分析无量纲化，即标准化处理会导致原始信息的丢失，许多学者就此思考了改进方法，并大多注意到了协方差举证能够完整的反映原始数据的信息；协方差矩阵的主对角线上的元素恰好为个指标的方差，而非主对角线上的元素则包含了各指标间的相关系数的信息。所以对数据的均值化处理【1-8】是大家普遍认同的一个对主成分分析较好的改进方法。方法如下：设有n个被评价的对象，及p个指标，原始数据为X=（x），各指标的均值为x.ijnxp1x均值化就是用各指标的原始数据除以相应的均值，即y=亠,i=1,2,„,n；j=1,2,„,pijxij其中x=-zx，j=1,2,…,p，得到均值化数据矩阵Y=C）nxpjnnxpk=1设Y=（丫1，Y2，„，Yp）的协方差矩阵为U=（uij）pXp,因为Y中每个向量的均值为Lki-yi丄工n—ki-yi丄工n—1k=1L—1丫亠1xi人X—F=丄工(y—1Xy—1)kjjn—1kkj1工(—x)(—r)xj丿n一1kiikjjsk==ijxxxxijij其中S|j为原始数据的协方差，i,j=l,2,L,p•特别地為二°j)，即均值化数据的协方差i矩阵主对角线元素为各指标见变异系数的平方。设均值化数据各指标的相关系数为r*，则ijTOC\o"1-5"\h\zusr*=j=■—u—=■=r，ijWpu..Ys'S..ijii]jiiIj其中r为原始指标间的相关系数，由上可以得到：均值化不改变各指标间的相关系数,ij相关系数矩阵的所有信息都在相应的协方差矩阵中得到了反映。3.3.3对原始数据的非线性化根据主成分分析中“线性”相关度的缺点，文献【2】【3】提出了非线性主成分分析方法的一种——对数中心化，其基本方法是：1、对原始数据作中心对数化变换：y=logx-—才logxijyjp“i=12、计算对数中心化的样本协方差矩阵2、计算对数中心化的样本协方差矩阵S=()ijpxpSij=n-1g（yii-yi人j-yjSij=13、从S出发求主成分设入]三入2三…三入P是S的P个特征根，ai?a2…ap是相应的标准化特征向量，则第i个非线性主成分为F=£alogxjijj=i从上述分析可知，非线性主成分分析与传统主成分分析相比有两处改进：一是通过对原始数据作对数中心化变换，将主成分表示为原始数据的非线性组合；二是分析的出发点是协方差矩阵，不再是相关系数矩阵。通过这两处的的改进，会明显提高降维效果，用更少的主成分更多的反映原始指标的信息。4实例分析本文采用SPSS15.0为数据分析工具，以某高校学生在校期间的各科学习成绩为样本，运用改进的合理选取主成分的方法对每位学生的三项指标的原始数据进行分析比较。样本如原始主成分分析原始主成分分析均值化主成分分析改进主成分分析表1所示:学生高数成绩外语成绩专业课成绩18011110327678104学生高数成绩外语成绩专业课成绩36214078411012098510211167611584897678910288798110989959910911391091115010011712140125831312378751410497109151059012716741996176586791889809619917710620100102110表1学生成绩首先对原始数据进行均值化处理，再用优化指标的协方差矩阵代替相关系数矩阵进行分析，计算结果如表2：表2：数据计算表特征值方差贡献率累计贡献率特征值方差贡献率累计贡献率特征值方差贡献率累计贡献率11.87720.37540.037540.06550.41140.41140.05580