主成分分析法

主成分分析法第1页，共28页，2023年，2月20日，星期日概念：把原来多个变量划为少数几个综合指标的一种统计分析方法，是一种降维处理技术.

主成分分析法

一个研究对象，往往是多要素的复杂系统。变量太多无疑会增加分析问题的难度和复杂性，利用原变量之间的相关关系，用较少的新变量代替原来较多的变量，并使这些少数变量尽可能多的保留原来较多的变量所反应的信息，这样问题就简单化了。第2页，共28页，2023年，2月20日，星期日研究对象要素x1x2…xj…xp12…i…nx11x12…x1j…x1px21x22…x2j…x2p………………xi1xi2…xij…xip

………………xn1xn2…xnj…xnp

假设有n个对象，每一个对象都有x1，x2，…，xp个要素构成，它们所对应的要素数据用下表给出：一、基本原理第3页，共28页，2023年，2月20日，星期日

原变量为x1，x2，…，xp，降维处理后，设它们的综合指标，即新变量为z1，z2，z3，…，zm(m≤p)，则第4页，共28页，2023年，2月20日，星期日系数lij由以下原则确定1、zi与zj(i≠j；i，j=1，2，…，m)相互无关2、z1是x1，x2，…，xp的一切线性组合中方差最大者；z2是与z1不相关的x1，x2，…，xp的所有线性组合中方差最大者；………..；zm是与z1，z2，z3，…，zm-1都不相关的x1，x2，…，xp的所有线性组合中方差最大者。第5页，共28页，2023年，2月20日，星期日z1称为原变量x1，x2，…，xp的第一主成分Z2称为原变量x1，x2，…，xp的第二主成分

……………..zm称为原变量x1，x2，…，xp的第m主成分

找主成分zi就是要确定系数lij。从数学上知道，它们分别是x1，x2，…，xp的相关系数矩阵的m个较大的特征值所对应的特征向量。第6页，共28页，2023年，2月20日，星期日二、主成分分析的计算步骤相关系数计算公式1、计算相关系数据公式得这p个变量之间的相关系数矩阵为第7页，共28页，2023年，2月20日，星期日分别求出对应于λi的特征向量ei(i=1，2，…，p)2、计算特征值和特征向量解特征方程|λE-R|=0求出特征值λi(i=1，2，…，p)将这P个特征值按大小顺序排列，即λ1≥λ2≥…≥λp≥0然后按公式|λiE-R|ei=0第8页，共28页，2023年，2月20日，星期日主成分zi的贡献率为前i个主成分的累计贡献率为3、计算主成分贡献率及累计贡献率

当前i个主成分累计贡献率达到85%——95%，就取前i个主成分作为新变量。第9页，共28页，2023年，2月20日，星期日

4、计算主成分载荷计算公式为得前i个主成分在原变量上的载荷原变量xi主成分Z1Z2…Zix1x2…xpl11l12…l1pl21l22…l2p…………li1li2…lip第10页，共28页，2023年，2月20日，星期日三、主成分分析方法的SPSS实现对45个城市7项经济指标进行主成分分析1、数据导入到数据窗口中，定义各变量，确保各变量均为数值型。第11页，共28页，2023年，2月20日，星期日2、激活Analysis菜单选DataReduction

的Factor...命令项，弹出FactorAnalysis

对话框。在对话框左侧的变量列表中选变量X1至X7，点击钮使之进入Variables框。第12页，共28页，2023年，2月20日，星期日Descriptives...钮变量的均数与标准差相关系数矩阵第13页，共28页，2023年，2月20日，星期日Extraction...钮：因子提取方法主成分分析法未加权最小平方法极大似然估计法第14页，共28页，2023年，2月20日，星期日指定分析矩阵提取结果与因子提取有关的输出项迭代次数第15页，共28页，2023年，2月20日，星期日Rotation...钮：因子旋转方法旋转的目的是为了获得简单结构，以帮助我们解释因子不作因子旋转正交旋转第16页，共28页，2023年，2月20日，星期日Scores...钮：估计因子得分系数的方法第17页，共28页，2023年，2月20日，星期日结果解释均数与标准差第18页，共28页，2023年，2月20日，星期日相关系数矩阵Bartlett检验Bartlett值=313.417，P<0.0001，即相关矩阵不是一个单位矩阵，故考虑进行因子分析。第19页，共28页，2023年，2月20日，星期日特征值、贡献率及累积贡献率第20页，共28页，2023年，2月20日，星期日主成分载荷第21页，共28页，2023年，2月20日，星期日因子得分第一主成分第二主成分第22页，共28页，2023年，2月20日，星期日三、实例1：对中国大陆31个省（市、区）的第三产业综合发展水平进行主成分分析。1、构建评价第三产业综合发展水平的指标体系，并对原始数据进行标准化处理。这里用于评价第三产业综合发展水平的指标有人均GDP→

x1

人均第三产业增加值→

x2

第二产业增加值比重→

x3

第三产业增加值比重→

x4

第三产业从业人员比重→

x5

第三产业固定资产投资比重→

x6

城市化水平→

x7第23页，共28页，2023年，2月20日，星期日2、计算各指标之间的相关系数矩阵第24页，共28页，2023年，2月20日，星期日3、计算出相关系数矩阵的特征值主成分zi特征值λi贡献率（%）累计贡献率（%）Z1Z2Z3Z4Z5Z6Z74.1981.2261.0360.2680.1740.09610.0028759.97217.50714.7943.8322.4821.3730.041159.97277.47992.27396.10598.58699.959100从上表知：前三个主成分累计贡献率达92.273%，因此，这三个主成分Z1、Z2、Z3能够充分反映31个区域第三产业发展的综合水平。第25页，共28页，2023年，2月20日，星期日4、计算主成分载荷原变量xi主成分载荷lij第一主成分l1i第二主成分l2i第三主成分l3jx1x2x3x4x5x6x70.9460.9710.2200.7950.930-0.07630.8990.1390.02250.945-0.5140.00086-0.220.03320.1230.10.162-0.0910.07020.967-0.187第26页，共28页，2023年，2月20日，星期日3、第三主成分在第三产业固定资产投资比重x6上有较大的载荷，这说明对第三产业的投资是第三产业可持续发展的重要支撑。从上表可知：1、第一主成分在人均GDPx1、人均第三产业增加值x2、第三产业从业人员比重x5、城市化水平x7上具有很大的载荷，这些原变量几乎包含了第三产业的主要指标。因此，第一主成分在一定程度上就代表了第三产业的综合发展水平。2、第二主成分在第二产业增加值比重x3上有较大的载荷，表明第二主成分在一定程度上代表工业化程度。第27页，共28页，2023年，2月20日，星期日5计算各省区在一二三主成分上的综合得分序号得分区域第一主成分L1第二