主成分分析法.ppt

主成分分析法 概念 把原来多个变量划为少数几个综合指标的一种统计分析方法 是一种降维处理技术 主成分分析法 一个研究对象 往往是多要素的复杂系统 变量太多无疑会增加分析问题的难度和复杂性 利用原变量之间的相关关系 用较少的新变量代替原来较多的变量 并使这些少数变量尽可能多的保留原来较多的变量所反应的信息 这样问题就简单化了 假设有n个对象 每一个对象都有x1 x2 xp个要素构成 它们所对应的要素数据用下表给出 一 基本原理 原变量为x1 x2 xp 降维处理后 设它们的综合指标 即新变量为z1 z2 z3 zm m p 则 系数lij由以下原则确定 1 zi与zj i j i j 1 2 m 相互无关 2 z1是x1 x2 xp的一切线性组合中方差最大者 z2是与z1不相关的x1 x2 xp的所有线性组合中方差最大者 zm是与z1 z2 z3 zm 1都不相关的x1 x2 xp的所有线性组合中方差最大者 z1称为原变量x1 x2 xp的第一主成分Z2称为原变量x1 x2 xp的第二主成分 zm称为原变量x1 x2 xp的第m主成分 找主成分zi就是要确定系数lij 从数学上知道 它们分别是x1 x2 xp的相关系数矩阵的m个较大的特征值所对应的特征向量 二 主成分分析的计算步骤 相关系数计算公式 1 计算相关系数 据公式得这p个变量之间的相关系数矩阵为 分别求出对应于 i的特征向量ei i 1 2 p 2 计算特征值和特征向量 解特征方程 E R 0 求出特征值 i i 1 2 p 将这P个特征值按大小顺序排列 即 1 2 p 0 然后按公式 iE R ei 0 主成分zi的贡献率为 前i个主成分的累计贡献率为 3 计算主成分贡献率及累计贡献率 当前i个主成分累计贡献率达到85 95 就取前i个主成分作为新变量 4 计算主成分载荷 计算公式为 得前i个主成分在原变量上的载荷 三 主成分分析方法的SPSS实现 对45个城市7项经济指标进行主成分分析 1 数据导入到数据窗口中 定义各变量 确保各变量均为数值型 2 激活Analysis菜单选DataReduction的Factor 命令项 弹出FactorAnalysis对话框 在对话框左侧的变量列表中选变量X1至X7 点击钮使之进入Variables框 Descriptives 钮 变量的均数与标准差 相关系数矩阵 Extraction 钮 因子提取方法 主成分分析法 未加权最小平方法 极大似然估计法 指定分析矩阵 提取结果 与因子提取有关的输出项 迭代次数 Rotation 钮 因子旋转方法 旋转的目的是为了获得简单结构 以帮助我们解释因子 不作因子旋转 正交旋转 Scores 钮 估计因子得分系数的方法 结果解释 均数与标准差 相关系数矩阵 Bartlett检验 Bartlett值 313 417 P 0 0001 即相关矩阵不是一个单位矩阵 故考虑进行因子分析 特征值 贡献率及累积贡献率 主成分载荷 因子得分 第一主成分 第二主成分 三 实例1 对中国大陆31个省 市 区 的第三产业综合发展水平进行主成分分析 1 构建评价第三产业综合发展水平的指标体系 并对原始数据进行标准化处理 这里用于评价第三产业综合发展水平的指标有 人均GDP x1人均第三产业增加值 x2第二产业增加值比重 x3第三产业增加值比重 x4第三产业从业人员比重 x5第三产业固定资产投资比重 x6城市化水平 x7 2 计算各指标之间的相关系数矩阵 3 计算出相关系数矩阵的特征值 从上表知 前三个主成分累计贡献率达92 273 因此 这三个主成分Z1 Z2 Z3能够充分反映31个区域第三产业发展的综合水平 4 计算主成分载荷 3 第三主成分在第三产业固定资产投资比重x6上有较大的载荷 这说明对第三产业的投资是第三产业可持续发展的重要支撑 从上表可知 1 第一主成分在人均GDPx1 人均第三产业增加值x2 第三产业从业人员比重x5 城市化水平x7上具有很大的载荷 这些原变量几乎包含了第三产业的主要指标 因此 第一主成分在