因子分析ppt课件分解.ppt

因子分析FactorAnalysis 因子分析的基本理论 1 什么是因子分析 因子分析是主成分分析的推广 也是利用降维的思想 由研究原始变量相关矩阵或协方差矩阵的内部依赖关系出发 把一些具有错综复杂关系的多个变量归结为少数几个综合因子的一种多元统计分析方法 2 因子分析的基本思想 把每个研究变量分解为几个影响因素变量 将每个原始变量分解成两部分因素 一部分是由所有变量共同具有的少数几个公共因子组成的 另一部分是每个变量独自具有的因素 即特殊因子 因子分析的基本理论 3 因子分析的目的 因子分析的目的之一 简化变量维数 即要使因素结构简单化 希望以最少的共同因素 公共因子 能对总变异量作最大的解释 因而抽取得因子愈少愈好 但抽取因子的累积解释的变异量愈大愈好 在因子分析的公共因子抽取中 应最先抽取特征值最大的公共因子 其次是次大者 最后抽取公共因子的特征值最小 通常会接近0 因子分析的基本理论 例 在企业形象或品牌形象的研究中 消费者可以通过一个有24个指标构成的评价体系 评价百货商场的24个方面的优劣 但消费者主要关心的是三个方面 即商店的环境 商店的服务和商品的价格 因子分析方法可以通过24个变量 找出反映商店环境 商店服务水平和商品价格的三个潜在的因子 对商店进行综合评价 而这三个公共因子可以表示为 称是不可观测的潜在因子 称为公共因子 24个变量共享这三个因子 但是每个变量又有自己的个性 不被包含的部分 称为特殊因子 因子分析的基本理论 4 主成分分析分析与因子分析的联系和差异 联系 1 因子分析是主成分分析的推广 是主成分分析的逆问题 2 二者都是以 降维 为目的 都是从协方差矩阵或相关系数矩阵出发 区别 1 主成分分析模型是原始变量的线性组合 是将原始变量加以综合 归纳 仅仅是变量变换 而因子分析是将原始变量加以分解 描述原始变量协方差矩阵结构的模型 只有当提取的公因子个数等于原始变量个数时 因子分析才对应变量变换 2 主成分分析 中每个主成分对应的系数是唯一确定的 因子分析中每个因子的相应系数即因子载荷不是唯一的 3 因子分析中因子载荷的不唯一性有利于对公因子进行有效解释 而主成分分析对提取的主成分的解释能力有限 因子分析的基本理论 5 因子分析模型 设个变量 如果表示为 1 2 称为公共因子 是不可观测的变量 他们的系数称为因子载荷 是特殊因子 是不能被前m个公共因子包含的部分 其中 相互独立即不相关 即互不相关 方差为1 3 即互不相关 方差不一定相等 满足以上条件的 称为正交因子模型 如果 2 不成立 即 各公共因子之间不独立 则因子分析模型为斜交因子模型 因子分析案例 F1体现逻辑思维和运算能力 F2体现空间思维和推理能力 因子分析的基本理论 6 因子分析模型中的几个重要统计量的意义 1 因子负荷量 或称因子载荷 是指因子结构中原始变量与因子分析时抽取出的公共因子的相关程度 在各公共因子不相关的前提下 载荷矩阵中第i行 第j列的元素 是随机变量xi 与公共因子Fj的相关系数 表示xi 依赖于Fj的程度 反映了第i个原始变量在第j个公共因子上的相对重要性 因此绝对值越大 则公共因子Fj与原有变量xi的关系越强 2 共同度 又称共性方差或公因子方差 community或commonvariance 就是变量与每个公共因子之负荷量的平方总和 一行中所有因素负荷量的平方和 变量的共同度是因子载荷矩阵的第i行的元素的平方和 记为从共同性的大小可以判断这个原始实测变量与公共因子间之关系程度 如因子分析案例中共同度h12 0 8962 0 3412 0 919特殊因子方差 剩余方差 各变量的特殊因素影响大小就是1减掉该变量共同度的值 如 1 0 919 0 081 3 特征值 是第j个公共因子Fj对于X 的每一分量Xi 所提供的方差的总和 又称第j个公共因子的方差贡献 即每个变量与某一共同因素之因素负荷量的平方总和 因子载荷矩阵中某一公共因子列所有因子负荷量的平方和 如因子分析案例中F1的特征值G 0 896 平方 0 802 平方 0 516 平方 0 841 平方 0 833 平方 3 113 4 方差贡献率 指公共因子对实测变量的贡献 又称变异量方差贡献率 特征值G 实测变量数p 是衡量公共因子相对重要性的指标 Gi越大 表明公共因子Fj对X 的贡献越大 该因子的重要程度越高如因子分析案例中F1的贡献率为3 113 5 62 26 因子的基本内容 1 因子分析的基本步骤 1 因子分析的前提条件鉴定考察原始变量之间是否存在较强的相关关系 是否适合进行因子分析 因为 因子分析的主要任务之一就是对原有变量中信息重叠的部分提取和综合成因子 最终实现减少变量个数的目的 所以要求原有变量之间应存在较强的相关关系 否则 如果原有变量相互独立 不存在信息重叠 也就无需进行综合和因子分析 2 因子提取研究如何在样本数据的基础上提取综合因子 3 因子旋转通过正交旋转或斜交旋转使提取出的因子具有可解释性 4 计算因子得分通过各种方法求解各样本在各因子上的得分 为进一步分析奠定基础 2 因子分析前提条件 相关性分析 分析方法主要有 1 计算相关系数矩阵 correlationcoefficientsmatrix 如果相关系数矩阵中的大部分相关系数值均小于0 3 即各变量间大多为弱相关 原则上这些变量不适合进行因子分析 2 计算反映象相关矩阵 Anti imagecorrelationmatrix 3 巴特利特球度检验 Bartletttestofsphericity 该检验以原有变量的相关系数矩阵为出发点 其零假设H0是 相关系数矩阵为单位矩阵 即相关系数矩阵主对角元素均为1 非主对角元素均为0 即原始变量之间无相关关系 4 KMO Kaiser Meyer Olkin 检验KMO检验的统计量是用于比较变量间简单相关系数矩阵和偏相关系数的指标 数学定义为 KMO值越接近1 意味着变量间的相关性越强 原有变量适合做因子分析 越接近0 意味变量间的相关性越弱 越不适合作因子分析 Kaiser给出的KMO度量标准 0 9以上非常适合 0 8表示适合 0 7表示一般 0 6表示不太适合 0 5以下表示极不适合 3 因子提取和因子载荷矩阵的求解 因子载荷矩阵求解的方法 1 基于主成分模型的主成分分析法 2 基于因子分析模型的主轴因子法 3 极大似然法 4 最小二乘法 5 a因子提取法 6 映象分析法 1 基于主成分模型的主成分分析法Principalcomponents 设随机向量的均值为 协方差为 为 的特征根 为对应的标准化特征向量 则 上式给出的 表达式是精确的 然而 它实际上是毫无价值的 因为我们的目的是寻求用少数几个公共因子解释 故略去后面的p m项的贡献 有 上式有一个假定 模型中的特殊因子是不重要的 因而从 的分解中忽略了特殊因子的方差 2 基于因子分析模型的主轴因子法Principalaxisfactoring是对主成分方法的修正 假定我们首先对变量进行标准化变换 则R AA DR AA R D称R 为约相关矩阵 R 对角线上的元素是 而不是1 直接求R 的前p个特征根和对应的正交特征向量 得如下的矩阵 当特殊因子的方差已知 4 因子旋转 为什么要旋转因子 建立了因子分析数学目的不仅仅要找出公共因子以及对变量进行分组 更重要的要知道每个公共因子的意义 以便进行进一步的分析 如果每个公共因子的含义不清 则不便于进行实际背景的解释 由于因子载荷阵是不惟一的 所以应该对因子载荷阵进行旋转 目的是使每个变量在尽可能少的因子上有比较高的载荷 让某个变量在某个因子上的载荷趋于1 而在其他因子上的载荷趋于0 即 使载荷矩阵每列或行的元素平方值向0和1两极分化 奥运会十项全能运动项目得分数据的因子分析百米跑成绩跳远成绩铅球成绩跳高成绩400米跑成绩百米跨栏铁饼成绩撑杆跳远成绩标枪成绩1500米跑成绩 相关矩阵 因子载荷矩阵 因子载荷矩阵可以看出 除第一因子在所有的变量在公共因子上有较大的正载荷 可以称为一般运动因子 其他的3个因子不太容易解释 似乎是跑和投掷的能力对比 似乎是长跑耐力和短跑速度的对比 于是考虑旋转因子 得下表 旋转变幻后因子载荷矩阵 通过旋转 因子有了较为明确的含义 百米跑 跳远和400米跑 需要爆发力的项目在有较大的载荷 可以称为短跑速度因子 铅球 铁饼和标枪在上有较大的载荷 可以称为爆发性臂力因子 百米跨栏 撑杆跳远 跳远和为跳高在上有较大的载荷 爆发腿力因子 长跑耐力因子 旋转的方法有 1 正交旋转 2 斜交旋转 1 正交旋转由初始载荷矩阵A左乘一正交矩阵得到 目的是新的载荷系数尽可能的接近于0或尽可能的远离0 只是在旋转后的新的公因子仍保持独立性 主要有以下方法 varimax 方差最大旋转 简化对因子的解释quartmax 四次最大正交旋转 简化对变量的解释equamax 等量正交旋转 A 方差最大法方差最大法从简化因子载荷矩阵的每一列出发 使和每个因子有关的载荷的平方的方差最大 当只有少数几个变量在某个因子上有较高的载荷时 对因子的解释最简单 方差最大的直观意义是希望通过因子旋转后 使每个因子上的载荷尽量拉开距离 一部分的载荷趋于 1 另一部分趋于0 B 四次方最大旋转四次方最大旋转是从简化载荷矩阵的行出发 通过旋转初始因子 使每个变量只在一个因子上有较高的载荷 而在其它的因子上尽可能低的载荷 如果每个变量只在一个因子上有非零的载荷 这时的因子解释是最简单的 四次方最大法通过使因子载荷矩阵中每一行的因子载荷平方的方差达到最大 C 等量最大法等量最大法把四次方最大法和方差最大法结合起来求行和列因子载荷平方的方差的加权平均最大 2 斜交旋转目的是新的载荷系数尽可能的接近于0或尽可能的远离0 只是在旋转时 放弃了因子之间彼此独立的限制 旋转后的新公因子更容易解释 主要有以下的方法 directoblimin 直接斜交旋转 允许因子之间具有相关性 promax 斜交旋转方法 允许因子之间具有相关性 5 因子得分因子得分的概念前面我们主要解决了用公共因子的线性组合来表示一组观测变量的有关问题 如果我们要使用这些因子做其他的研究 比如把得到的因子作为自变量来做回归分析 对样本进行分类或评价 这就需要我们对公共因子进行测度 即给出公共因子的值 例 人均要素变量因子分析 对我国32个省市自治区的要素状况作因子分析 指标体系中有如下指标 X1 人口 万人 X2 面积 万平方公里 X3 GDP 亿元 X4 人均水资源 立方米 人 X5 人均生物量 吨 人 X6 万人拥有的大学生数 人 X7 万人拥有科学家 工程师数 人 RotatedFactorPatternFACTOR1FACTOR2FACTOR3X1 0 21522 0 273970 89092X20 63973 0 28739 0 28755X3 0 157910 063340 94855X40 95898 0 01501 0 07556X50 97224 0 06778 0 17535X6 0 114160 98328 0 08300X7 0 110410 97851 0 07246 X1 0 21522F1 0 27397F2 0 89092F3X2 0 63973F1 0 28739F2 0 28755F3X3 0 15791F1 0 06334F2 0 94855F3X4 0 95898F1 0 01501F2 0 07556F3X5 0 97224F1 0 06778F2 0 17535F3X6 0 11416F1 0 98328F2 0 08300F3X7 0 11041F1 0 97851F2 0 07246F3 StandardizedScoringCoefficientsFACTOR1FACTOR2FACTOR3X10 05764 0 060980 50391X20 22724 0 09901 0 07713X30 146350 129570 59715X40 479200 112280 17062X50 455830 074190 10129X60 054160 486290 04099X70 057900 485620 04822 F1 0 05764X1 0 22724X2 0 14635X3 0 47920X4 0 45583X5 0 05416X6 0 05790X7F2 0 06098X1 0 09901X2 0 12957X3 0 11228X4 0 07419X5 0 48629X6 0 48562X7F3 0 50391X1 0 07713X2 0 59715X3 0 17062X4 0 10129X5 0 04099X6 0 04822X7 前三个因子得分 案例分析 国民生活质量的因素分析国家发展的最终目标 是为了全面提高全体国民的生活质量 满足广大国民日益增长的物质和文化的合理需求 在可持续发展消费的统一理念下 增加社会财富 创造更多的物质文明和精神文明 保持人类的健康延续和生生不息 在人类与自然协同进化的基础上 维系人类与自然的平衡 达到完整的代际公平和区际公平 即时间过程的最大合理性与空间分布的最大合理化 从1990年开始 联合国开发计划署 UYNP 首次采用 人文发展系数 指标对于国民生活质量进行测度 人文发展系数利用三类内涵丰富的指标组合 即人的健康状况 使用出生时的人均预期寿命表达 人的智力程度 使用组合的教育成就表达 人的福利水平 使用人均国民收入或人均GDP表达 并且特别强调三类指标组合的整体表达内涵 去衡量一个国家或地区的社会发展总体状况以及国民生活质量的总水平 在这个指标体系中有如下的指标 X1 预期寿命X2 成人识字率X3 综合入学率X4 人均GDP 美圆 X5 预期寿命指数X6 教育成就指数X7 人均GDP指数 旋转后的因子结构RotatedFactorPatternFACTOR1FACTOR2FACTOR3X10 381290 417650 81714X20 121660 848280 45981X30 648030 618220 22398X40 904100 205310 34100X50 388540 432950 80848X60 282070 853250 43289X70 900910 206120 35052FACTOR1为经济发展因子FACTOR2为教育成就因子FACTOR3为健康水平因子 被每个因子解释的方差和共同度 VarianceexplainedbyeachfactorFACTOR1FACTOR2FACTOR32 4397002 2763172 009490FinalCommunalityEstimates Total 6 725507X1X2X3X4X50 9875300 9457960 8523060 9758300 992050X6X70 9949950 976999 StandardizedScoringCoefficients标准化得分系数FACTOR1FACTOR2FACTOR3X1 0 18875 0 343970 85077X2 0 241090 60335 0 10234X30 354620 50232 0 59895X40 53990 0 17336 0 10355X5 0 17918 0 316040 81490X6 0 092300 62258 0 24876 生育率的影响因素分析生育率受社会 经济 文化 计划生育政策等很多因素影响 但这些因素对生育率的影响并不是完全独立的 而是交织在一起 如果直接用选定的变量对生育率进行多元回归分析 最终结果往往只能保留两三个变量 其他变量的信息就损失了 因此 考虑用因子分析的方法 找出变量间的数据结构 在信息损失最少的情况下用新生成的因子对生育率进行分析 选择的变量有 多子率 综合节育率 初中以上文化程度比例 城镇人口比例 人均国民收入 下表是1990年中国30个省 自治区 直辖市的数据 特征根与各因子的贡献 没有旋转的因子结构 在这个例子中我们得到了两个因子 第一个因子是社会经济发展水平因子 第二个是计划生育因子 有了因子得分值后 则可以利用因子得分为变量 进行其他的统计分析 方差最大旋转后的因子结构 标准化得分函数 案例分析 学习途经调查情况 01 建立数据文件 02 选择分析变量 选SPSS Analyze 菜单中的 DataReduction Factor 出现 FactorAnalysis 对话框 在 FactorAnalysis 对话框中左边的原始变量中 选择将进行因子分析的变量选入 Variables 栏 03 设置描述性统计量 在 FactorAnalysis 框中选 Descriptives 按钮 出现 Descriptives 对话框 选择Initialsolution 未转轴的统计量 选项 选择KMO选项 点击 Contiue 按钮确定 04 设置对因子的抽取选项 在 FactorAnalysis 框中点击 Extraction 按钮 出现 FactorAnalysis Extraction 对话框 在Method栏中选择 Principalcomponents 选项 在Analyze栏中选择Correlationmatrix选项 在Display栏中选择Unrotatedfactorsolution选项 在Extract栏中选择Eigenvaluesover并填上1 点击 Contiue 按钮确定 回到 FactorAnalysis 对话框中 05 设置因子转轴 在 FactorAnalysis 对话框中 点击 Rotation 按钮 出现 FactorAnalysis Rotation 因子分析 旋转 对话框 在Method栏中选择Varimax 最大变异法 在Display栏中选择Rotatedsolution 转轴后的解 点击 Contiue 按钮确定 回到 FactorAnalysis 对话框中 06 设置因素分数 在 FactorAnalysis 对话框中 点击 Scores 按钮 出现 FactorAnalysis Scores 因素分析 分数 对话框 一般取默认值 点击 Contiue 按钮确定 回到 FactorAnalysis 对话框 07 设置因子分析的选项 在 FactorAnalysis 对话框中 单击 Options 按钮 出现 FactorAnalysis Opti