matlab_spss做因子分析_主元分析_factor_analysis_学习笔记

1 1目录 1目录 1 2说明 2 3理论 3 3 1因子分析的基础 3 3 2因子分析步骤 5 3 3主成分分析分析与因子分析的联系和差异 5 4SPSS 的因子分析 6 4 1SPSS 6 4 1 1 SPSS 的语言设置 6 4 2例题1 媒体使用调查 7 4 2 1 建立数据文件 7 4 2 2 因子分析 Factor 9 4 2 2 1 选择分析变量 9 4 2 2 2 设置描述性统计量 10 4 2 2 3 设置对因子的抽取选项 11 4 2 2 4 设置因子转轴 12 4 2 2 5 设置因素得分 13 4 2 2 6 设置因子分析的选项 14 4 2 3 报告解读 15 4 2 3 1 相关性矩阵 15 4 2 3 2 KMO 和 Bartlett 的检验 15 4 2 3 3 共同度检查 16 4 2 3 4 PCA 的碎石图 scree plot 17 4 2 3 5 方差贡献率检验 18 4 2 3 6 显示未转轴的因子矩阵 19 4 2 3 7 分析转轴后的因子矩阵 因子与变量之间的计算式 20 4 2 3 8 形成综合分析结果 21 4 2 3 9 成份转换矩阵 22 4 2 3 10 成份得分系数矩阵 23 4 2 3 11 因子矩阵与旋转因子矩阵的说明 24 5MATLAB 的因子分析与 SPSS 的比较 26 5 1概述 26 5 2数据 26 5 3SPSS 26 2 5 4MATLAB 29 2说明 本文档在 WEB 版式视图中完成 请切换成 web 板式 打开 文档结构图 或者打开 导航窗格 阅读更清楚 3 2012 12 01 初稿 haslong USD 3理论 3 1因子分析的基础 在企业形象或品牌形象的研究中 消费者可以通过一个有 24 个指标构成的评价体系 评价百货 商场的 24 个方面的优劣 但消费者主要关心的是三个方面 即商店的环境 商店的服务和商品的价格 因子分析方法可 以通过 24 个变量 找出反映商店环境 商店服务水平和商品价格的三个潜在的因子 对商店进 行综合评价 而这三个公共因子可以表示为 4 iiiiii FFFx 332211 称是不可观测的潜在因子 称为公共因子 24 个变量共享这三个因子 但是每个变量又有 i F 自己的个性 不被包含的部分 称为特殊因子 i 因子分析模型 1 2 i x ip 11 iiiimmi xa Fa Fmp 11111211 1 22212222 2 12 m m pppppmp m XF XF XF 或 因子负荷量 或称因子载荷 因子负荷量 或称因子载荷 是指因子结构中原始变量与因子分析时抽取出的公共因子的相 关程度 共同度共同度 又称共性方差或公因子方差 community 或 common variance 就是变量与每个公共因 子之负荷量的平方总和 一行中所有因素负荷量的平方和 变量变量 xi 的共同度的共同度是因子载荷矩阵 的第 i 行的元素的平方和 反应 Xi 被提取的信息 记为 22 1 m iij j ha 特殊因子方差 剩余方差 各变量的特殊因素影响大小就是 1 减掉该变量共同度的值 特征值 是第 j 个公共因子 Fj 对于 X 的每一分量 Xi 所提供的方差的总和 又称第 j 个公共因 子的方差贡献 即每个变量与某一共同因素之因素负荷量的平方总和 方差贡献率 指公共因子对实测变量的贡献 又称变异量 方差贡献率 特征值 G 实 5 测变量数 p 3 2因子分析步骤 1 标准化 2 相关性分析 判定因子分析是否合适 3 因子提取和因子载荷矩阵求解 4 计算因子得分 3 3主成分分析分析与因子分析的联系和差异 联系 1 因子分析是主成分分析的推广 是主成分分析的逆问题 2 二者都是以 降维 为目的 都是从协方差矩阵或相关系数矩阵出发 区别 1 主成分分析模型是原始变量的线性组合 是将原始变量加以综合 归纳 仅 仅是变量变换 而因子分析是将原始变量加以分解 描述原始变量协方差矩阵结构的模型 只 有当提取的公因子个数等于原始变量个数时 因子分析才对应变量变换 2 主成分分析中每 个主成分对应的系数是唯一确定的 因子分析中每个因子的相应系数即因子载荷不是唯一的 3 因子分析中因子载荷的不唯一性有利于对公因子进行有效解释 而主成分分析对提取的主 成分的解释能力有限 6 4SPSS 的因子分析 4 1SPSS 4 1 1 SPSS 的语言设置 菜单 edit options 如下图 7 4 2例题 1 媒体使用调查 4 2 1 建立数据文件 从未从未 使用使用 很少很少 使用使用 有时有时 使用使用 经常经常 使用使用 总是总是 使用使用 问题问题题题 项项 1 12 23 34 45 5 A1A1 电脑电脑 A2A2 录音磁带录音磁带 A3A3 录像带录像带 A4A4 网上资料网上资料 A5A5 校园网或因特校园网或因特 网网 A6A6 电子邮件电子邮件 A7A7 电子讨论网电子讨论网 A8A8 CAICAI 课件课件 A9A9 视频会议视频会议 A10A10 视听会议视听会议 8 样本编样本编 号号 A1A1A2A2A3A3A4A4A5A5A6A6A7A7A8A8A9A9A10A10 1 11 15 55 51 11 11 11 11 11 11 1 2 22 25 55 52 22 22 21 12 21 11 1 3 34 43 33 33 34 43 31 14 41 11 1 4 44 43 34 44 44 44 42 24 42 22 2 5 54 44 43 33 34 44 41 14 41 11 1 6 64 43 33 33 33 34 42 23 32 21 1 7 74 44 44 44 43 33 32 24 41 11 1 8 81 15 53 31 11 11 11 11 11 11 1 9 94 44 45 54 44 44 42 24 41 11 1 10105 54 43 35 55 54 43 35 53 33 3 11115 54 43 34 44 44 42 25 52 22 2 12125 54 45 54 44 44 43 35 52 22 2 13133 35 55 52 22 22 21 13 31 11 1 14145 53 34 43 33 33 32 25 52 22 2 15154 45 55 53 33 33 32 25 52 22 2 16164 44 44 44 43 35 51 14 41 11 1 17175 54 44 45 55 55 54 45 54 44 4 18185 54 44 42 23 34 41 15 51 11 1 9 19195 54 45 55 55 55 53 35 53 33 3 20205 54 44 45 55 55 52 25 52 21 1 4 2 2 因子分析 Factor 4 2 2 1 选择分析变量 选 SPSS Analyze 菜单中的 Data Reduction Factor 出现 Factor Analysis 对话框 在 Factor Analysis 对话框中左边的原始变量中 选择将进行因子分析的变量选入 Variables 栏 10 4 2 2 2 设置描述性统计量 默认就会标准化 在 Factor Analysis 框中选 Descriptives 按钮 出现 Descriptives 对话框 选择 Initial solution 未转轴的统计量 选项 选择 Coefficient KMO 选项 点击 Contiue 按钮确定 11 4 2 2 3 设置对因子的抽取选项 在 Factor Analysis 框中点击 Extraction 按钮 出现 Factor Analysis Extraction 对话 框 在 Method 栏中选择 Principal components 选项 在 Analyze 栏中选择 Correlation matrix 选项 在 Display 栏中选择 Unrotated factor solution 选项 在 Extract 栏中选择 Eigenvalues over 并填上 1 点击 Contiue 按钮确定 回到 Factor Analysis 对话框中 12 4 2 2 4 设置因子转轴 在 Factor Analysis 对话框中 点击 Rotation 按钮 出现 Factor Analysis Rotation 因子分析 旋转 对话框 在 Method 栏中选择 Varimax 最大变异法 在 Display 栏中选择 Rotated solution 转轴后的解 点击 Contiue 按钮确定 回到 Factor Analysis 对话框中 13 4 2 2 5 设置因素得分 在 Factor Analysis 对话框中 点击 Scores 按钮 出现 Factor Analysis Scores 因素分析 分数 对话框 一般取默认值 点击 Contiue 按钮确定 回到 Factor Analysis 对话框 14 4 2 2 6 设置因子分析的选项 在 Factor Analysis 对话框中 单击 Options 按钮 出现 Factor Analysis Options 因素分析 选项 对话框 在 Missing Values 栏中选择 Exclude cases listwise 完全排除缺失值 在 Coefficient Display Format 系数显示格式 栏中选择 Sorted by size 依据因素负荷量排序 项 在 Coefficient Display Format 系数显示格式 勾选 Suppress absolute values less than 其后 空格内的数字不用修改 默认为 0 1 如果研究者要呈现所有因素负荷量 就不用选取 Suppress absolute values less than 选项 在例题中为了让研究者明白此项的意义 才勾选了此项 正式的研究中应呈现题项完整的因素 负荷量较为适宜 单击 Continue 按钮确定 15 4 2 3 报告解读 4 2 3 1 相关性矩阵 相关矩阵相关矩阵 a1a2a3a4a5a6a7a8a9a10 a11 000 598 147 792 851 851 606 969 558 495 a2 5981 000 460 444 523 528 250 463 240 139 a3 147 4601 000 068 176 129 084 046 052 029 a4 792 444 0681 000 917 857 761 767 677 602 a5 851 523 176 9171 000 865 694 825 663 591 a6 851 528 129 857 8651 000 560 793 542 434 a7 606 250 084 761 694 5601 000 587 911 872 a8 969 463 046 767 825 793 5871 000 541 525 a9 558 240 052 677 663 542 911 5411 000 938 相关 a10 495 139 029 602 591 434 872 525 9381 000 4 2 3 2 KMO 和 Bartlett 的检验 KMO 值越大 表示变量间的共同因素越多 越 适合进行因素分析 要求 KMO 0 5 要求 Barlett s 的卡方值达到显著程度 取样足够度的 Kaiser Meyer Olkin 度量 758 近似卡方219 385 df45Bartlett 的球形度检验 Sig 000 16 KMO and Bartlett s Test 695 234 438 45 000 Kaiser Meyer Olkin Measure of Sampling Adequacy Approx Chi Square df Sig Bartlett s Test of Sphericity 4 2 3 3 共同度检查 公因子方差公因子方差 初始提取 a11 000 928 a21 000 741 a31 000 907 a41 000 864 a51 000 899 a61 000 866 a71 000 923 a81 000 873 a91 000 964 a101 000 941 提取方法 主成份分析 17 Communalities 1 000 928 1 000 738 1 000 900 1 000 872 1 000 901 1 000 867 1 000 919 1 000 907 1 000 965 1 000 939 A1 A2 A3 A4 A5 A6 A7 A8 A9 A10 InitialExtraction Extraction Method Principal Component Analysis 这里的共同度就是各变量在各因子上载荷的平方和 4 2 3 4 PCA 的碎石图 scree plot 除去坡线平坦部分的因子 图中第三个因子以后较为平坦 故保留 3 个因子 18 Scree Plot Component Number 10987654321 Eigenvalue 7 6 5 4 3 2 1 0 4 2 3 5 方差贡献率检验 取特征值大于 1 的因子 共有 2 个 有些会选择出大于 1 的因子 我们选择的是前 3 个 分别 6 29 1 65 0 966 变异量分别为 63 58 15 467 10 32 19 解解释释的的总总方方差差 成份 初始特征值 提取平方和载入 旋转平方和载入 合计 方差的 累积 合计 方差的 累积 合计 方差的 累积 1 6 290 62 900 62 900 6 290 62 900 62 900 4 350 43 503 43 503 2 1 650 16 499 79 399 1 650 16 499 79 399 3 162 31 616 75 119 3 966 9 662 89 061 966 9 662 89 061 1 394 13 942 89 061 4 404 4 038 93 099 5 338 3 383 96 482 6 146 1 459 97 941 7 103 1 030 98 971 8 059 588 99 559 9 035 353 99 912 10 009 088 100 000 提取方法 主成份分析 Total Variance Explained 6 35863 57963 5796 35863 57963 5794 38943 88543 885 1 54715 46779 0461 54715 46779 0463 13731 37275 257 1 03210 32089 3661 03210 32089 3661 41114 10889 366 4084 08193 447 2912 91096 357 1561 56497 921 1101 10499 025 6 056E 02 60699 631 3 368E 02 33799 968 3 222E 033 222E 02100 000 Component 1 2 3 4 5 6 7 8 9 10 Total of VarianceCumulative Total of VarianceCumulative Total of VarianceCumulative Initial EigenvaluesExtraction Sums of Squared LoadingsRotation Sums of Squared Loadings Extraction Method Principal Component Analysis 这一块是旋转因子的方 程 方差累计贡献率 如果没有选择旋转 则 没有 这里就 是方 差 或 者说特 征值 用合计 不准 确 汇 总表中 用到的 特征值 就是这 里 这一块是未旋转之前 直接提取出来的因子的 方差贡献率 4 2 3 6 显示未转轴的因子矩阵 20 成成份份矩矩阵阵 a 成份 1 2 3 a5 936 127 081 a4 922 007 122 a1 905 247 219 a8 874 143 298 a6 869 234 237 a7 834 444 171 a9 811 431 346 a10 747 527 323 a2 543 644 178 a3 135 650 684 提取方法 主成份 a 已提取了 3 个成份 Components Matrix 将某变量的因子得分求平方和 即是前文表中的共同度 A5的共同度为 936 2 127 2 081 2 0 898786 与前面一致 每个原始变量都可以是10个因子的线性组合 提取3个因子 可以概括原始变量所包含信息的 89 061 因子前的系数表示该因子对变量的影响程度 也称为变量在因子上的载荷 但每个因子 主成分 的系数 载荷 没有很明显的差别时 所以不好命名 因此为了对因子进 行命名 可以进行旋转 使系数向0和1两极分化 4 2 3 7 分析转轴后的因子矩阵 因子与变量之间的计算式 表格先复制到 WORD 或者 EXCEL 中 就变成了很漂亮的表格了 旋转成份矩阵旋转成份矩阵 a 成份 123 21 a1 911 279 142 a8 888 290 009 a6 887 258 115 a5 823 442 164 a4 789 490 051 a10 236 941 018 a9 309 929 073 a7 410 867 058 a3 001 004 953 a2 571 001 644 提取方法 主成份 旋转法 具有 Kaiser 标准化的正交旋转法 a 旋转在 5 次迭代后收敛 根据因子负荷量形成 3 个公共因子 旋转以后 使系数向 0 和 1 两极分化了 可以方便解释了 根据旋转以后的成分矩阵 得到原始变量 的标准化后的值原始变量 的标准化后的值 减去均值减去均值 方差方差 与成分 隐藏 成分 之间的关系式 a1 0 911 f1 0 279 f2 0 142 f3 a8 0 888 f1 0 29 f2 0 009 f3 a6 0 887 f1 0 258 f2 0 115 f3 a5 0 823 f1 0 442 f2 0 164 f3 a4 0 789 f1 0 49 f2 0 051 f3 a10 0 236 f1 0 941 f2 0 018 f3 a9 0 309 f1 0 929 f2 0 073 f3 a7 0 41 f1 0 867 f2 0 058 f3 a3 0 001 f1 0 004 f2 0 953 f3 a2 0 571 f1 0 001 f2 0 644 f3 以及隐藏变量与原始变量 的标准化后的值 的关系 F1 0 911 a1 0 888 a8 0 887 a6 0 823 a5 第一列系数 F2 第二列 4 2 3 8 形成综合分析结果 ComponentComponent 抽取的因子 抽取的因子 题项题项 贡献率贡献率 解释变 解释变 异量 异量 累积贡献率累积贡献率 累积解释 累积解释 变异量 变异量 因子因子 1 1 负荷量负荷量 因子因子 2 2 负荷量负荷量 因子因子 3 3 负荷量负荷量 共同共同 性性 22 A1A1 电脑电脑 A8A8 CAICAI 课件课件 A6A6 电子邮件电子邮件 A5A5 校园网或因特校园网或因特 网网 A4A4 网上资料网上资料 43 50343 503 43 50343 503 911 911 888 888 887 887 823 823 789 789 0 9280 928 0 8730 873 0 8660 866 0 8990 899 0 8640 864 A10A10 视听会议视听会议 A9A9 视频会议视频会议 A7A7 电子讨论网电子讨论网 31 61631 616 75 11975 119 941 941 929 929 867 867 0 9410 941 0 9640 964 0 9230 923 A3A3 录像带录像带 A2A2 录音磁带录音磁带 13 94213 942 89 06189 061 953 953 644 644 0 9070 907 0 7410 741 特征值特征值 4 3504 3503 1623 1621 3941 394 特征值 贡献率 累计贡献率 来自 方差贡献率检验 4 2 3 9 成份转换矩阵 成份转换矩阵 因子旋转中的正交矩阵 Component Transformation Matrix 成份123 1 787 600 145 2 361 638 680 3 501 483 719 23 提取方法 主成份 旋转法 具有 Kaiser 标准化的正交旋转法 4 2 3 10 成份得分系数矩阵 Component Score Coefficient Matrix 成份得分系数矩阵成份得分系数矩阵 成份 123 a1 281 119 040 a2 117 108 410 a3 195 103 779 a4 180 024 066 a5 187 000 014 a6 283 126 060 a7 082 337 036 a8 295 121 143 a9 172 417 098 a10 189 436 040 提取方法 主成份 旋转法 具有 Kaiser 标准化的正交旋转法 构成得分 因子得分计算公式 因子得分系数和原始变量的标准化值原始变量的标准化值的乘积之和 score F1 0 281 a1 0 117 a2 0 195 a3 0 18 a4 然后可以利用因子得分进行聚类 回归分析等 Component Score Covariance Matrix 成份得分协方差矩阵成份得分协方差矩阵 成份123 11 000 000 000 2 0001 000 000 24 3 000 0001 000 提取方法 主成份 旋转法 具有 Kaiser 标准化的正交旋转法 构成得分 4 2 3 11 因子矩阵与旋转因子矩阵的说明 因子矩阵 未旋转 成份矩阵成份矩阵 a 成份 1231 的平方和2 的平方和3 的平方和共同率 a5 936 127 0810 877 0 016 0 007 0 899 a4 922 007 1220 849 0 000 0 015 0 864 a1 905 247 2190 819 0 061 0 048 0 928 a8 874 143 2980 764 0 020 0 089 0 873 a6 869 234 2370 755 0 055 0 056 0 866 a7 834 444 1710 696 0 197 0 029 0 923 a9 811 431 3460 658 0 186 0 119 0 964 a10 747 527 3230 559 0 278 0 104 0 941 a2 543 644 1780 295 0 414 0 032 0 741 a3 135 650 6840 018 0 422 0 467 0 907 6 290 1 650 0 966 方差 特征值 62 9 16 5 9 7 方差贡献率 变量个数 累计贡献率 25 解解释释的的总总方方差差 成份 初始特征值 提取平方和载入 旋转平方和载入 合计 方差的 累积 合计 方差的 累积 合计 方差的 累积 1 6 290 62 900 62 900 6 290 62 900 62 900 4 350 43 503 43 503 2 1 650 16 499 79 399 1 650 16 499 79 399 3 162 31 616 75 119 3 966 9 662 89 061 966 9 662 89 061 1 394 13 942 89 061 4 404 4 038 93 099 5 338 3 383 96 482 6 146 1 459 97 941 7 103 1 030 98 971 8 059 588 99 559 9 035 353 99 912 10 009 088 100 000 提取方法 主成份分析 公公因因子子方方差差 初始 提取 a1 1 000 928 a2 1 000 741 a3 1 000 907 a4 1 000 864 a5 1 000 899 a6 1 000 866 a7 1 000 923 a8 1 000 873 a9 1 000 964 a10 1 000 941 提取方法 主成份分析 从上面可以看出 共同度 又称共性方差或公因子方差 community或common variance 就是变量与 每个公共因子之负荷量的平方总和 一行中所有因素负荷量的平方和 特征值 是第 j 个公共因子 Fj 对于 X 的每一分量 Xi 所提供的方差的总和 又称第 j 个公共因 子的方差贡献 即每个变量与某一共同因素之因素负荷量的平方总和 因子载荷矩阵中某一公 共因子列所有因子负荷量的平方和 方差贡献率 指公共因子对实测变量的贡献 又称变异量 方差贡献率 特征值 G 实 测变量数 p 是衡量公共因子相对重要性的指标 Gi 越大 表明公共因子 Fj 对 X 的贡献越大 该因 子的重要程度越高 旋转因子矩阵 旋转成份矩阵旋转成份矩阵 a 成份 1231 的平方和2 的平方和3 的平方和共同率 a1 911 279 1420 830 0 078 0 020 0 928 a8 888 290 0090 789 0 084 0 000 0 873 a6 887 258 1150 786 0 067 0 013 0 866 a5 823 442 1640 678 0 195 0 027 0 899 a4 789 490 0510 622 0 240 0 003 0 864 a10 236 941 0180 056 0 885 0 000 0 941 a9 309 929 0730 096 0 863 0 005 0 964 a7 410 867 0580 168 0 751 0 003 0 923 26 a3 001 004 9530 000 0 000 0 907 0 907 a2 571 001 6440 326 0 000 0 415 0 741 4 350 3 162 1 394 方差 特征值 43 5 31 6 13 9 方差贡献率 变量个数 累计贡献率 旋转以后 共同率不变 5MATLAB 的因子分析与 SPSS 的比较 5 1概述 Matlab 的因子分析 他说 computes the maximum likelihood estimate MLE of the factor loadings 采用的是最大似然估计 5 2数据 采用 MATLAB 帮助中包含的示例 Loadings2 specVar2 T2 stats2 F2 factoran grades 2 rotate none 5 3SPSS 的因子分析 先看看SPSS的结果 采用最大似然估计 选取2个因子 设置如下图 27 结果 描述统计量描述统计量 均值标准差分析 N VAR0000175 00838 72020120 VAR0000274 99176 54204120 VAR0000374 99177 43091120 相关矩阵相关矩阵 VAR00001VAR00002VAR00003VAR00004VAR00005 VAR000011 000 554 410 392 548 VAR00002 5541 000 482 431 611相关 VAR00003 410 4821 000 607 707 KMO 和和 Bartlett 的检验的检验 取样足够度的 Kaiser Meyer Olkin 度量 829 近似卡方266 477 df10Bartlett 的球形度检验 Sig 000 28 VAR0000475 03338 60128120 VAR0000574 99175 25884120 VAR00004 392 431 6071 000 660 VAR00005 548 611 707 6601 000 解释的总方差解释的总方差 初始特征值提取平方和载入因子 合计方差的 累积 合计方差的 累积 13 17763 53263 5322 81956 37956 379 2 74014 79178 323 3176 34862 727 3 4478 94487 268 4 3877 73495 002 5 2504 998100 000 提取方法 最大似然 公因子方差公因子方差 初始提取 VAR00001 378 517 VAR00002 446 597 VAR00003 538 649 VAR00004 476 568 VAR00005 667 806 提取方法 最大似然 因子矩阵因子矩阵a 因子 12 VAR00001 629 349 VAR00002 699 329 VAR00003 778 207 VAR000