研究方法-因子分析.doc

研究方法因子分析前言 因子分析方法的实际作用已为广大实际工作所证实。但并非每次运用它都是成功的。有时，特别是针对多维变量所做的因子分析，难以有清晰的解释。因此，有的实际工作者开始怀疑因子分析方法的科学性。但同时，不同的人针对相同的数据所做的因子分析。解释其结果却又不尽相同。有的人通过因子分析能给出问题近乎完美的答案。于是，又有人称因子分析是一种“艺术” 因子分析因此也变得神秘起来了。因子分析到底是艺术还是科学呢？ 因子分析的统计思想 在实践中，往往收集到的数据是多指标的。各指标之间通常不是独立的，或多或少存在着一定程度的关系。因子分析的目的是通过少数几个变量去描述这众多变量见的协方差关系。这少数几个变量是潜在的，但不能观察的。我们称之为因子。1以相关为基础在所收集到的众多变量中，必定存在某些是高度相关的，把这些高度相关的变量组成各组。这样同一组内变量具有高度相关，而与其他的各组变量却只有较小的相关或是不相关。这些组内高度相关的变量可以设想是一个共同的东西在影响着它们而导致高度相关。这个共同的东西称之为公共因子。如前所述，这些公共因子是潜在但不能观测的。 2通过协方差来实现因子分析是以相关为基础，从协方差或相关阵开始把大部分变异归结为少数几个公共因子所为。把剩余的部分称为特殊因子。3作用：寻求基本结构、数据化简通过因子分析，可以用几个较小的有实际意义的因子来反映原来数据的基本结构。例如：例1：Linden对二战以来奥运会十项全能比赛的得分作了研究，将100米、跳远、铅球、跳高、400米、110米栏、铁饼、撑杆跳、标枪、1500米的成绩归结到短跑速度、爆发性臂力、爆发性腿力、耐力四个方面。 例2：公司面试，从简历、外貌、专业能力、讨人喜欢的能力、自信心、洞察力、诚实、理解力等15个方面进行打分，最后归结外申请者的外露能力、受欢迎程度、工作经验、专业能力这四个方面通过因子分析，可以用少数几个因子代替原来的变量做回归分析据类分析等。正交因子模型分析1模型的直观描述 既然因子分析的目的是用少数几个称之为公共因子的因子去描述众多变量间协方差关系。巡着这一思路，针对每一个具体的变量。去掉共同的东西剩余的变异部分由两个部分组成，一个是公共因子的贡献的部分，另一个就是剩余的部分，即特殊因子。须提醒一下，这里特殊因子与公共因子不应相关。直观上，若公共因子与特殊因子相关则说明特殊因子中还可以抽出共同的东西到公共部分。由此可见模型中公共因子与特殊因子是不相关的。2正交因子模型的数学表达式 考虑个成分的随机观测向量。因子模型要求线性相依，其中有m个公共因子f1 f2.fm 和特殊因子组成。具体如下： 如果fi与fj相互独立（ij），则称该因子模型为正交因子模型。正交因子模型具有如下特性：x的方差可表示为:（）hi2是m个公共因子对第i个变量的贡献，称为第i个共同度（communality）或共性方差，公因子方差（common variance）（）i称为特殊方差（specific variance），是不能由公共因子解释的部分因子负载aij是随机变量xi与公共因子fj的相关系数。称gj2为公共因子fj对x的“贡献”，是衡量公共因子fj重要性的一个指标。3因子分析的步骤l 输入原始数据xn*p，计算均值和方差，进行标准化计算l 求样本相关系数矩阵R=(rij)p*pl 求相关系数矩阵的特征根i (1,2,p0)和相应的标准正交的特征向量B, 求出负载矩阵，负载矩阵还有其他的求法：1. 最小二乘法2. 极大似然估计法3. 主轴因子法4. a 法因子提取法5. 映象分析法l 确定公共因子数：1. 由特征根大于1所对应的长度为以的特征响亮，来计算公共因子的负载2. 碎石准则：把特征更从大到小绘在坐标图上，把特征根减少速度变缓的特征根都删掉。l 计算公共因子的共性方差hi2l 对载荷矩阵进行旋转，以求能更好地解释公共因子l 对公共因子作出专业性的解释4正交因子模型的几点解释1、“正交因子模型”中“正交”一词。意味着各个公共因子间是不相关的。这一点是来自于因子分析初始思想。在“正交因子模型”统计思想中曾提到：“组内高度相关”而“组间相关性很小”这表明各个组受制于不同的因子。到底小到什么程度才算“小”呢？这是个模糊的概念，在实际应用中不易确定。于是表现在模型中就把它理想化为不相关即公共因子间是独立的。2、因子分析不易解释的原因 许多实际工作者在按正交因子模型做完因子分析后，总会得到摸棱两可的解释。其根本原因出在“正交”上。正交因子模型是个理想化的模型。它要求公共因子间不相关，然而现实问题中，这些公共因子并非完全不相关的（可能相关性很小）。这样就出现了现实问题同模型间的矛盾。依因子分析模型把事实上存在关系的变量“强行”让它们不相关。但用正交模型做的结果，却要用实际收集到的数据去解释。于是，实际问题与模型的矛盾导致解释上的麻烦。这一点我们将在后面的例中看到。因子旋转与因子解释的艺术 在实际应用因子分析中出现了难以解释的现象，根本原因是模型同实际数据的矛盾，而其直接原因表现在因子对变量的贡献不明确。我们可以通过下图来说明这一情况，于是设想在不改变因子协方差结构的情况下，通过旋转坐标轴来实现这一目的。（见图1）1.旋转的理论基础 通过对载荷阵乘以一正交阵来实现因子旋转。变换坐标轴以后的因子模型的协方差结构与原来相同，这为因子旋转提供了坚实的理论基础。旋转的目的是以达到较理想的解释，通常通过最大方差旋转来实现。此外因子旋转还有：斜交旋转、四分旋转等等。图13因子解释的艺术对相同的数据做因子分析，结果会因人而异。解释的是否妥当与应用者本人对因子分析把握程度有关也与分析者对实际问题所涉及的专业知识有关。下面以对二战后，奥运会十项全能运动数据的因子分析为例来说明因子分析的艺术。每项得分经标准化后所得的相关阵如下： 变量X因子载荷ML估计（未旋转）特殊方差因子载荷ML估计（已旋转）特殊方差 100米跳远铅球跳高400米110米栏铁饼撑杆跳高标枪1500米-0.090 0.341 0.830 -0.1690.065 0.433 0.595 0.275-0.139 0.990 0.000 0.0000.156 0.406 0.336 0.4450.376 0.245 0.671 -0.137-0.021 0.361 0.425 0.388-0.063 0.728 0.030 0.0190.155 0.264 0.229 0.394-0.026 0.441 -0.010 0.0980.998 0.059 0.000 0.0000.160.380.000.500.330.540.460.700.800.000.167 0.857 0.246 -0.1380.240 0.477 0.580 0.0110.966 0.154 0.200 -0.0580.242 0.173 0.632 0.1130.055 0.709 0.236 0.3300.205 0.261 0.589 -0.0710.697 0.133 0.180 -0.0090.137 0.078 0.513 0.1160.416 0.019 0.175 0.002-0.055 0.056 0.113 0.9900.160.380.000.500.330.540.460.700.800.00被解释方差累积比0.12 0.37 0.55 0.610.18 0.34 0.50 0.61从主成分因子分析发现前四个特征值为3.78 1.52 1.11 0.91下旋转前后起因子载荷与特殊方差对比如下表:未旋转时，因子解释：我们看到因子F1上唯有1500米有较大的载荷，而在其余的项目上载荷均较小，因此，可以称F1为耐力因子。在第二因子F2上，铅球，铁饼，标枪有较大的载荷因为这些项目都是投掷项目，可以归结为手臂强壮因子。在第三因子F3上有较大载荷的是100米，400米，可以命之为速度因子。但F4上各项均有不大的载荷，这样F4的因子就不好命名。旋转后，F1*上有较大载荷的是铅球，铁饼，都与手臂爆发力有关，可以将因子F1*命名感为爆发性臂力强度因子。而400米，100米在F2*上有高载荷，因为这两项主要反映跑的速度的，故命之为跑的速度因子。F3*上有高载荷的是跳远，跳高，110米栏，撑杆跳高。通过比较发现这些项目主要反映腿部爆发力的，可以命之为腿部爆发性强度因子。在F4*上唯有1500米有较高的载荷可以命之为跑的耐力因子。比较旋转前后，可以看到旋转后载荷的重新分配更易于因子的解释。尽管，F1*和F2*上也有不易解释的高载荷现象（通常大于0.4都看成有较大的载荷），但同旋转前比较起来要清晰多了。我们看以下旋转前，表中的载荷分布情况，跳远和跳高在F2均有较大的载荷。另外，在F3中跳远和110米栏均有高载荷，这些在旋转前都不能有清晰的解释。更甚至因子F4中均没有较大的载荷，所以不能解释。须提醒的一点是，跳高 ，110米栏，撑杆跳高，标枪等几个项目上，无论是旋转前还是旋转过以后均有较大的特殊方差（大于0.4）这说明，前几个公共因子在解释这些项目上并不理想。从这几项体育运动本身的特点来看，这几项均属于技术性较强的项目，成绩的好坏的关键在技术是否完善。可能这几项有着其他几项所不具备的因子。因此才出现特殊方差较大的情况。由分析可以看出，称因子分析是一种“艺术”亦不为过。小结 通过对正交因子模型的分析，说明了正交因子模型的“理想化”同现实中的数据相矛盾导致了因子分析结果在解释上的困难。表现在形式上就是载荷的分布不明确，给因子命名带来了麻烦。客观上，在多数情况下实施因子旋转可以使得结果有个较清晰的解释。通常遵循方差最大准则做因子旋转直到因子分析在解释上较满意为止。但这不能从根本上消除其矛盾，从文中例子可以看出，无论怎么旋转，总会有部分解释不是很清爽，这是很正常的。我们期待因子旋转后，能使较重要的变量有清晰的解释就够了。因子解释的是否恰当，不仅与数据本身性质有关，而且与应用者对专业知识的掌握以及因子分析技巧掌握程度有关。须提醒的是，因子分析以相关为基础的，故有些数据不宜于因子分析，所以建议分析者在做因子分析前