因子分析(研究生课程) PPT课件

1 因子分析 暨南大学管理学院企业管理系陈晓曦 2 历史 1947年 美国统计学家Stone关于国民经济的研究 1927 1938年的数据 得到了17个反映国民收入与支出的变量 后来通过因子分析发现 只需要用3个新的综合变量 就可以解释95 的原始信息 总收入总收入率积极发展或衰退趋势 3 案例 在企业形象或品牌形象的研究中 消费者可以通过一个有24个指标构成的评价体系 评价百货商场的24个方面的优劣 4 但消费者主要关心的是三个方面 即商店的环境 商店的服务和商品的价格 因子分析方法可以通过24个变量 找出反映商店环境 商店服务水平和商品价格的三个潜在的因子 对商店进行综合评价 而这三个公共因子可以表示为 称是不可观测的潜在因子 24个变量共享这三个因子 但是每个变量又有自己的个性 不被包含的部分 称为特殊因子 5 一 什么是因子分析因子分析 factoranalysis 是一种数据简化的技术 它通过研究众多变量之间的内部依赖关系 探求观测数据中的基本结构 并用少数几个假想变量来表示其基本的数据结构 这几个假想变量能够反映原来众多变量的主要信息 原始的变量是可观测的显在变量 而假想变量是不可观测的潜在变量 称为因子 6 因子分析与回归分析不同 因子分析中的因子是一个比较抽象的概念 而回归因子有非常明确的实际意义 7 因子分析的数学模型为 X为原有变量 标准化变量 均值为0 标准差为1 F为因子变量 互不相关 方差为1 原变量被表示为公共因子的线性组合 8 概念 因子变量 公共因子 F因子负荷特殊因子 相当于残差变量共同度公共因子的方差贡献率 9 二 因子分析中的几个统计特征 1 因子载荷的统计意义 假定x已经标准化 当各个因子变量不相关时 因子载荷是第i个变量与第j个公共因子的相关系数 反映了第i个变量与第j个公共因子的相关重要性 绝对值越大 相关的密切程度越高 10 2 变量共同度的统计意义 定义 变量的共同度是因子载荷矩阵的第i行的元素的平方和 记为 统计意义 两边求方差 所有的公共因子和特殊因子对变量的贡献为1 如果非常靠近1 非常小 则因子分析的效果好 从原变量空间到公共因子空间的转化性质好 11 3 公共因子方差贡献的统计意义 定义为 因子载荷矩阵中第j列上各个元素的平方和称为对的方差贡献和 衡量的相对重要性 反映了 该因子对所有的原始变量总方差的解释能力 12 三 因子旋转 正交变换 建立了因子分析数学目的不仅仅要找出公共因子以及对变量进行分组 更重要的要知道每个公共因子的意义 以便进行进一步的分析 如果每个公共因子的含义不清 则不便于进行实际背景的解释 由于因子载荷阵是不惟一的 所以应该对因子载荷阵进行旋转 目的是使因子载荷阵的结构简化 使载荷矩阵每列或行的元素平方值向0和1两极分化 有三种主要的正交旋转法 四次方最大法 方差最大法和等量最大法 为什么要旋转因子 13 百米跑成绩跳远成绩铅球成绩跳高成绩400米跑成绩百米跨栏铁饼成绩撑杆跳远成绩标枪成绩1500米跑成绩 奥运会十项全能运动项目得分数据的因子分析 14 因子载荷矩阵可以看出 除F1在所有的变量上有较大的正载荷 可以称为一般运动因子 其他的3个因子不太容易解释 于是考虑旋转因子 得下表 15 旋转因子之后 短跑速度因子 爆发性臂力因子 爆发腿力因子 长跑耐力因子 16 通过旋转 因子有了较为明确的含义 百米跑 跳远和400米跑 需要爆发力的项目在有较大的载荷 可以称为短跑速度因子 铅球 铁饼和标枪在上有较大的载荷 可以称为爆发性臂力因子 百米跨栏 撑杆跳远 跳远和为跳高在上有较大的载荷 爆发腿力因子 长跑耐力因子 17 四 因子分析的步骤 确定待分析的原有若干变量是否适合于因子分析构造因子变量主成分分析法利用旋转使得因子变量更具可解释性计算因子变量得分 18 因子得分的概念 前面我们主要解决了用公共因子的线性组合来表示一组观测变量的有关问题 如果我们要使用这些因子做其他的研究 比如把得到的因子作为自变量来做回归分析 对样本进行分类或评价 这就需要我们对公共因子进行测度 即给出公共因子的值 19 因子分析的数学模型为 原变量被表示为公共因子的线性组合 当载荷矩阵旋转之后 公共因子可以做出解释 通常的情况下 我们还想反过来把公共因子表示为原标量的线性组合 因子得分函数 可见 要求得每个因子的得分 必须求得分函数的系数 而由于p m 所以不能得到精确的得分 只能通过估计 20 确定待分析的原有若干变量是否适合于因子分析原有变量之间要有较强的相关计算变量之间的相关系数矩阵 如果大部分的相关系数都小于0 3 且未达到显著 那么这些变量不适合进行因子分析 21 SPSS提供的检验方法Bartlett球形检验 依据相关矩阵零假设 原有变量的相关系数矩阵是单位阵 对角线为1 其余为0 如果相关系数矩阵的行列式较大 适合作因子分析 KMO Kaiser Meyer Olkin 检验 比较相关与偏相关取值 0 1越接近于1 则所有变量之间的简单相关系数平方和远大于偏相关系数平方和 因此适合作因子分析 0 9 KMO 非常适合 0 7KMO 0 8 一般KMO 0 5 不适合 22 反映像相关矩阵检验以变量的偏相关系数矩阵为出发点 将偏相关系数矩阵的每个元素取反 得到反映像相关矩阵 如果变量之间存在较多的重叠影响 那么偏相关系数就会较小 因此如果反映像相关矩阵中有些元素的绝对值较大 那么说明这些变量不适合于因子分析 23 24 SPSS实现 25 选择菜单 Analyze DimensionReduction Factor 命令 26 因子分析主对话框 将要分析的原有变量选入右侧variables 27 Factor过程的选择项FACTOR过程的选择项共分为五类 分别使用主对话框中的五个子对话框按钮展开相应的子对话框进行选择 Descriptives展开相应的子对话框可以选择单变量的描述统计量和初始分析结果 Extraction展开相应的子对话框可以选择不同的提取公因子的方法和控制提取结果的判据 Rotation展开相应的子对话框可以选择因子旋转方法 Scores展开相应的子对话框可以要求计算因子得分 选择显示或作为新变量保存 Options展开相应的子对话框可以进一步选择各种输出项 28 1 Descriptives子对话框中的选择项Descriptives子对话框 描述统计量分的选择项为两组 29 1 Statistics统计量组 共有两项供选择 UnivariateDescriptives单变量描述统计量 选择此项可以输出参与分析的各原始变量的均值 标准差等 Initialsolution初始分析结果 选择此项可以给出原始变量的公因子方差 与变量数相等的因子 各因子的特征值 各因子特征值占总方差的百分比以及累积百分比 30 2 CorrelationMatix相关矩阵组 Coeffients相关系数选择此项给出原始变量间的相关系数矩阵 这是分析的基础 Significancelevels显著性水平选择此项给出每个相关系数相对于相关系数为0的设检验的概率水平 Determinant相关系数矩阵的行列式 Inverse相关系数矩阵的逆矩阵 31 Reproduced再生相关阵 选择此项给出因子分析后的相关阵 还给出残差 即原软关与再生相关之间的差值 Anti image反映像相关阵 包括偏相关系数的负数 反映像协方差阵 包括偏协方差的负数 在一个好的因子模型中除对角线上的系数较大外 远离对角线的元素应该比较小 KMOandBartlett stestofsphericityKMO和球形Bartlett检验 选择此项给出对采样充足度的Kaisex Meyer Olkin测度 检验变量间的偏相关是否很小 Bartlett球形检验 检验的书相关阵是否是单位阵 它表明因子模型是否是不合适宜的 Continue按钮确认选择 返回主对话框 Cancle按钮使选择作废 返回主对话框 32 2 Extraction因子提取子对话框Extraction因子提取子对话框 有关因子提取的选择项共分四部分 如果是主成分分析 则选PrincipalComponents 33 1 因子提取方法选择项子对话框第一项Method 是一组指定提取方法的选择项 单击矩形框右面的箭头可以展开提取方法选择项表 提供七种提取方法可以选择 Principalcomponents主成份法 该方法假设变量是因子的纯线性组合 Unweightedleastsquare不加权最小平方法 该方法使观测的和再生的相关阵之差平方最小 Generalizedleastsquare用变量的单位加权一体观测的和再生的相关阵之差的平方最小 34 MaximumLikelihoud最大似然法 此方法不要求多元正态分布 给出参数估计 如果样本来自多元正态总体它们与原始变量的相关阵极为相似 PrincipalAxisfactoring使用多元相关的平方作为对公因子方差的初始估计 Alpha 因子提取法 Image映象因子提取法 是根据变量映象的概念提取公因子的方法 把一个变量看作其它各变量的多元回归 35 2 Extract控制提取进程和提取结果的选择项理论上因子数目与原始变量数目相等 但因子分析的目的是用少量因子代替多个原始变量 选择提取多少个因子由本组选择项决定 Eigenvaluseover该选择项指定提取的因子的特征值 在此项后面的矩形框中给出系统默认值为1即要求提取那些特征值大于1的因子 指定特征值决定提取因子数目的方法是系统默认的方法 Numberoffactor该选择项指定提取公因子的数目 用鼠标单击选择此项后 将指定的数目键人到该选择项后面的矩形框中 36 3 Display指定与因子提取有关的输出项 Unrotatedfactorsolution要求显示未经旋转的因子提取结果 此项为系统默认的输出项 Screeplot要求显示按特征值大小排列的因子序号与特征值为两个坐标轴的碎石图 4 MaximumiterationsforConvergence因子分析收敛的最大迭代次数 系统默认的最大迭代次数为25 Continue按钮确认所有选择 返回主对话框 Cancel按钮作废本次所有选择 返回主对话框 37 3 Rotation旋转方法选择子对话框Rotation旋转方法选择子对话框 选择项分三组 38 1 Method旋转方法选择项 None不进行旋转 此为系统默认的选择项 Varimax方差极大法旋转 也叫正交旋转 对因子作旋转 Quartimax四次方最大正交旋转 对变量作旋转 Equamax平均正交旋转 和 结合 DirectOblimin斜交旋转 指定此项可以在下面的矩形框中键入值 该值应该在0 1之间 是因子映象自相关的范围 0值产生最高相关因子 Promax斜交旋转 允许因子间相关 速度快 适用于大数据 39 2 Display有关输出显示的选择项 Rotatedsolution旋转结果 指定此项将对正交旋转显示旋转后的因子矩阵模式 因子转换矩阵 对斜交旋转显示旋转后的因子矩阵模式 因子结构矩阵和因子间的相关阵 Loadingplot s 因子载荷散点图 指定此项将给出以两两因子为坐标轴的各变量的载荷散点图 如果有两个因子 给出各原始变量在factorl factor2坐标系中的散点图 如果多于两个因子则给出三维因子载荷散点图 3 MaximumiterationsforConvergence 旋转收敛的最大迭代次数 系统默认值为25 可以在此项后面的矩形框中键入指定值 40 有关因子得分的选择项在FactorScorce子对话框中 选择项共分三组 4 FactorScorce有关因子得分的选择项 41 1 Saveasvariables选择此项 将因子得分作为新变量保存在数据文件中 程序运结束后 在数据窗中显示出新变量 对每一次分析产生一组新变量 用最后一个数字字符表示分析的顺序号 每次分析中产生多少个因子 就生成多少个新变量 因子序号占倒数第三个字符的位置 倒数第二个字符为 在输出窗中给出对因子得分的命名解释 42 2 Method指定计算因子得分的方法 可供选择的方法有 Regression回归法 其因子得分的均值为0 方差等于估计因子得分与实际因子得分之间的多元相关的平方 Bartlett巴特利特法 因子得分均值为0 超出变量范围的各因子平方和被最小化 Anderson Rubin安德森一鲁宾法 其因子得分的均值为0 标准差为1 是为了保证因子的正交性而对巴特利特因子得分的调整 43 3 Displayfactorscorecoefficientmatrix选择此项将在输出窗中显示因子得分系数矩阵 是标准化的得分系数 原始变量值进行标准化后 可以根据该矩阵给出的系数计算各观测量的因子得分 44 5 Options有关输出的选择项有关输出方式以及对带有缺失值的观测量处理方法的选择项均在Options子对话框中 45 SPSS结果 46 一 描述统计部分 Univariatedescriptives项的输出结果 47 二 相关矩阵 相关矩阵显著性水平 三 相关系数矩阵的逆矩阵 InverseofCorrelationMatrix 48 四 KMO和Bartlett KMO 783 可以作因子分析 拒绝Bartlett球形检验 单位阵 适合作因子分析 49 五 反映像相关矩阵的检验结果如果某些变量的绝对值较大 不适合因子分析 六 因子分析的初始结果原始解 主成分分析法得到9个特征值最终解 提取m个特征值 50 七 因子提取和因子旋转结果 初始解提取 特征值大于1 旋转 特征值方差贡献率累计方差贡献率 51 八 公共因子碎石图 前3个因子 特征值变化明显 4个以后趋于平缓 因