第13章 主成分分析和因子分析stata统计分析与应用

,第13章主成分分析和因子分析,13.1主成分分析,13.1.1主成分分析的基本原理13.1.2主成分分析的数学模型13.1.3主成分分析的步骤13.1.4主成分分析的Stata命令,主成分的概念由KarlPearson在1901年提出考察多个变量间相关性一种多元统计方法研究如何通过少数几个主成分(principalcomponent)来解释多个变量间的内部结构。即从原始变量中导出少数几个主分量，使它们尽可能多地保留原始变量的信息，且彼此间互不相关主成分分析的目的：数据的压缩；数据的解释常被用来寻找判断事物或现象的综合指标，并对综合指标所包含的信息进行适当的解释,什么是主成分分析？(principalcomponentanalysis),对这两个相关变量所携带的信息(在统计上信息往往是指数据的变异)进行浓缩处理假定只有两个变量x1和x2，从散点图可见两个变量存在相关关系，这意味着两个变量提供的信息有重叠,主成分分析的基本思想(以两个变量为例),如果把两个变量用一个变量来表示，同时这一个新的变量又尽可能包含原来的两个变量的信息，这就是降维的过程,数学上的处理是将原始的p个变量作线性组合，作为新的变量设p个原始变量为，新的变量(即主成分)为，主成分和原始变量之间的关系表示为,主成分分析的数学模型,主成分分析的数学模型,aij为第i个主成分yi和原来的第j个变量xj之间的线性相关系数，称为载荷(loading)。比如，a11表示第1主成分和原来的第1个变量之间的相关系数，a21表示第2主成分和原来的第1个变量之间的相关系数,对原来的p个指标进行标准化，以消除变量在水平和量纲上的影响根据标准化后的数据矩阵求出相关系数矩阵求出协方差矩阵的特征根和特征向量确定主成分，并对各主成分所包含的信息给予适当的解释,主成分分析的步骤,Stata命令,pca、pcamatestatscreeplotscoreplot、loadingplotrotatepredict,【例】根据2008年一季度沪深两市农业板上市公司的9项主要指标数据，进行主成分分析，找出主成分并进行适当的解释,主成分分析(实例分析),Stata的输出结果,estatsmc,变量之间的存在较强的相关关系，适合作主成分分析,Stata的输出结果(选择主成分),该表是选则主成分的主要依据,“InitialEigenvalues”(初始特征根)实际上就是本例中的9个主轴的长度特征根反映了主成分对原始变量的影响程度，表示引入该主成分后可以解释原始变量的信息特征根又叫方差，某个特征根占总特征根的比例称为主成分方差贡献率设特征根为，则第i个主成分的方差贡献率为比如，第一个主成分的特征根为3.54354，占总特征根的的比例(方差贡献率)为39.37%，这表示第一个主成分解释了原始9个变量39.37%的信息，可见第一个主成分对原来的9个变量解释的还不是很充分,根据什么选择主成分？,根据主成分贡献率一般来说，主成分的累计方差贡献率达到80%以上的前几个主成分，都可以选作最后的主成分比如表中前3个主成分的累计方差贡献率为78.13%根据特特征根的大小一般情况下，当特征根小于1时，就不再选作主成分了，因为该主成分的解释力度还不如直接用原始变量解的释力度大比如表中除前3个外，其他主成分的特征根都小于1。所以只选择了3个主成分,根据什么选择主成分？,Stata还提供了一个更为直观的图形工具来帮助选择主成分，即碎石图(ScreePlot)从碎石图可以看到9个主轴长度变化的趋势实践中，通常结合具体情况，选择碎石图中变化趋势出现拐点的前几个主成分作为原先变量的代表，该例中选择前3个主成分即可,根据什么选择主成分？(ScreePlot),怎样解释主成分？,主成分的因子载荷矩阵,表1中的每一列表示一个主成分作为原来变量线性组合的系数，也就是主成分分析模型中的系数aij比如，第一主成分所在列的系数-0.0364表示第1个主成分和原来的第一个变量(ROA)之间的线性相关系数。这个系数越大，说明主成分对该变量的代表性就越大,载荷图(LoadingPlot)直观显示主成分对原始9变量的解释情况图中横轴表示第一个主成分与原始变量间的相关系数；纵轴表示第二个主成分与原始变量之间的相关系数每一个变量对应的主成分载荷就对应坐标系中的一个点第一个主成分很充分地解释了原始的后4个变量(与每个原始变量都有较强的正相关关系)，第二个主成分则较好地var2,var3,var5,var6这2个变量(与它们的相关关系较高)，而与其他变量的关系则较弱(相关系数的点靠近坐标轴),怎样解释主成分？(LoadingPlot),13.2因子分析,13.2.1因子分析的基本原理13.2.2因子分析的数学模型13.2.3因子分析的步骤13.2.4因子分析的Stata命令,因子分析可以看作是主成分分析的推广和扩展，但它对问题的研究更深入、更细致一些。实际上，主成分分析可以看作是因子分析的一个特例简言之，因子分析是通过对变量之间关系的研究，找出能综合原始变量的少数几个因子，使得少数因子能够反映原始变量的绝大部分信息，然后根据相关性的大小将原始变量分组，使得组内的变量之间相关性较高，而不同组的变量之间相关性较低。因此，因子分析属于多元统计中处理降维的一种统计方法，其目的就是要减少变量的个数，用少数因子代表多个原始变量,什么是因子分析？(factoranalysis),原始的p个变量表达为k个因子的线性组合变量设p个原始变量为，要寻找的k个因子(kp)为，主成分和原始变量之间的关系表示为,因子分析的数学模型,因子分析的数学模型,系数aij为第个i变量与第k个因子之间的线性相关系数，反映变量与因子之间的相关程度，也称为载荷(loading)。由于因子出现在每个原始变量与因子的线性组合中，因此也称为公因子。为特殊因子，代表公因子以外的因素影响,共同度量(Communality)因子的方差贡献率,因子分析的数学模型(共同度量Communality和公因子的方差贡献率),变量xi的信息能够被k个公因子解释的程度，用k个公因