第六章 因子分析.pptx

第六章因子分析,因子分析的概念因子分析的计算与应用,第六章1因子分析的概念统计分析中，需要寻找与预报对象y有关的气象要素变量作为预报因子(x1,x2,xm)，来建立预测模型并进行预报。各因子变量之间通常存在着相关关系，这时，它们对预报对象y的贡献会有交叉重叠的成分(称为“公共信息”或“共同因素”)，另外，也有各变量独立的成分(称为“独立信息”或“特殊因素”)。,为了提高因子的利用率，需要将公共信息与独立信息尽可能地分离开来，以便采取公共信息作为新的因子变量(少于原变量的个数m)建立预报方程，从而达到减少误差，提高预报准确率的效果。简言之，从数量较多的因子变量中分离出数量较少的新因子，并分析原变量与各个新因子之间的关系，这称为“因子分析”。,例：x1和x2两个变量，存在相关性，寻找它们的共同信息和独立信息，并分离。,对x1和x2做了20次观测，如右图所示20个散点，两样本的相关系数为0.92。可见，第一主成分y1可以表征x1和x2的共同的成分；所以因子分析与主成分分析(或经验正交函数分解)有密切联系。,把x1(蓝色),x2(绿色),y1(红色),y2(品红色)的时间序列进行标准化，然后画在一起，如右图所示，观察他们之间的相关性。,每个主成分即为新的因子，其中，第一主成分y1体现了两个原变量共同的成分。,主因子的概念,如果对m个原变量(x1,x2,xm)进行n次观测，则各主成分的时间序列可表示为：,主成分的方差，即X的协方差阵的特征值，按照y1、y2、ym的顺序从大到小进行排列。为了分析各主成分对原变量的作用、研究原变量与各主成分的关系:对各主成分进行标准化，使它们的方差都等于1，这时的主成分称为“主因子”。,第i个主因子就是第i个主成分yi的标准化，记为fi,有：,m个主因子的向量形式：,由于各个i大小不同，xi受前p个因子的影响较为显著，其余(m-p)个因子的贡献太小，可以忽略或认为是误差，于是，我们取L1/2的前p列，f的前p行(仍记为f)，原变量x可表示为：,因子模型,上述模型中的f1,f2,fp被称为“公共因子”，由于它们作用较大，可认为是各变量共同拥有的因子；剩下的fp+1,fp+2,fm叫做“特殊因子”，可认为是各原变量xi所特有的因子；各特殊因子之间以及与所有公共因子之间都是相互独立的。,矩阵A中的元素aij叫做第i个变量xi在第j个因子上的“因子载荷”，A被称为“因子载荷阵”。当aij的绝对值大时，公共因子fj的因子载荷就大，表明xi对fj的相依程度大。,因子载荷阵的统计意义,根据因子模型，第i个变量xi可表示为：,所以，xi在fj因子上的载荷aij就是它们的协方差，因子分析中，通常xi是标准化的，这时因子载荷aij就是xi与fj的相关系数。,变量的共同度,考察xi的方差：,hi2越大表明xi受所有公共因子(f1,f2,fp)共同影响的程度越大，所以hi2称为变量xi的“共同度”。,公共因子对x的方差贡献,对因子载荷阵A中第j列元素求平方和，记为：,表示第j个公共因子fj对x的所有m个变量(x1,x2,xm)的总方差贡献,即：第j个公共因子fj对x的所有m个变量的总方差贡献就是第j主成分的方差，即m个变量协方差阵的特征值。,第六章2因子分析的计算与应用,例(P165)：对青岛3、4、5月的平均气温(1958-1987年，表5.2)进行因子分析,前面的学习已知，因子分析与主成分或EOF的计算相同，都是先求协方差阵S的特征值与特征向量。在因子分析中，通常我们希望了解变量间的相关关系，所以需要计算m个变量的相关系数阵R。,该例中，m=3,n=30,首先，计算3个变量的相关系数阵为：,算得R的3个特征值为：1=1.7568，2=0.7947，3=0.4486,第1个因子的方差贡献率为：1.7568/(1.7568+0.7947+0.4486)=0.59前2个主因子的累积方差贡献率为：(1.7568+0.7947)/(1.7568+0.7947+0.4486)=0.85,前两个因子的方差贡献已经较高(80-90%),因此，将取前2个因子作为公共因子进行分析。,第一个公共因子的载荷向量为：,第二个公共因子的载荷向量为：,于是，前两个因子的载荷阵为：,至此，有关因子分析的计算基本完毕。,因子分析主要用来分析什么？可以获得什么具有物理意义的结论？,（1）分析各个公共因子对各个变量的重要性,对第一公共因子来说，4月份在它上面的载荷最大(关系最密切)，因此第一公共因子主要反映4月气温的变化；而第二公共因子主要反映5月份的气温变化。,（2）分析各个变量的公共性,可见，5月份的共同度最大，说明5月份受所有公共因子综合的影响最大，5月气温最具有代表性，可以用5月份的气温来代表春季三个月的气温。,（3）聚类分析,由于p个公共因子是正交的，可把它们看成是p维空间的一个正交基底。根据因子载荷，确定m个变量的在p维空间中的位置。根据m个点的聚集情况可对m个变量进行分类。,本例中，m=3,p=2;把3个变量的因子载荷画在图上，发现，3月与4月两点比较接近，可以划成一类，而5月划作另一类。,R型与Q型因子分析,前面所举的因子分析的例子，是以m个月份(或者空间点)为变量，从它们的相关阵R（R为m阶方阵）出发进行因子分析，着重研究空间点变量与公共因子之间的相关情况，这种因子分析称为“R型因子分析”,如果着眼点是研究n个时间点与公共因子之间的相关情况，即：以n个时间点(或n个样品)作为变量，分析它们与公共因子之间的关系，这种因子分析称为“Q型因子分析”，这时，需要对n阶方阵求解特征值与特征