高级基础统计 6

LatentVariableModels潜变量模型02

主成分分析和因子分析01

概念介绍03

结构方程模型原理04

案例分析和实际操作CONTENTS目录潜变量模型是在存在测量困难、内生性和不可观测变量或潜在变量的情况下阐明数据结构的工具。数据结构是指数据中变量之间的关系，包括直接或因果关系、间接或中介关系、关联以及测量误差在模型中的作用。测量困难包括通过外生可观测变量间接测量不可观测或潜在结构时遇到的挑战。交通领域潜在变量的例子包括对交通政策或计划的态度，如汽油税、货车拼装、高乘载率车辆专用道和公共交通。教育、社会经济地位或态度对驾驶员决策的影响也可能是人们关注的焦点，这些因素也很难直接测量。如前几章所述，内生性是指变量的值主要由统计模型或系统中的因素或变量决定。有几种揭示数据结构的方法。1、主成分分析作为一种探索性方法，被广泛用于揭示数据结构。2、因子分析是主成分分析的近亲，是一种研究多元数据潜在结构的统计方法。3、结构方程模型指的是一种正式的建模框架，专门用于处理不可观测或潜在变量、变量间的内生性以及在交通应用中经常遇到的社会现象中的复杂潜在数据结构。01概念介绍主成分分析（PCA）使用原始测量变量的几个线性组合来解释方差-协方差结构。通过这一过程，可以对数据进行更简洁的描述--用更少的精心选择的变量组合来减少或解释许多变量的方差。举例来说，如果总变异的很大一部分（70%-90%）归因于几个不相关的主成分，那么这些成分就可以在不损失太多信息的情况下取代原始变量，并且还能描述数据中的不同维度。如果原始变量互不相关，那么主成分分析就毫无用处。因此，举例来说，随机处理的实验数据并不适合主成分分析。然而，观察数据通常包含大量相关变量，非常适合主成分分析。如果发现用4或5个主成分（维度）就能充分描述20或30个原始变量的方差，那么主成分分析就成功了。主成分分析的基本步骤是：将X矩阵中的所有观测变量标准化，计算方差-协方差矩阵，即标准化后的相关矩阵，确定相关矩阵的特征值和相应的特征向量（第i个主成分的系数由特征向量给出，而方差由特征值给出），舍弃占数据变异比例相对较小的任何成分。主成分分析的目的是揭示数据中潜在的共性或结构。在以观察数据为基础的探索性研究中，一些变量往往测量的是相同的基本结构，而这种基本结构正是主成分分析所要寻找的。其目的是减少潜在解释变量的数量，并深入了解数据中捕捉到了哪些基本维度。02

主成分分析主成分分析法首先指出，n个观测值，每个观测值上有P个变量或测量值，用n×P矩阵X表示：

02

主成分分析主成分分析不是统计模型，也没有因变量和自变量之分。如果主成分分析有用，则有K<n个主成分，其中第一个主成分是：使个体间的变异性（VAR）最大化，受限条件是因此，在方程的约束下，VAR（Z1）可以达到最大值，之所以施加该约束条件，只是因为解是不确定的，否则就可以简单地增加一个或多个aij来增加方差。然后，加上相关系数（COR[Z1,Z2]）为0的约束条件下，寻找第二个主成分

，使个体间的变异性最大化。

在此基础上，根据对aij的相同限制，添加第三个主成分，额外的限制条件是三个变量的相关系数为0。

例题在某地区对281名通勤者进行了调查。调查的目的是收集乘客对高乘员车辆（HOV）车道（仅限2人或2人以上车辆使用的车道）的意见或态度。除了一系列社会人口和通勤行为问题外，还向通勤者提出了一系列有关HOV车道及其使用的态度问题。变量说明见表。02

主成分分析02

主成分分析02

主成分分析02

主成分分析02

主成分分析评估是否能将大量变量（包括态度、社会人口和旅行行为）提炼为一组较小的变量是非常有用的。为了进行评估，需要对相关矩阵（而非方差-协方差矩阵）进行主成分分析。图显示了前10个主成分的图表。从图中可以看出，第一主成分约占总方差的19%，第二主成分约占10%，第三主成分约占8%，第四主成分约占7%，其余各主成分约占5%。10个主成分约占方差的74%，6个主成分约占主成分分析所用23个变量方差的55%。因此，有证据表明，至少某些变量能够解释基本现象的相似层面。02

主成分分析主成分分析的因子载荷结果：变量Comp.1Comp.2Comp.3Comp.4Comp.5Comp.6旅行行为变量

HOVPst5-0.380

-0.2840.236

DAPst50.396

0.274-0.283

0.128CrPPst5-0.303

-0.2230.2400.2820.221CrPPst52Mr-0.109

0.1670.196-0.107VnPPst5

-0.146

BusPst5-0.161-0.140-0.2270.112-0.514-0.395NonMotPst5

0.471MotPst5

0.104

0.381-0.418ChgRtePst5

0.525-0.302HOVAttitudeVariablesHOVSavTime-0.325

0.301-0.140

HOVAdUse-0.321

0.227-0.133

HOVOpn0.364

-0.2160.210

GPToHOV-0.3390.1250.230-0.115

GTToHOV2-0.260

0.245-0.153

02

主成分分析主成分分析的因子载荷结果（续）：变量Comp.1Comp.2Comp.3Comp.4Comp.5Comp.6社会人口变量

性别0.117

0.3880.180

-0.199年龄

0.2680.341-0.363-0.270HHIncm

0.3040.1310.489

0.101教育程度

0.1880.2470.443

0.247家庭规模

0.429-0.122

NumAdlt

0.516-0.188-0.128-0.133

工作人数

0.451-0.242-0.137

汽车数量

0.372-0.106

0.107-0.26802

主成分分析例如，第一个主成分的系数为所有变量都有估计系数（或载荷）。然而，由于系数相对较小，表

中省略了小于0.1的系数。第一个主成分对出行行为变量和HOV态度变量的负载很大。此外，Z1随任何非单独驾车出行变量（HOV、拼车、公交车）的减少而增加，随支持HOV态度的减少而增加，且男性的Z1增加。通过这种方式分析主成分，可以更好地理解变量之间的一些关系。

因子分析的目的是将P变量的数量减少到一组较小的K<P变量。其目的是用几个不可观测的因素来描述许多变量之间的协方差。不过，主成分分析与因子分析之间有一个重要区别。因子分析基于特定的统计模型，而主成分分析则不然。与主成分分析一样，因子分析依赖于相关矩阵，因此因子分析适用于以区间和比率量表测量的变量。02

因子分析02因子分析p个随机误差和m个因子载荷是不可观测或潜在的。在p个方程和p+m个未知数的情况下，如果没有额外的信息，就无法直接求解未知数。为了求解未知因子载荷和误差，需要施加限制条件。限制类型决定了因子分析模型的类型。使用的因子旋转方法决定了因子分析模型的类型，是正交还是斜交。因子载荷要么接近于1，要么接近于0。接近1的因子载荷表明变量Xi主要受Fj的影响。相反，如果因子载荷接近零，则表明变量Xi没有受到Fj的实质性影响。我们寻求尽可能多样化的因子载荷集合，以便于解释。因子分析的解释简单明了。因子载荷高的变量被认为对描述因子的影响很大，而因子载荷低的变量对描述因子的影响较小。对特定因子上因子载荷高的变量进行检查，可以发现变量之间的结构或共性。然后，我们必须确定在特定因子上具有高负荷的变量所共有的基本结构。02因子分析继续前面的例子，对连续变量进行因子分析，以确定哪些变量可以解释类似的基本现

象。用于主成分分析的同一组变量再次用于正交变轴旋转的探索性因子分析。由于六个主成分可以解释大约55%的数据方差，因此估计的因子数量为六个。表显示了该因子分析得出的因子载荷。变量Comp.1Comp.2Comp.3Comp.4Comp.5Comp.6旅行行为变量

HOVPst50.3060.6580.3230.147

0.147DAPst5-0.278-0.846-0.358-0.206

-0.167CrPPst50.2210.930-0.217-0.166-0.109

CrPPst52Mr0.112

0.987

VnPPst5

0.675BusPst50.1130.1080.983

NonMotPst5

0.298MotPst5

0.992

ChgRtePst5-0.125

-0.113

0.158

HOVAttitudeVariablesHOVSavTime0.7340.142

HOVAdUse0.6420.110

0.135HOVOpn-0.814-0.117

GPToHOV0.6810.156

GTToHOV20.515

社会人口变量

年龄

-0.128

HHIncm

-0.167

教育程度

家庭规模

-0.129工作人数

0.105

汽车数量

1.基本概念结构方程模型（Structural

Equation

Modeling,SEM）是一种验证性多元统计分析技术，是应用线性方程表示观测变量与潜变量之间，以及潜变量之间关系的一种多元统计方法，其实质是一种广义的一般线性模型。SEM假定一组潜变量之间存在因果关系，潜变量可以分别用一组显变量表示，是某几个显变量中的线性组合。通过验证显变量之间的协方差，可以估计出线性回归模型的系数，从而在统计上检验所假设的模型对所研究的过程是否合适，如果证实所假设的模型合适，就可以说假设潜变量之间的关系是合理的。SEM包括：因子分析（验证性因子分析、

探索性因子分析）、回归分析、路径分析、

t检验、方差分析、潜变量因果模型（全模型）、高阶因子分析、多质多法分析、潜变量增长模型03结构方程模型2.产生发展①20世纪70年代，一些学者（Joreskog,

1973;Wiley,

1973）将因子分析、路径分析等统计方法整合，提出结构方程的初步概念。②Joreskog与其合作者进一步发展矩阵模型的分析技术来处理共变结构的分析问题，提出测量模型与结构模型的概念，促成SEM的发展。③Ullman（1996）定义结构方程为“一种验证一个或多个自变量与一个或多个因变量之间一组相关关系的多元分析程式，其中自变量和因变量既可以是连续的，也可以是离散的

”，突出其验证多个自变量与多个因变量之间关系的特点。概念3.应用领域SEM在心理学、社会学、行为科学等领域均得到广泛使用①在心理学领域，SEM可以应用于检验心理测量的信度、效度及解释测量中的一些问题，为检验观察数据与基木行为结构之间的关系提供了一种有效的方法。②在社会科学及管理学等领域，许多变量是人们为了理解和研究问题而建立的假设概念，是不能直接测量的，也不存在直接的测量方法，称为“潜变量

”。利用一些可观测变量作为潜在变量的“标识

”时，又往往包含大量的测量误差。运用SEM能够使研究人员在

分析中处理测量误差，探求潜在变量之间的结构关系。③在市场研究领域，SEM可以用于消费者满意度研究、对产品或服务的偏好以及购买行

为研究、行为和态度动机的探索、生活方式研究等。④新的应用：多重样本分析、交互作用效应的检验、均数差异检验、纵向设计概念

潜变量：

在社会科学及经济、心理行为、教育、管理、生存质量、中医症候等诸多研究领域,在处理

多个原因,多个结果关系时,经常会碰到许多无法直接准确测量的指标。如智力、焦虑、疾病

易感性、企业品牌意识、某观念的社会认同感、职业紧张程度等,我们称之为潜变量。

这里的潜变量概念与因子分析中的潜在因子含义相同,是用来描述那些潜在的、无法直接观察的,但其所隐含的意义可以利用一个或若干个可观测变量加以度量的变量,需要测量来推测的变量,潜变量也叫做潜在变量、隐变量、隐含变量、潜在因子(latentfactor)等,与潜变量相对应的是显变量(manifestvariable),是指可以直接观测或度量的变量,如家庭收入、教育水平、职业等,显变量又称为显在变量、观测变量、指示变量(indicators)或度量变量。

潜变量与指示变量均分为内生变量(endogenousvariable)与外生变量(exogenousvariable).内生变量指由模型内变量作用所影响的变量,在一个假定的因果模型中被看作是

效应变量或因变量,外生变量是那些影响模型中其他变量的变量,在模型中为起因变量或

自变量,通常我们用X表示外生指示变量,Y表示内生指示变量;外生潜变量和内生潜变量分别用ξ（Ksi）和η(Eta)表示。概念概念验证性因子分析前面介绍了因子分析(factoranalysis),因子分析沿袭了主成份分析降维的思想,是从多指标数据相关关系入手,找出支配这种相关关系的有限个不可观测的潜在变量,利用潜在变量解释原始指标变量相互关系,其实质是一种用来检验潜在结构(latentstructure)是怎样影响观测变量的多元统计方法,因此,因子分析成为评价构念效度最有力的方法,由分析目的,因子分析可分为探索性因子分析(exploratoryfactoranalysi,EFA)和验证性因子分析(conirmatoryfactoranalysis,FA)两种形式.探索性因子分析即通常所讲的因子分析,致力于找出事物内在的本质结构;而验证性因子分析又称证实性因子分析,是研究者对已研究的可测变量与潜在变量之间内在结构已经清楚,即用来检验已知的特定结构是否按照预期的方式产生作用,进一步需要确定可测变量在潜在变量上的载荷大小,并检验这种结构与数据的吻合程度,不同之处在于验证性因子分析允许潜在的变量之间相关,而探索性因子分析要求潜在变量独立,验证性因子分析在社会、心理、行为、教育、管理及医学诸多研究领

域,常用来评价某个量表或测验的构念效度(constructvalidiy),不失为一种最有力的评价方法.验证性因子分析的数学模型其实就是SEM的测量模型部分。结构方程模型是由两个测量模型(measurementmode)和一个结构模型(structuralmodel)组成的,其中测量模型即为上述验证性因子分析,与通径分析一样,利用结构方程模型分析问题时,也要构造路径图(pathdiagram).图9.2测量模型一表示结构方程模型第一个测量模型路径图,描述了外生潜变量(例如上述提到的"社会支持")与其指示变量X之间的关系.图9.3是第二个测量模型路径图,表示内生潜变量与其指示变量Y之间的关系图9.4是结构模型路径图,结构模型描述了外生潜变量与内生潜变量之间的结构关系。图9.5是完整的结构方程模型路径图,路径图能直观地描绘变量间的相互关系。结构方程模型的结构结构方程模型的结构图9.1图9.2图9.3结构方程模型的结构图9.51.模型的数学形式图9.5对应的结构方程模型数学表达式是

基本原理一般结构方程模型是由表示Y与η

、X与ξ

间联系的两个测量模型(mesurementmode)和表示ξ与η间结构关系的一个结构模型(structuralmodel)组成

基本原理X是外生观察变量构成的向量;Y是内生观测变量构成的向量;ξ是外生潜变量构成的向量;η是内生潜变量构成的向量;δ是X的测量误差构成的向量;ε是Y的测量误差构成的向量;是X对的回归系数(因子载荷)矩阵:是Y对

的回归系数(因子载荷)矩阵;Γ是结构关系中ξ的系数矩阵;δ是η和ξ之间结构方程的误差构成的向量;B是结构关系中η的系数

矩阵,B的对角元素为零且B是非奇异矩阵.2.模型假定条件为实现参数求解,通常要求模型满足一些假定:(1)误差项δ、ε的均值为0;(2)δ、ε分别与ξ、η间不相关,ε,δ不相关;(3)结构误差ζ的均值为0,与ξ不相关,且各个δ彼此独立;(4)δ、ε、ζ之间彼此不相关.

基本原理3.模型拟合的思想公式包含q个外生观测变量X,P个内生观测变量Y。令S是由样本数据计算出来的关于（p+q）个观测变量(Y,X)的方差-协方差矩阵,它是与结构方程中的参数无关的,称为样本的方差-协方差矩阵。结构方程模型的八个参数矩阵中共含有k个未知参数,也是

需要从模型中估计的参数,称自由参数(reeparmeter)令θ是由这k个未知参数构成的k维向量,那么由式可以导出(Y,X))的理论方差-协方差矩阵当

的差异越小时,就表明理论模型拟合效果越好。

基本原理应用结构方程模型分析变量间复杂关系,可按下面提供的流程图(图9.6)分为五个步骤进行:①模型设定(modelspecification);②模型识别(modelidentification);③模型估计(modelestimation);④模型评价(modelevaluation);⑤模型修正(modelmodfcaion)。

分析步骤1.均值结构模型(meanstructuralmodel)是以中心化模型为研究基础,其原理与方法都与

中心化模型有着密切联系,由于均值结构模型增加了更多参数向量,使模型理论的建立与方法的使用都变得更为复杂,无论是模型的设定,还是模型的识别等,都要比中心化模型困难。(1)均值结构模型的表达:前面我们利用协方差结构讨论了中心化模型,如果研究者欲比较不同组对应潜变量的均值和测量方程的截距,就必须考虑均值结构模型,模型表达如下:均值结构模型均值结构模型假设:与中心化模型一样,均值结构模型同样有限定条件,模型假设

如下:1)误差项ε、δ的均值为零;2)结构方程残差项ζ的均值为零;3)误差项ε、δ与因子η、ξ之间不相关,ε和δ不相关;4)残差项ζ和ξ、ε、δ之间不相关。均值结构模型2.均值结构模型的多组比较(1)结构