MANOVA多响应变量方差综合分析和计算实例

1、MANOVA多响应变量方差综合分析和计算实例MANOVA多响应变量方差综合分析和计算实例第一部分：MANOVA相关基本知识 高晓霞第二部分：MANOVA原理 柯锦秀第三部分：MANOVA实际操作(SPSS) 李帅多元方差分析 MANOVAMANOVA多响应变量方差综合分析和计算实例相关统计方法的回顾MANOVA基本介绍线性代数基础知识回顾MANOVA 基本统计量 高晓霞第一部分：MANOVA相关基本知识MANOVA多响应变量方差综合分析和计算实例1. 相关统计方法 回顾 t-检验 一个自变量、一个响应变量，检验两个样本(k=2)的平均值差异程度，适用于较小样本(样本量:2)样本均值，检验一个或

2、多个自变量对一个响应变量所产生的效应是否有显著差异。 方差分析在功能上是t-检验的推广。MANOVA多响应变量方差综合分析和计算实例1. 相关统计方法 回顾1.2.1 单因素方差分析(One-way ANOVA) 主要用于检验一个自变量、多个水平或多个处理对所研究的一个响应变量的影响。Eg：四组光照条件不同的样地中野生高山乌头的生长速率有无差异？MANOVA多响应变量方差综合分析和计算实例1. 相关统计方法 回顾1.2.2 多因素方差分析(Multi-factor ANOVA) 检验两个及以上自变量、多个水平或多个处理对所研究的一个响应变量的影响。Eg：四组光照与水分均不相同的样地中野生高山乌

3、头的生长速率有无差异？MANOVA多响应变量方差综合分析和计算实例1. 相关统计方法 回顾1.3 协方差分析(ANCOVA) 先用回归方法消除协变量对单一响应变量的影响(协变量与响应变量之间存在线性关系)，再用方差分析方法对自变量的影响作出统计推断。Eg：考虑野生高山乌头的初始重量对其生长速度存在影响，分析不同光照条件的样地中不同初始重量的野生高山乌头生长速率有无差异？MANOVA多响应变量方差综合分析和计算实例 新问题 四组光照条件不同的样地中野生高山乌头的分株数(克隆大小)、重量以及株高有无差异？多元方差分析Multivariate Analysis of VarianceMANOVA多响

4、应变量方差综合分析和计算实例 2. MANOVA 基本介绍 针对一个或多个自变量、多个水平或多个处理、存在两个或两个以上响应变量的数据的方差分析。 在考虑多个响应变量时，MANOVA把多个响应变量看成一个整体，分析自变量对多个响应变量整体的影响，检验不同因素水平下响应变量整体的组间差异是否显著。MANOVA多响应变量方差综合分析和计算实例 2. MANOVA 基本介绍多元方差分析的基本思想 与单因素ANOVA的平方和分解一样(将总体方差分解为组间方差和和组内方差) MANOVA将响应变量的整体差异分解为两部分： 组间差异(处理效应) 组内差异(误差效应) 对这两部分差异进行分析比较。MANOV

5、A多响应变量方差综合分析和计算实例 2. MANOVA 基本介绍是否可用多次ANOVA检验代替MANOVA检验？理论上可以对各个因变量单独进行方差分析，但这种处理存在弊端： 犯第一类错误的概率增大，检验效率低； 一元分析结果不一致时，难以下结论； 忽略了响应变量间相关关系； 有时多个观察指标的联合分布存在差异，但单独对每个指标进行统计学检验时却没有统计学意义；反之亦然。类似ANOVA和多个单独t-检验间的关系MANOVA多响应变量方差综合分析和计算实例 2. MANOVA 基本介绍2.2 适用情况比较T-test ANOVA MAVOVA目的检验两组均值是否差异检验k组(k2)以上均值是否有差

6、异检验k组间在两个以上响应变量间是否有差异样本个数k=2k2k2自变量一个一个或多个一个或多个响应变量一个一个多个MANOVA多响应变量方差综合分析和计算实例 2. MANOVA 基本介绍2.3 MANOVA数据要求若响应变量间相关，相关关系应为线性；若响应变量间不是线性相关，则应把非线性关系线性化。样本规模：要求总样本量和各分组样本量都足够大不能出现较多缺失量测值(若数据缺失较多，不宜取得准确结果)各组样本数最好不要差别太大。MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾行列式是一个数值。根据由n2个数aij （i，j=1,2, n）排成的n行n列的数表而确定的n阶

7、行列式记作D，简记作det(aij)。MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.1 行列式n阶行列式的定义：由n2个数组成的n阶行列式等于所有取自不同行不同列的n个元素的乘积的代数和。D=MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.1 行列式二阶行列式的定义：三阶行列式的定义：MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.2 向量向量：由n个实数ai（i=1,2, n）组成的有序数组（a1,a2,.,an），称为n维向量，其中ai 称为第i个分量。行向量，列向量。向量相加：同维、同向的向量才能相加；

8、对应分量各自相加。MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.3 矩阵矩阵：由mn个数aij（i=1,2,m; j=1,2,n）排成的m行n列的矩形数表，称为一个mn矩阵。行与列相等的矩阵称为方阵。对角矩阵：主对角线以外的所有元素全为零的方阵（n x n 阵）MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.3 矩阵单位阵：主对角线上的所有元素全为1的对角阵，记做1阵数量矩阵：主对角线上的所有元素全为的对角阵，记做阵MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.3 矩阵转置矩阵：把矩阵A的行换成相应的列，得

9、到的新矩阵称为A的转置矩阵，记作AT或A。即A中的aij变为AT中的aji。对称矩阵：其转置等于自身的方阵叫做对称矩阵，就是称A是对称矩阵，则有A=AT。对称矩阵aij= ajiMANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.4 矩阵加法MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.4 矩阵加法MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.5 矩阵减法MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.5 矩阵减法MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回

10、顾3.6 矩阵相乘定义A,B之积m行 l 列矩阵与 l 行n列矩阵的积为m行n列矩阵称C为A 左乘 B，或 B 右乘 AMANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.6 矩阵相乘MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.6 矩阵相乘AB=MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.6 矩阵相乘相乘的条件：左矩阵的列数与右矩阵的行数相等不可乘！MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.7 矩阵相除 现设矩阵A、B，现在求A/B，但矩阵的除法不是直接放在分数线上计算，而

11、是引入一个新概念：逆矩阵。例如矩阵A的逆矩阵为A-1，则有AA-1=1一个矩阵的逆矩阵的求解方法是：先把一个单位矩阵放在目的矩阵的右边，然后把左边的矩阵通过初等行变换转换为单位矩阵，此时右边的矩阵就是我们要求的逆矩阵。MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.7 矩阵相除 一个矩阵的逆矩阵的求解方法是：先把一个单位矩阵放在目的矩阵的右边，然后把左边的矩阵通过初等行变换转换为单位矩阵，此时右边的矩阵就是我们要求的逆矩阵。MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.7 矩阵相除 MANOVA多响应变量方差综合分析和计算实例3. 线性

12、代数 基本知识回顾3.7 矩阵相除 MANOVA多响应变量方差综合分析和计算实例3. 线性代数 基本知识回顾3.8 特征根与特征向量 设A为n阶方阵，X是n维列向量，如果存在数l,使方程AX=lX有非零解，则称l为矩阵A的特征值，相应的非零解称为A的属于l的特征向量方程AX=lXAX-lX =O(A-lE)X=O即不论l取何值，方程AX=lX一定有解MANOVA多响应变量方差综合分析和计算实例例如：对 ，取 l=4，代入方程AX= lX得 AX= 4X(A-4E)X=O(A-4E)X= O有非零解2022/8/6MANOVA多响应变量方差综合分析和计算实例所以，l=4是矩阵A的一个特征值对 ，

13、取 ，得一个基础解系则方程(A-4E)X=O的全部解为：c为任意常数A的属于l=4 的特征向量：c03. 线性代数 基本知识回顾2022/8/6MANOVA多响应变量方差综合分析和计算实例求n阶方阵A的特征值：数l0是A的特征值l0使方程AX= lX有非零解因此 ：l0是A的特征值l0使 成立求A的特征值步骤： (1) 计算n阶行列式解得方程的根l1，l2， ，ln，则l1， l2， ，ln即是A的特征值2022/8/6MANOVA多响应变量方差综合分析和计算实例设2022/8/6MANOVA多响应变量方差综合分析和计算实例则方程 即 是的n次方程 在复数域上，方程 一定有 n个根。方程3.

14、线性代数 基本知识回顾A的特征多项式A的特征方程2022/8/6MANOVA多响应变量方差综合分析和计算实例解：令 ， 得 l1 =-1，l2 =7则A的特征值为l1 =-1，l2 =7【例】求 的特征值3. 线性代数 基本知识回顾2022/8/6MANOVA多响应变量方差综合分析和计算实例4. MANOVA 基本统计量4.1 均向量4.2 离均差平方和与离均差积和矩阵4.3 方差-协方差矩阵4.4 协方差阵与离差阵MANOVA多响应变量方差综合分析和计算实例4. MANOVA 基本统计量12名中学生的身高、体重、胸围测量资料编号身高(cm)y1体重(kg)y2胸围(cm)y31171.058

15、.581.02175.065.087.03159.038.071.04155.345.074.05152.035.063.06158.344.575.07154.844.574.08164.051.072.09165.255.079.010164.546.071.011159.148.072.512164.246.573.0MANOVA多响应变量方差综合分析和计算实例4. MANOVA 基本统计量4.1 均向量均向量(Vector of Means) 均向量的转置MANOVA多响应变量方差综合分析和计算实例4. MANOVA 基本统计量4.2 离差平方和与离差积和矩阵Sum of Square

16、s and Cross-Products matrix, SSCP 简称平方和阵MANOVA多响应变量方差综合分析和计算实例4. MANOVA 基本统计量4.3 方差-协方差矩阵 方差-协方差矩阵(Variance-Covariance Matrix) 简称为协方差阵(covariance matrix)MANOVA多响应变量方差综合分析和计算实例4. MANOVA 基本统计量4.4 平方和阵与协方差阵的关系V=SS/df（df = 11）MANOVA多响应变量方差综合分析和计算实例第二部分：MANOVA原理 柯锦秀 MANOVA多响应变量方差综合分析和计算实例 MANOVA 基本假定数据来自

17、随机样本，观察值间独立；各响应变量为正态分布且方差齐性；各响应变量的联合分布为多元正态分布；任何两组响应变量的协方差矩阵相同(球形性）;总样本量(N)、响应变量组数(k)，组间处理水平数目(M) 必须满足N-Mk。MANOVA多响应变量方差综合分析和计算实例多元正态分布多元正态分布指的是多个响应变量之间的正态分布，它与单响应变量正态分布在形式上尽管不同，但有很多相似之处，实际上是单响应变量正态分布在多维上的推广。49MANOVA多响应变量方差综合分析和计算实例协方差矩阵协方差矩阵计算的是不同响应变量之间的协方差假设数据集有三个响应变量x,y,z，则协方差矩阵为:协方差矩阵是一个对称的矩阵，而且

18、对角线是各个响应变量的方差。50MANOVA多响应变量方差综合分析和计算实例协方差矩阵球形性协方差矩阵的球形性是指该对角线元素(方差)相等、非主对角线元素(协方差)相等。MANOVA多响应变量方差综合分析和计算实例协方差矩阵球形性检验用 Mauchly 法 检验协方差阵是否满足球形性 H0：资料符合球形要求 H1：资料不满足球形要求检验的P值若大于研究者所选择的显著性水准时，说明协方差阵的球形性质得到满足。如不满足“球对称”假设，应用“球对称”校正系数对受试对象内所有变异的自由度进行校正。 (1) Geenhouse - Geisser 调整系数(G-G) (2) Huynh - Feldt

19、调整系数(H-F)MANOVA多响应变量方差综合分析和计算实例 MANOVA 基本过程1确定原假设 p个响应变量 g个自变量水平多元方差分析的统计原假设的向量形式如下： u11 u12 u1g u21 u22 u2g H0: . = = = up1 up2 Upg 或者 H0:u1=u2=ugHa:u1, u2, ug不全相等 MANOVA多响应变量方差综合分析和计算实例 Total Sum of Squares and Cross Products matrix，简称SSCP矩阵T，或T (离差平方和与离差积和矩阵) 。是ANOVA中Total sums of squares (SS)在多元

20、中的对应量。 SSCP矩阵T是由PP个元素组成的矩阵 g：自变量水平数；ni：每组处理中样本个数 每个实验单元p个响应变量所组成的向量与总平均向量之差，乘以此差的转置阵，求和。 MANOVA 基本过程MANOVA多响应变量方差综合分析和计算实例MANOVA 中总SSCP矩阵T的分解E: error SSCP（组内矩阵）H: treat SSCP （组间矩阵） MANOVA 基本过程MANOVA多响应变量方差综合分析和计算实例3列多元方差分析表N个样本SSCPT= SH+SE来源df自由度SSCPWilks Lambda检验统计量组间g - 1H组内N - gE总和N - 1T = H + E

21、MANOVA 基本过程MANOVA多响应变量方差综合分析和计算实例 多元方差分析的四个检验统计量Pillais迹：恒为正数，值越大，表明该效应项对模型的贡 献越大；WilksLambda：取值范围在01之间，值越小，说明该效应项对模型的贡献越大；Hotelling迹：检验矩阵特征根之和，其值总是比Pillais轨迹的值大。与Pillais轨迹相似，值越大贡献越大；Roy最大根统计量：为检验矩阵特征根中最大值，因此它总是小于或等于Hotelling轨迹。 当模型建立的前提条件不满足时，Pillais迹最为稳健。 MANOVA 基本过程MANOVA多响应变量方差综合分析和计算实例 多元方差分析的四

22、个检验统计量计算1.Pillais trace Pillais trace = fH(H+E)-12.Hotelling-Lawleys trace Hotelling-Lawleys trace = f(HE-1)3.Wilks lambda Wilks lambda = |E|/|H+E|4.Roys largest root Roys largest root = max(i) = the maximum eigenvalue of HE-1 MANOVA 基本过程MANOVA多响应变量方差综合分析和计算实例4计算Wilks Lambda近似F值（判断统计显著性）其中： p个响应变量 g

23、个自变量水平 N个样本个体 MANOVA 基本过程MANOVA多响应变量方差综合分析和计算实例MANOVA与ANOVA过程比较 ANOVA原假设 MANOVA原假设H0：u1=u2=u3=uiUi 代表四组样本的总体均值uAiuBiuCi各处理各组样本总体均值的向量（矩阵）H0：uA1uB1Uc1 uA2uB2uC2 uA3uB3uC3 =MANOVA多响应变量方差综合分析和计算实例 ANOVA总平方和的分解 SSerror : SSwithin Sstreat : SSbetween MANOVA总SSCP矩阵的分解E: error SSCPH: treat SSCPMANOVA与ANOVA

24、过程比较MANOVA多响应变量方差综合分析和计算实例 ANOVA表来源d.f.SSMSF处理g - 1SStreatSStreat /(g - 1)MStreat/MSerror误差N - gSSerrorSSerror /(N - g)总N - 1SStotal MANOVA表来源d.f.SSCP处理g - 1H误差N - gE总N - 1TMANOVA与ANOVA过程比较MANOVA多响应变量方差综合分析和计算实例 ANOVA统计显著性判断 MANOVA统计显著性判断通过比较计算的F值与查 临界值表的F值判断是否显著。4个统计检验量；没有与之相对的临界值表；计算近似的F值，然后判断。1.P

25、illais trace Pillais trace = fH(H+E)-12.Hotelling-Lawleys trace Hotelling-Lawleys trace = f(HE-1)3.Wilks lambda Wilks lambda = |E|/|H+E|4.Roys largest root Roys largest root = max(i) or the maximum eigenvalue of HE-1MANOVA与ANOVA过程比较MANOVA多响应变量方差综合分析和计算实例 ANOVA post hoc comparison MANOVA post hoc com

26、parisonmultiple comparison ：Fishers LSDTukeys WStudent-Newman-KeulsDuncansScheffs S 备选方法：1 对各因变量(响应变量)分别进行方差分析(ANOVA).2 Scheff检验、Tukey检验、 Student-Newman-Keuls检验有多元的修正.MANOVA与ANOVA过程比较MANOVA多响应变量方差综合分析和计算实例为了考查素质教育是否会导致学生学习成绩降低,某校对初中二年级两个班各50名学生分别施以素质教育模式和传统(应试)教育模式教学,在一次模拟考试中收集了两个班级学生的语文、数学、英语的考试成绩,试做统计分析。（以上4种统计量计算公式比较复杂,仅以Wilks为例进一步说明多元分析方差分析的基本思想） MANOVA 计算实例MANOVA多响应变量方差综合分析和计算实例 MANOVA 计算实例首先建立多元方差分析的假设。H0:各组总体均数向量相等,H1:各组总体均数向量不等或不全相等。对于此例,两种教育模式学生的三种成绩均数向量为:素质教育:Y1=(73