SPSS高级第部分PPT课件.ppt

方差分析模型 一 什么是方差分析 ANOVA analysisofvariance 检验多个总体均值是否相等通过分析数据的误差判断各总体均值是否相等研究分类型自变量对数值型因变量的影响一个或多个分类型自变量一个数值型因变量有单因素方差分析和双因素方差分析单因素方差分析 涉及一个分类的自变量双因素方差分析 涉及两个分类的自变量 二 方差分析模型常用术语 因素 Factor 因素是可能对因变量有影响的变量 一般来说 因素会有不止一个水平 而分析的目的就是考察或比较各个水平对因变量的影响是否相同 水平 Level 因素的不同取值等级称作水平 例如性别有男 女两个水平 3 单元 Cell 单元亦称试验单位 ExperimentalUnit 指各因素的水平之间的每种组合 指各因素各个水平的组合 例如在研究性别 二水平 血型 四水平 对成年人身高的影响时 该设计最多可以有2 4 8个单元 方差分析模型常用术语 元素 Element 指用于测量因变量值的观察单位 比如研究职业与收入间的关系 月收入是从每一位受访者处得到 则每位受访者就是试验的元素一个单元格内可以有多个元素 也可以只有一个 甚至于没有元素 4 均衡 Balance 如果在一个实验设计中任一因素各水平在所有单元格中出现的次数相同 且每个单元格内的元素数均相同 则该试验是均衡的 否则 就被称为不均衡 方差分析模型常用术语 固定因素 FixedFactor 指的是该因素在样本中所有可能的水平都出现了 从样本的分析结果中就可以得知所有水平的状况 无需进行外推 绝大多数情况下 研究者所真正关心的因素都是固定因素 性别 只有两种疗法 只有三种 5 方差分析模型常用术语 随机因素 RandomFactor 该因素所有可能的取值在样本中没有都出现 目前在样本中的这些水平是从总体中随机抽样而来 如果我们重复本研究 则可能得到的因素水平会和现在完全不同 这时 研究者显然希望得到的是一个能够 泛化 即对所有可能出现的水平均适用的结果 这不可避免的存在误差 需要估计误差的大小 因此被称为随机因素 6 方差分析模型常用术语 协变量 Covariates 指对因变量可能有影响 需要在分析时对其作用加以控制的连续性变量实际上 可以简单的把因素和协变量分别理解为分类自变量和连续性自变量 7 交互作用 Interaction 如果一个因素的效应大小在另一个因素不同水平下明显不同 则称为两因素间存在交互作用 当存在交互作用时 单纯研究某个因素的作用是没有意义的 必须分另一个因素的不同水平研究该因素的作用大小 什么是方差分析 例题分析 例 为了对几个行业的服务质量进行评价 消费者协会在4个行业分别抽取了不同的企业作为样本 最近一年中消费者对总共23家企业投诉的次数如下表 什么是方差分析 例题分析 分析4个行业之间的服务质量是否有显著差异 也就是要判断 行业 对 投诉次数 是否有显著影响作出这种判断最终被归结为检验这四个行业被投诉次数的均值是否相等若它们的均值相等 则意味着 行业 对投诉次数是没有影响的 即它们之间的服务质量没有显著差异 若均值不全相等 则意味着 行业 对投诉次数是有影响的 它们之间的服务质量有显著差异 散点图观察不能提供充分的证据证明不同行业被投诉的次数之间有显著差异这种差异可能是由于抽样的随机性所造成的需要有更准确的方法来检验这种差异是否显著 也就是进行方差分析所以叫方差分析 因为虽然我们感兴趣的是均值 但在判断均值之间是否有差异时则需要借助于方差这个名字也表示 它是通过对数据误差来源的分析判断不同总体的均值是否相等 因此 进行方差分析时 需要考察数据误差的来源 方差分析的基本思想和原理 方差分析的基本思想和原理 两类误差 随机误差因素的同一水平 总体 下 样本各观察值之间的差异比如 同一行业下不同企业被投诉次数之间的差异这种差异可以看成是随机因素的影响 称为随机误差系统误差因素的不同水平 不同总体 之间观察值的差异比如 不同行业之间的被投诉次数之间的差异这种差异可能是由于抽样的随机性所造成的 也可能是由于行业本身所造成的 后者所形成的误差是由系统性因素造成的 称为系统误差 方差分析的基本思想和原理 误差平方和 SS 数据的误差用平方和 sumofsquares 表示组内平方和 withingroups 因素的同一水平下数据误差的平方和比如 零售业被投诉次数的误差平方和只包含随机误差组间平方和 betweengroups 因素的不同水平之间数据误差的平方和比如 4个行业被投诉次数之间的误差平方和既包括随机误差 也包括系统误差 方差分析的基本思想和原理 均方 MS 平方和除以相应的自由度若原假设成立 组间均方与组内均方的数值就应该很接近 它们的比值就会接近1若原假设不成立 组间均方会大于组内均方 它们之间的比值就会大于1当这个比值大到某种程度时 就可以说不同水平之间存在着显著差异 即自变量对因变量有影响判断行业对投诉次数是否有显著影响 也就是检验被投诉次数的差异主要是由于什么原因所引起的 如果这种差异主要是系统误差 说明不同行业对投诉次数有显著影响 方差分析中的基本假定 在上述假定条件下 判断行业对投诉次数是否有显著影响 实际上也就是检验具有同方差的4个正态总体的均值是否相等如果4个总体的均值相等 可以期望4个样本的均值也会很接近4个样本的均值越接近 推断4个总体均值相等的证据也就越充分样本均值越不同 推断总体均值不同的证据就越充分 问题的一般提法 设因素有k个水平 每个水平的均值分别用 1 2 k表示要检验k个水平 总体 的均值是否相等 需要提出如下假设 H0 1 2 kH1 1 2 k不全相等设 1为零售业被投诉次数的均值 2为旅游业被投诉次数的均值 3为航空公司被投诉次数的均值 4为家电制造业被投诉次数的均值 提出的假设为H0 1 2 3 4H1 1 2 3 4不全相等 单因素方差分析 1数据结构2分析步骤 单因素方差分析的数据结构 one wayanalysisofvariance 分析步骤提出假设构造检验统计量统计决策 提出假设 一般提法H0 m1 m2 mk自变量对因变量没有显著影响H1 m1 m2 mk不全相等自变量对因变量有显著影响注意 拒绝原假设 只表明至少有两个总体的均值不相等 并不意味着所有的均值都不相等 构造检验的统计量 构造统计量需要计算水平的均值全部观察值的总均值误差平方和均方 MS 构造检验的统计量 计算水平的均值 假定从第i个总体中抽取一个容量为ni的简单随机样本 第i个总体的样本均值为该样本的全部观察值总和除以观察值的个数计算公式为 式中 ni为第i个总体的样本观察值个数xij为第i个总体的第j个观察值 构造检验的统计量 计算全部观察值的总均值 全部观察值的总和除以观察值的总个数计算公式为 构造检验的统计量 例题分析 构造检验的统计量 计算总误差平方和SST 全部观察值与总平均值的离差平方和反映全部观察值的离散状况其计算公式为 前例的计算结果SST 57 47 869565 2 58 47 869565 2 115 9295 构造检验的统计量 计算组间平方和SSA 各组平均值与总平均值的离差平方和反映各总体的样本均值之间的差异程度该平方和既包括随机误差 也包括系统误差计算公式为 前例的计算结果SSA 1456 608696 构造检验的统计量 计算组内平方和SSE 每个水平或组的各样本数据与其组平均值的离差平方和反映每个样本各观察值的离散状况该平方和反映的是随机误差的大小计算公式为 前例的计算结果SSE 2708 构造检验的统计量 三个平方和的关系 总离差平方和 SST 误差项离差平方和 SSE 水平项离差平方和 SSA 之间的关系 SST SSA SSE 前例的计算结果4164 608696 1456 608696 2708 构造检验的统计量 计算均方MS 各误差平方和的大小与观察值的多少有关 为消除观察值多少对误差平方和大小的影响 需要将其平均 这就是均方 也称为方差由误差平方和除以相应的自由度求得三个平方和对应的自由度分别是SST的自由度为n 1 其中n为全部观察值的个数SSA的自由度为k 1 其中k为因素水平 总体 的个数SSE的自由度为n k 构造检验的统计量 计算均方MS 组间方差 SSA的均方 记为MSA 计算公式为 组内方差 SSE的均方 记为MSE 计算公式为 构造检验的统计量 计算检验统计量F 将MSA和MSE进行对比 即得到所需要的检验统计量F当H0为真时 二者的比值服从分子自由度为k 1 分母自由度为n k的F分布 即 构造检验的统计量 F分布与拒绝域 如果均值相等 F MSA MSE 1 统计决策 将统计量的值F与给定的显著性水平 的临界值F 进行比较 作出对原假设H0的决策根据给定的显著性水平 在F分布表中查找与第一自由度df1 k 1 第二自由度df2 n k相应的临界值F 若F F 则拒绝原假设H0 表明均值之间的差异是显著的 所检验的因素对观察值有显著影响若F F 则不拒绝原假设H0 无证据表明所检验的因素对观察值有显著影响 单因素方差分析表 基本结构 一般线性模型 模型表达式 假设现在希望描述某个人群的月收入状况 那么根据统计学知识 均数能够表示集中趋势 标准差能够表示离散趋势 则任何一位受访者i的月收入Xi该如何表达 显然 这里的的 i应当服从正态分布 其均数为0 标准差为相应总体标准差在只有样本信息时 样本均数和标准差就是上述参数的最佳估计值 36 2020 2 7 37 模型表达式入门 现在希望比较三种职业的月收入有无差异 这三类职业分别是医生 律师和软件工程师 如果我们仍然希望能够对每一个个体的数据加以表达 应当如何做 38 模型表达式入门 单因素方差分析 控制因素 观测变量 三个水平 39 模型表达式入门 将上面三个式子可以合并如下 为了进一步分析的方便 一般都会寻找一个均数的参照水平 将其余组的平均水平与之相比显然 这样的组合会有许多种 因此模型在实际分析的时候往往会加上一些限制条件 比如假设参照水平是最后一个组的均数 这被称为拟合的约束条件 40 模型表达式入门 由于在常见的研究中 我们更关心各组均数的差别 对于标准差的差别则比较忽视 因此在最初的方差分析模型中 往往将不同组的 ij假设为服从相同的正态分布 就是说相同 41 模型表达式入门 如果三种职业的平均收入无差异 则应当有 1 2 3 0 要检验职业种类对收入有无影响 就要检验如下假设H0 i 0 H1 至少有一个 i 0 42 案例 胶合板磨损深度的比较 现希望比较四种胶合板的耐磨性 分别从这四个品牌的胶合板中抽取了5个样品 在相同的转速下磨损相同时间 测量其被磨损的深度 mm 现希望对此进行分析 数据见veneer sav方差齐性检验模型参数估计值与设计矩阵 43 两两比较方法 LSD法 实际上就是t检验的变形 因此仍然存在放大第一类错误的问题 相对犯第二类错误概率较小 S N K法 是运用最广泛的一种两两比较方法 该方法保证在H0真正成立时总的 水准等于实际设定值 即控制了一类错误 两两比较方法 45 Bonferroni 该方法介于前LSD与Scheffe之间 通过设置每个检验的第一类错误水准来控制总的第一类错误水准 存在明确对照组 计划好的几个组两两比较 进行验证性研究适用 TUKEY 它控制的是所有比较中最大的一类错误不超过规定的第一类错误 探索性研究 且各组人数相同时适用 Scheffe法 当各组人数不相等 但它相对比较保守 犯第二类错误概率较大 原假设为假 有差异 却没检查出来 各组人数不同适用 多因素方差分析模型 目的 在同时考虑若干个控制因素的情况下 分别分析它们的改变是否造成观察变量的显著变动 47 无交互作用下的方差分析设A与B是可能对试验结果有影响的两个因素 相互独立 无交互作用 分析步骤 提出假设 提出假设对行因素提出的假设为H0 m1 m2 mi mk mi为第i个水平的均值 H1 mi i 1 2 k 不全相等对列因素提出的假设为H0 m1 m2 mj mr mj为第j个水平的均值 H1 mj j 1 2 r 不全相等 分析步骤 构造检验的统计量 计算平方和 SS 总误差平方和行因素误差平方和列因素误差平方和随机误差项平方和 分析步骤 构造检验的统计量 总误差平方和 SST 行因素平方和 SSR 列因素平方和 SSC 误差项平方和 SSE 之间的关系 SST SSR SSC SSE 分析步骤 构造检验的统计量 计算均方 MS 误差平方和除以相应的自由度三个平方和的自由度分别是总误差平方和SST的自由度为kr 1行因素平方和SSR的自由度为k 1列因素平方和SSC的自由度为r 1误差项平方和SSE的自由度为 k 1 r 1 分析步骤 构造检验的统计量 计算均方 MS 行因素的均方 记为MSR 计算公式为列因素的均方 记为MSC 计算公式为误差项的均方 记为MSE 计算公式为 分析步骤 构造检验的统计量 计算检验统计量 F 检验行因素的统计量检验列因素的统计量 分析步骤 统计决策 将统计量的值F与给定的显著性水平 的临界值F 进行比较 作出对原假设H0的决策根据给定的显著性水平 在F分布表中查找相应的临界值F 若FR F 拒绝原假设H0 表明均值之间的差异是显著的 即所检验的行因素对观察值有显著影响若FC F 拒绝原假设H0 表明均值之间有显著差异 即所检验的列因素对观察值有显著影响 双因素方差分析表 基本结构 二 有交互作用的方差分析当两个因素不一定独立 可能存在交互作用时 我们需要在各个因素水平组合下 进行重复试验 才能看交互影响是否真的存在 因此 此时方差分析的数据结构不同于无交互作用情形 可重复双因素分析 平方和的计算 总平方和 行变量平方和 列变量平方和 交互作用平方和 误差项平方和 SST SSR SSC SSRC SSE 可重复双因素方差分析表 基本结构 m为样本的行数 假设检验是基于变异分解的原理进行的 都是F检验 根据变异分解式 可以将总的样本离均差平方和分解成各个部分 随后各个离均差平方和除以自由度可得到均方 进而将各效应的均方和误差均方相比较 就得到了F统计量 63 模型表达式 如果只研究职业的影响如果只研究性别的影响同时考虑职业和性别对收入的影响 64 方差分析模型的检验层次 对总模型进行检验对模型中各交互效应 主效应进行检验交互项有统计学意义 分解为各种水平的组合情况进行检验交互项无统计学意义 进行主效应各水平的两两比较 65 方差分析模型的适用条件 从模型表达式出发得到的提示各样本的独立性 只有各样本为相互独立的随机样本 才能保证变异的可加性 可分解性 正态性 即个单元格内的所有观察值系从正态总体中抽样得出方差齐 各个单元格中的数据离散程度均相同 即各单元格方差齐 66 方差分析模型的适用条件 实际运用在多因素方差分析中 由于个因素水平组合下来每个单元格内的样本量可能非常少 这样直接进行正态性 方差齐检验的话检验效能很低 实际上没什么用因此真正常见的做法是进行建模后的残差分析 67 案例 超市规模 货架位置与销量的关系 现希望现希望考察对超市中销售的某种商品而言 是否其销售额会受到货架上摆放位置的影响 除此以外 超市的规模是否也会有所作用 甚或两者间还会存在交互作用 B