第六章-相关与回归.ppt

第六章简单相关与回归 前面各章我们讨论的问题 都只涉及到一个变量 如体重 日增重 产仔数 体温 血糖浓度 产奶量 产毛量或孵化率 发病率等 但是 由于客观事物在发展过程中相互联系 相互影响 因而在畜牧 水产等试验研究中常常要研究两个或两个以上变量间的关系 变量间的关系有两类 一类是变量间存在着完全确定性的关系 可以用精确的数学表达式来表示 如长方形的面积 S 与长 a 和宽 b 的关系可以表达为 S ab 它们之间的关系是确定性的 只要知道了其中两个变量的值就可以精确地计算出另一个变量的值 这类变量间的关系称为函数关系 另一类是变量间不存在完全的确定性关系 不能用精确的数学公式来表示 如黄牛的体长与体重的关系 仔猪初生重与断奶重的关系 猪瘦肉率与背膘厚度 眼肌面积 胴体长等的关系等等 这些变量间都存在着十分密切的关系 但不能由一个或几个变量的值精确地求出另一个变量的值 像这样一类关系在生物界中是大量存在的 统计学中把这些变量间的关系称为相关关系 把存在相关关系的变量称为相关变量 相关变量间的关系一般分为两种 一种是平行关系 是研究变量间关系的强弱程度 此时我们不关心在它们之间是谁影响了谁 谁是因 谁是果 变量间的地位是平等的 如黄牛的体长和胸围之间的关系 猪的背膘厚度和眼肌面积之间的关系等都属于平行关系 另一种是因果关系 即一个变量的变化受另一个或几个变量的影响 如仔猪的生长速度受遗传特性 营养水平 饲养管理条件等因素的影响 子代的体高受亲本体高的影响 统计学上采用相关分析研究呈平行关系的相关变量之间的关系 对两个变量间的直线关系进行相关分析称为简单相关分析 也叫直线相关分析 对多个变量进行相关分析时 研究一个变量与多个变量间的线性相关称为复相关分析 研究其余变量保持不变的情况下两个变量间的线性相关称为偏相关分析 统计学上采用回归分析研究呈因果关系的相关变量间的关系 表示原因的变量称为自变量 表示结果的变量称为依变量 研究 一因一果 即一个自变量与一个依变量的回归分析称为一元回归分析 研究 多因一果 即多个自变量与一个依变量的回归分析称为多元回归分析 一元回归分析又分为直线回归分析与曲线回归分析两种 多元回归分析又分为多元线性回归分析与多元非线性回归分析两种 第一节简单相关 一 样本相关系数的定义假设两个随机变量 X Y 有若干个体 n个 在这两个变量上的观测值 xi yi 那么在直角坐标中则可作出n对观测值的散点图 见图6 1 A 表示x与y无相关 B 表示y随x增加而增加 C 表示y随x增加而减少 D 表示x与y呈曲线关系 如果把零点为原点的坐标移到以 为原点的坐标中 其各相关点的位置不变 而各对x y值化为 则在以平均数为原点的坐标中 x轴与y轴就将整个坐标平面划分为4个象限 这时我们就可以用描述各散点在象限中的变异情况 图6 1各类相关散点示意图 那么 x与y的关系如何描述 办法是用 中的一个作变异的合并 若用 合并 则无意义 若用 法合并 谁为分子 谁为分母无依据 且随意决定 会出现计算结果各不相同 而惟有用 合并 能克服以上弊端 相乘时 为正 反映正相关 为负 反映负相关 将散点变异相加 即得 此即离均差乘积和 间称乘积和 以SPxy表示 以此可作为两变量间相关性质 方向 和相关程度的度量 为了消除两变量各自变异度及单位不同的影响 须将各以其标准差除之 另外为了消除自由度不等的影响 便于比较 再除以自由度 于是得到相关系数r 表示简单相关程度和性质的统计量称作相关系数 样本相关系数用r表示 总体相关系数用 表示 其中 SPxy 变量x和变量y的离均差乘积和简称乘积和SSx 变量x的离均差平方和SSy 变量y的离均差平方和 相关系数r的特点 1 r为无单位的相对数值 可直接用于不同资料间相关程度的比较 2 r 1 0 r 1 r 越接近于1 说明两变量的相关程度越强 r 越接近于0 两变量的相关程度越差 3 r 0表示x与y无相关 r 0表示负相关 r 0表示正相关 r 1为完全相关 二 样本相关系数的计算 例6 1 表6 1为用氦氖激光照射母黄牛后血红蛋白含量 y g 和照射天数 x d 的资料 试求两变量的相关系数 一级数据计算如下 三 相关系数的显著性检验由样本资料求出的相关系数r与其他统计量一样 也存在着抽样误差 假若求得的r值不等于零 它是否是一个有意义的数值 还需要进行显著性检验之后才能作出判断 检验的目的就是要判明r所在的总体是否确有线性关系 检验时首先提出假设 H0 0 HA 0 然后测定r与 之间的差异是由于抽样误差引起的 还是本质的差异 根据构造统计量的不同分为F检验和t检验 下面以t检验步骤为例说明 1 H0 0 HA 02 t检验公式为 其中 相关系数的标准误 误差自由度 对于例6 1 由公式可得 故p 0 01 否定H0 0 接受HA 0 说明母黄牛血红蛋白含量和照射天数间负相关关系极显著 表示为r 统计学家已根据相关系数r的t检验法 计算出r的显著临界值并列出了表 见附表9 实际分析资料时可以直接查附表对r进行显著性检验 本例由dfe 9 2 7 M 2 变量个数 查r临界值表得 r0 05 7 0 666 r0 01 7 0 798 而 r0 01 7 0 798 p 0 01 表明母黄牛血红蛋白含量和照射天数的负相关关系极显著 第二节直线回归 前面所述的相关只是说明两个变量有无关系 相关关系也只是表示两变量间相关的性质极其相关的密切程度 不能反映出二者之间数量上的变化关系 而在实践中 往往需要从一个变量来估测另一个变量的变化 并确定当给自变量x为某一值时 依变量y将要在什么范围内变化 这就需要进行回归分析 对两变量x和y的回归分析就是要导出自变量x来控制依变量y的回归方程 或配制出一条回归曲线 来代表它们的线性关系 进而从一个变量的变化来估测另一个变量的具体变化 回归 名称的由来 英国统计学家F Galton 1822 1911年 和他的学生 现代统计学的奠基者之一K Pearson 1856 1936年 在研究父母身高与其子女身高的遗传问题时 观察了1078对夫妇 以每对夫妇中父亲的身高作为解释变量X 而取他们的一个成年儿子的身高作为被解释变量Y 应变量 将结果在平面直角坐标系上绘成散点图 发现趋势近乎一条直线 计算出的回归直线方程为 Galton数据散点图 英寸 一 一元线性回归的数学模型及方程的建立 1 表示原因的变量X称为自变量 是一个普通数学变量 常变量 2 表示结果的变量Y称为依变量或应变量 是一个随机变量 y X x 例如 进行药物疗效试验时 应用不同的剂量 x 分析疗效 y 如何受到药物剂量的影响及其变化规律 这里规定的几种剂量 x 可以事先给定 而疗效 y 在同一种剂量条件下结果不会完全相同 只能在某一数值附近有所变化 假设Y与X之间存在着相关关系 即由X可以在一定程度上决定Y 但由X值不能准确地确定Y的值 为了研究它们的这种关系 我们对 X Y 进行了一系列观测 得到 x1 y1 x2 y2 xn yn 前面已经指出 要研究两种变量间的关系 最简单的方法是把一系列观测数据在坐标中用散点图表示 如果散点大致分布在一条直线附件 就可以判断两者为直线回归关系 这种关系可用直线回归方程表示 则总体直线回归方程为 i 1 2 n 也就是 yi N xi 2 y X x 或者 Intercept总体截距 Slope总体斜率 模型中 是待估计参数 对参数的估计是通过样本数据进行的 设a b分别是 和 的估计值 将a b代入模型 得样本回归方程为 这个直线回归方程的读法是y对x的直线回归方程 读作y hat 在数学上常用最小二乘法估计a b值 使估计y时的误差最小 即我们所要求的直线是在一切直线中最接近所有散点的直线 以这条直线来代表该双变量间的关系应与实测数据的误差比其他任何直线都要小 从而使样本回归方程能最好地反应y和x两变量间的数量关系 最小 最小二乘 Leastsquares 法图解 寻找使 残差i 2最小的直线 3 3 LeastSquaresMethodThe best lineistheonethatminimizesthesumofsquaredverticaldifferencesbetweenthepointsandtheline w w w w 4 4 1 2 2 2 2 4 3 1 5 Sumofsquareddifferences 2 1 2 4 2 2 1 5 3 2 4 3 2 3 2 4 2 6 89 2 5 Letuscomparetwolines Thesecondlineishorizontal Thesmallerthesumofsquareddifferencesthebetterthefitofthelinetothedata 要使为最小 必须使Q对a b的一阶偏导数等于0 即 整理得关于a b的正规方程组 解正规方程组 得 建立直线回归方程 a 截距 直线与Y轴交点的纵坐标 X 0 b 斜率 回归系数 意义 X每改变一个单位 Y平均改变b个单位 b 0 Y随X的增大而增大 减少而减少 斜上 b 0 Y随X的增大而减小 减少而增加 斜下 b 0 Y与X无直线关系 水平 b 越大 表示Y随X变化越快 直线越陡峭 由此可见 回归系数b不仅反映了变量间数量上的变化关系 同时也反映了两变量间关系的性质 根据最小二乘法所得到的直线回归方程具有三个基本性质 性质1 最小性质2性质3回归直线一定通过中心点 二 直线回归方程计算 例6 2 仍以氦氖激光照射母黄牛其血红蛋白含量 y 和照射天数 x 资料为例 目的由照射天数预测血红蛋白含量 直线回归分析步骤如下 1 描散点图以照射天数 x 为横坐标 血红蛋白含量 y 为纵坐标作图6 2 从图中散点可见 照射天数与血红蛋白含量间存在直线关系 2 计算回归截距a 回归系数b 建立直线回归方程 从回归系数可知 照射天数每增加1天 血红蛋白含量平均减少0 383g 根据所得方程可作出回归直线图 三 直线回归的显著性检验 由n对观测值 xi yi 求得的回归方程是否能真实地反映两个变量间的直线关系 需要进行直线回归的显著性检验 检验y与x之间是否存在直线回归关系 亦即检验y与x所在的双变量总体的回归系数 是否为零 或者说样本回归系数b是否从 0的总体中随机抽取的 如果y对x不存在直线回归关系 则总体回归系数 0 若y与x之间存在直线回归关系 则 0 所以检验的假设为 HO 0HA 0统计上用F检验和t检验两种方法来检验直线回归的显著性 两种方法具有等价性 1 回归方程的F检验 1 依变量y总变异的剖分依变量y的总变异可剖分为回归变异 y受x影响产生的 和离回归变异 y由随机误差产生的 X 总变异剖分图解 从图7 3看到 依变量y的离均差 n个点中每个点都有此关系 因此将此式两端平方 然后求和 则有 由于 则 又因为 所以 SSy 为y的总平方和 反映了y的总变异程度 是回归估计值与平均值相差平方和 反映了由于y与x间存在直线关系所引起的y的变异程度 故称为回归平方和 记为SSR 是依变量各观测值y与估计值之差的平方和 它代表y离回归线的变异 反映了除y与x直线关系以外包括随机误差在内的原因所引起的y的变异程度 称为离回归平方和或剩余平方和 记为 即Q 同理 Y的总自由度dfy也划分为回归自由度dfR与离回归自由度dfe两部分 即在直线回归分析中 y的总自由度dfy n 1 回归自由度等于自变量的个数 即dfR 1 离回归自由度dfe n 2 回归均方和离回归均方 2 F检验F检验的假设为H0 0 HA 0 在无效假设成立的条件下 回归均方与离回归均方的比值服从dfR 1和dfe n 2的F分布实际计算回归平方和与离回归平方和 通常并不是按它们的定义公式 而是按下面变换后公式计算更方便 例6 2的F检验步骤如下 因为F 152 017 F0 01 1 7 12 25 p 0 01 所以表明血红蛋白和照射天数间存在极显著的直线回归关系 SSy 9 22 dfy n 1 9 1 8 dfR 1 dfe 9 2 7 SSy SSR 9 22 8 817 0 403 SSx 60 2 回归系数的显著性检验 t检验 t检验也可检验x与y间的直线回归关系 通常称作回归系数显著性检验 统计学已证明 在相同概率下 dfR 1和dfe n 2时的单尾F值等于dfe n 2的两尾t值的平方 F t2 H0 0 HA 0 t检验的计算公式为 dfe n 2 其中为回归系数标准误 对于例6 2资料 已求得SSx 60 Sy x 0 240 故有查t值表 当 t0 01 7 3 499因为 t0 01 7 3 499 p 0 01 故否定H0 0 接受HA 0 说明血红蛋白和照射天数的直线回归系数是极显著的 可以用所建立的直线回归方程来进行预测 1 变量间关系应有专业意义变量间是否存在直线相关以及在什么条件下存在直线相关 必须由生物科学相应的专业知识来决定 并且还要用到生物科学实践中去检验 2 所研究的两变量之外的其余变量应保持不变在研究两个变量的关系时 要求其余变量应尽量保持在同一水平 3 观测值要尽可能多两变量的对子数n与自变量个数m的关系为 简单相关时n至少取5对以上 四 直