第十二章 简单回归分析.ppt

1、第十二章 简单回归分析,宁夏医学院公共卫生学院 流行病与卫生统计学教研室 郭忠琴 教授,了解回归的概念及种类； 了解回归分析的原理、几种常用回归的测定方法； 掌握直线回归的的应用条件与回归系数的意义 了解线性回归的应用。 了解非线性回归的计算与应用,教学要求,第十二章 简单回归分析 前面介绍了两变量间关联性分析，本章与下一章我们将进一步的介绍观察数据中变量间的数量依存性的回归关系。,第一节 简单直线回归,一、直线回归的概念及其统计描述,反应变量（Y）与自变量（X）的简单线性模型（simple linear regression model）可表达为：,在描述两变量的关系时，一般把两个变量中能精

2、确容易测量的作自变量，不易测量作为因变量。即用易测量的数据X估计不易测量的另一数据。如年龄估算小儿体重等。在描述体重与基础代谢率的依存关系中，将体重作为自变量（ X ），基础代谢率作为应变量（Y）。由图121可见，基础代谢率随体重增大而增大且呈直线趋势，但并非15点恰好全部都在一直线上。两变量数量间虽然存在一定关系，但不是十分确定的。这与两变量间严格对应的函数关系不同，称为直线回归（Linear regression)。直线回归是回归分析中最基本、最简单的一种，故又称简单simple regression)。,图12114名健康妇女的基础代谢率与体重的散点分布,表121不同IgG浓度下的沉淀环

3、直径测量值 在实际应用中，线性回归的自变量和应变量的要求？,图122 IgG浓度与沉淀环直径的散点分布,二、回归模型的前提假设 线性回归模型的前提条件是：线性（linear)、独立(independent)，正态(normal)，等方差(equal variance)1、线性是指反应变量Y的总体平均值与自变量X呈线性关系。2、独立是指任意两观察值互相独立。3、正态性假定是指线性模型的误差项i服从正态分布。4、等方差是指在自变量X取值范围内，不论X取什么值，Y都具有相同的方差。,三、回归参数的估计,一）回归参数估计的最小二乘原则 参数与一般只能通过样本数据来估计。当X取值为Xi时，Y的平均值的估

4、计应为a+bXi,而实际观察值为Yi。两者之差称为残差（residual)，即 当a与b取不同值时获取不同的候选直线，如能求a与b的适宜值，能使所有实测值到这条直线的上纵向距离的平方和为最小，则称这一对a和b为与的最小二乘估计（least estimation,LES)。,二）回归参数的估计方法 a为Y轴上的截距；b为斜率，表示X每改变一个单位，Y的变化的值，称为回归系数；表示在X值处Y的总体均数估计值。为求a和b两系数，根据数学上的最小二乘法原理，可导出a和b的算式如下：,1.由原始数据及散点图的初步分析，本例呈直线趋势，故作下列计算。 2.求,3.求回归系数b和截距a。4. 列出回归方程,

5、三）、直线回归方程的图示,为了进行直观分析或实际需要，可按回归方程在坐标纸上作图。在自变量X的实测全距范围内任取相距较远且易读的两X值，代入回归方程，如上例取 在图上确定（37.1，3385.47）和（67.3，5240.36)两点，用直线连接，即得直线方程的图形。,图12114名健康妇女的基础代谢率与体重的散点分布,四、回归系数的统计推断,前面所求得的回归方程是否成立，即X、Y是否 有直线关系，是回归分析要考虑的首要问题。我们知道即使X、Y的总体回归系数 为零，由于抽样误差，其样本回归系数b也不一定为零。因此需作 是否为零的假设检验，用方差分析或t检验。 一）、方差分析,三、直线回归中的统计

6、推断,一）回归方程的假设检验 1、方差分析 前面所求得的回归方程是否成立，即X、Y是否 有直线关系，是回归分析要考虑的首要问题。我们知道即使X、Y的总体回归系数为零，由于抽样误差，其样本回归系数b也不一定为零。因此需作 是否为零的假设检验，用方差分析或t检验。在讲述假设检验之前,我们先对就应变量Y的离均差平方和lYY作一分析。,lYY的分析,如图94，p点的纵坐标被回归直线与均数截成三个线段：,图94平方和划分示意图,它们各自的自由度分别为：可计算统计量F：,方差分析分析表SS回它反应在Y的总变异中由于X与Y的直线关系而使Y变异减少的部分.它越大说明回归效果越好.SS剩它反应X对Y的线性影响之

7、外的一切因素对Y的变异的作用.它越小,说明直线回归的估计误差越小.,表122例121的方差分析表,二）总体回归系数的假设检验例122 检验例121 求体重与基础代谢率的直线关系是否成立?1.假设2.检验统计量,本章例121，,三）回归系数的区间估计 例123 试用例1211所计算的样本回归系数b=61.422,估计总体回归系数的 95%的可信区间：Sb=4.881，,四）决定系数,第二节线性回归的应用一、统计预测,一） 、总体回归线的95%置信带 是总体中当X为某一定值X0的条件下Y的均数。它的点估计为，其标准误为它的（1）置信区间为例121试计算当X0=50.7时， 的95%可信区间。,二)

8、、个体Y值的容许区间总体中，X为某定值时，个体Y值的波动范围，其标准差SY（请勿与样本标准差相混）它为：例125 用例121所求回归方程，试计算当X0=50.7时，个体Y值的95%容许区间。 即估计总体中体重50.7KG者，有95%的人，基础代谢率在3844.834596.737范围内。,图126基础代谢率依体重回归线的95%置信带与Y个体值95%预测带,第三节 残差分析,残差分析（residual analysis）旨在通过残差深入了解数据与模型之间的关系，评价资料是否符合回归模型假设，识别异常点等。,图127基础代谢率与体重的回归残差图,图128残差示意图,第四节非线性回归 一般而言，自然

9、界的生命现象中绝对线性关系并不多见，但从相对与近似的观点出发，我们可以用前面已经提到的线性回归模型来解决许多实际问题。可以说，非线性回归要比线性回归更能充分地表达变量间的关系。当今线性回归都比非线性回归应用多，原因在于无论从数学理论还是计算方法，线性回归都比非线性回归模型简单得多。,一、通过自变量的变换实现线性化 实践中有两类非线性关系，一类是通过自变量X的适当变换可线性化，另一类是不可能通过自变量X的变换实现线性化的。 例如，假定观察样本(Xi,Yi)，i=1,2，,n满足例如，假定观察样本(Xi,Yi)，i=1,2，,n满足,但是诸如： 等情形，都不能通过自变量的变换实现线性化，只能通过应

10、变量 Y的变换 实现线性化。,二、变换自变量实现线性回归的步骤 1.将观察样本(Xi,Yi)，i=1,2，,n 作散点图，观察散点分布特征类似于何种函数类型； 2.按照所选定的函数进行相应的变量变换； 3.对变换后数据用常规最小二乘法(OLS)作线性模型的参数估计。 4.一般拟合多个相近的模型，然后对各个模型的拟合优度评价挑选较为合适的模型。,例12-6 某研究者测得某女童19个月的身高数据，如表124，试用合适的回归模型描述该月龄段女童随时间变化规律,分别拟合三种不同的回归模型的结果综合于表12-4中。,表12-4 拟合不同回归模型的结果,0.992,0.0001,357.85,二次函数,0.989,0.0001,632.18,对数函数,0.937,0.0001,103.44,简单线性,R2值,P值,F值,回归方程,模型名称,第七节 小结1、回归分析是从预测的角度，通过样本数据在最小二乘原则下建立线性回归方程，以便用自变量(X)的数值估计反应变量(Y)的数值及变异；2、最小二乘原则是指观测样本的实测反应变量值与方程估计值之差之和最小的回归参数估计；3、总体回归线的95%置信带与个体值Y预测带均由对称于回归线的弧形曲线构成，而且后者比