一元线性回归模型及其假设条件

1、§4.2 一元线性回归模型及其假设条件1 .理论模型 y=a+bx+ e X是解释变量,又称为自变量,它是确定性变量,是可以限制的.是的.Y是被解释变量,又称因变量,它是一个随机性变量.是的. A,b是待定的参数.是未知的.2 .实际中应用的模型? = ? |bX夕,？,x是的,?是未知的.回归预测方程：y=a+bx a,b称为回归系数.假设自变量x的值,那么通过预测方程可 以预测出因变量y的值,并给出预测值的置信区间.3 .假设条件2名满足条件：(1) E( 8) =0; (2) D( Ei ) = b； (3) Cov ( E. ,e j )=0,i wj ； (4) Cov (

2、 e i ,b j )=0 .条件(1)表示平均干扰为 0;条件(2)表示随机干扰项等方差；条件(3)表示随机干扰项不存在序列相关； 条件(4)表示干扰项与解释变量无关.在假定条件(4)成立的情况下,随机变量yN (a+bx,/).一般情况下,l N (0,).4 .需要得到的结果§ 4.3模型参数的估计1 .估计原理回归系数的精确求估方法有最小二乘法、最大似然法等多种,我们这里介绍最小二乘法.估计误差或残差： ei = yi - yi , yi=a + bx, yi = yi + gj = a + bx + q (5.3 1)误1差e的大小,是衡量a、b好坏的重要标志,换句话讲,模

3、型拟合是否成功,就看残差是否到达要求.可以看出,同一组数据,对于不同的a、b有不同的,所以,我们的问题是如何选取a、b使所有的q都尽可能地小,通常用总误差来衡量.衡量总误差的准那么有：最大绝对误差最小、绝对误差的总和最小、误差的平方和最小等.我们的准那么取：误差的平方和最小.nn一 2 一 取小二乘法：令q =工e =工i 1i 1,2 nyyi =二 ya bxi(5.32)使Q到达最小以估计出a、b的方法称为最小二乘法.理论推导：微积分极值理论的拉格朗日极值法.2 .估计结果n,xyin 2 c Xi i 4ny夕i=1 i?n47-n n,x yi 1 i2-f n、-工XiU=1Jn】

4、Xi-i-= = y bXnQn2n-2 n二 yiyi二i 1 i i i=42yj a bxj, y是y的算术平均数,又是x的算术平均数.§ 4.5回归方程的检验、离差平方和的分解与可决系数当根据历史数据估计出回归预测方程后,我们要思考这样的一些问题：回归直线是否有意义？可否用于预测和限制？参与计算的两个变量x和y是否有线性关系？假设有线性关系,其关系的密切程度如何度量.1 .离差平方和的分解S总表不.总变差或离y. - y 表示观察值yi与其平均值的总离差平方和,用差平方和.第二、Z?. 一,是总离差平方和中由回归直线方程中X的变化所引起,它的大小反映i 4了自变量X的重要程度

5、,称为回归平方和.用 U表示.回归变差.n2第三、y yj - ?J反映了不能由回归直线解释的局部,是由其他未能限制的随机干扰因素引起的.称为残差平方和.用Q表示.剩余变差22 .可决系数RSsU+Q, 1= U/S总+ Q/S总；R2= U/S总=1 Q/S总表示由解释变量 X的变化而引起因 变量y的变差占总离差的百分比.称为可决系数.3 .相关系数在一元线性回归中,相关系数是可决系数的平方根.相关系数：是描述变量 x与y之间的线性关系密切程度的一个数量指标.计算公式为：n xx yryI /r = 一.n2 n_ 21 xi x ； yy结论：第一、当r?=0时,变量x与y无任何线性关系,

6、表现为Xi, 丫|的散布是完全没 有规那么的.第二、当？2=1时,所有的样本点都落在回归直线上,称变量x与y完全相关.1?=1是完全正相关,？=-1是完全负相关.第三、一般情况是,0< I ? I <1.？>0称为正相关,?<0称为负相关.r <0.3,视为无相关；0.3W r V 0.5为低度相关；0.5W r <0.8为显著相关；r >0.8为高度相关.二、回归方程的检验1. 相关系数检验法建立回归方程前要考察r?的大小,以确定回归方程有无使用价值.相关系数r?计算后,要进行统计检验,判别是否具有统计意义.检验方法是：根据置信度、自由度样本数据个数

7、一1和自变量与因变量的总个数查相关系数表,确定临界值,假设计 算所得到的相关系数r?小于临界值,那么无统计意义.反之,那么有统计意义,是有效的.2. F检验法解释F检验法的含义.回归方程显著性检验的含义：即检验：y = a+bx对实际的y和x的拟合是否有统计意义.所用统计量为F=U/Q/ n-2 .检验步骤是第一步计算统计量 F的值；第二步根据给出 的置信度5,得至岫界值Fa 1, n-2;第三步将统计量值 F与临界值Fa进行比拟,假设统 计量值F大于Fa,那么认为回归方程显著,线性假设成立,有统计意义,否那么回归方程没有统计意义.实际应用中,统计软件给出了F值.3. T检验解释T检验法的含义.P129 T检验法关于a=0的假设检验,有专门的 t检验.在一元线性回归模型中,F检验与t检验等同.§ 4.6预测区间1 点预测设预测点为*0,丫.那么预测值为:2 .预测置信区间V.t 2 n 2S.So =3 .限制区间V,求X,的变动范围,称为对 V的限制,我们在这里不