一元线性回归模型及其假设条件_4676.doc

1、4.2 一元线性回归模型及其假设条件1理论模型y=a+bx+ X 是解释变量，又称为自变量，它是确定性变量，是可以控制的。是已知的。Y 是被解释变量，又称因变量，它是一个随机性变量。是已知的。A,b 是待定的参数。是未知的。2实际中应用的模型?yabx， ?， x 是已知的，是未知的。a?by?回归预测方程：)x 的值，则通过预测方程yabxa , b 称为回归系数。若已知自变量可以预测出因变量y 的值，并给出预测值的置信区间。3假设条件满足条件：（ ）（）=0；（2）D（）2；（）Cov (,)=0,i j ; (4) Cov (1Ei=3iji ,)=0 。条件（ 1）表示平均干扰为0；条

2、件（ 2）表示随机干扰项等方差；条件（3）j表示随机干扰项不存在序列相关；条件（4）表示干扰项与解释变量无关。在假定条件（4）成立的情况下，随机变量y N（ a+bx， 2）。一般情况下， N（ 0， 2）。4需要得到的结果2， ?，a?b4.3 模型参数的估计1估计原理回归系数的精确求估方法有最小二乘法、最大似然法等多种，我们这里介绍最小二乘法。i) ， ) ，y)i) )iyi yi yiabxyabx估计误差或残差：eiiee（5.3 1）误差 ei 的大小，是衡量a) 、 b) 好坏的重要标志，换句话讲，模型拟合是否成功，就看残差)是否达到要求。可以看出，同一组数据，对于不同的a 、

3、b 有不同的 ei ，所以，我们的问)题是如何选取 a、 b 使所有的 ei都尽可能地小，通常用总误差来衡量。衡量总误差的准则有：最大绝对误差最小、绝对误差的总和最小、误差的平方和最小等。我们的准则取： 误差的平方法称为最小二乘法。方和最小。y y)n n 2 n ) 2Qii最小二乘法 ：令eiia bx2yi) )i1i1i 1到最小以估计出a 、b 的（ 5.3 2）使 Q 达理论推导：微积分极值理论的拉格朗日极值法。2估计结果n n n?nxi iyixyii1 i 1nbi122ni 1 xnxiii 1nynx?i?i?ai 1b i 1ybx?nn2 QQ ninyi y)iy

4、a)b i，n2xe2ii1i 1平均数。 4.5 回归方程的检验一、离差平方和的分解与可决系数当根据历史数据估计出回归预测方程后，我们要思考这样的一些问题：回归直线是否有意义？可否用于预测和控制？参与计算的两个变量 x 和 y 是否有线性关系？若有线性关系，其关系的密切程度如何度量。1离差平方和的分解nyiy2表示观察值y 与其平均值的总离差平方和，用 S第一、I总表示。（总变差或i1离差平方和）。是总离差平方和中由回归直线方程中x 的变化所引起，它的大小反映y?i2ny第二、i1了自变量x 的重要程度，称为回归平方和。用U 表示。（回归变差）。nyiy?i2 反映了不能由回归直线解释的部分

5、，是由其他未能控制的随机干扰第三、i1因素引起的。称为残差平方和。用Q 表示。（剩余变差）22可决系数RS=U+Q，（U/S）+（Q/S）；2U/S=1Q/S表示由解释变量x的变化而引起总总总总总因变量 y 的变差占总离差的百分比。称为可决系数。3相关系数在一元线性回归中，相关系数是可决系数的平方根。相关系数：是描述变量x 与 y 之间的线性关系密切程度的一个数量指标。计算公式为：rnxyyixii 1。nny 2xi x2yii 1 i1?结论：第一、当r =0时，变量x与y无任何线性关系，表现为（X I，Y I）的散布是完全没?有规则的。第二、当2时，所有的样本点都落在回归直线上，称变量与

6、完全相关。r?=1? x?y?r =1 是完全正相关，r =-1 是完全负相关。第三、一般情况是，0 r 0 称为正?r 0.3,视为无相关； 0.3 r 0.5 为低度相关；0.5 r 0.8 为相关， r 0 称为负相关。显著相关；r 0.8 为高度相关。二、回归方程的检验1相关系数检验法?建立回归方程前要考察r 的大小，以确定回归方程有无使用价值。?相关系数 r 计算后，要进行统计检验，判别是否具有统计意义。检验方法是：根据置信度、自由度（样本数据个数 1）和自变量与因变量的总个数查相关系数表，确定临界值，若计?算所得到的相关系数r 小于临界值，则无统计意义。反之，则有统计意义，是有效的

7、。2 F 检验法解释 F 检验法的含义。回归方程显著性检验的含义：即检验：)y)a bx 对实际的 y 和 x 的拟合是否有统计意义。所用统计量为F=U/Q/ （ n-2） 。检验步骤是第一步计算统计量F 的值；第二步根据给出的置信度 ，得到临界值F（ 1，n-2）；第三步将统计量值 F 与临界值F进行比较，若统计量值 F 大于 F，则认为回归方程显著，线性假设成立，有统计意义，否则回归方程没有统计意义。实际应用中，统计软件给出了F 值。3T 检验解释 T 检验法的含义。P129T 检验法?关于 b =0 的假设检验，有专门的t 检验。在一元线性回归模型中，F 检验与 t 检验等同。4.6 预测区间1点预测设预测点为x , y0 ，则预测值为：0?y0 a b x02预测置信区间y0 t 2 n 2 S011x0x 2S0nxi2x3控制区间已知 y0，求 x0 的变动范围，称为对x0 的控制，我们在