10.2 一元线性回归

概率论

与数理统计理学院数学系“悟道诗---严加安”随机非随意，概率破玄机；无序隐有序，统计解迷离．第十章回归分析第二节一元线性回归二、参数的最小二乘估计四、利用回归方程进行预测一、一元线性回归模型三、回归方程的显著性检验五、小结一、一元线性回归模型随机变量

Y可控变量X线性相关Y

关于X的一

元线性回归模型：

n

次独立观测数据a,b

为待估计的模型参数.εi为随机误差项.一、一元线性回归模型当时，，可得对每个，相应的因变量的观测值来自于正态总体，回归直线将穿过点,即回归直线从Y的均值位置穿过.理论回归方程：二、参数的最小二乘估计假设a,b

的估计量为拟合误差（残差）一个比较好的回归方程应该使所有观测点的残差平方和尽可能小二、参数的最小二乘估计残差平方和：二元函数的最小值点称为a,b

的最小二乘估计.求关于的偏导数，并令其等于0，列方程组如下：二、参数的最小二乘估计进一步整理得：其中当不全相等时，方程组的系数矩阵的行列式二、参数的最小二乘估计解得唯一解：经验回归方程：其中注：经验回归直线一定过观测数据散点图的几何中心例10.2.1

由专业知识可知，合金钢的强度Y(107

Pa)与合金钢中碳的含量X

(%)有关．为了研究它们之间的关系，从生产中收集了一批数据，如下表所列．试根据这些数据求Y关于X的经验回归方程．序号xy序号xy10.1042.070.1649.020.1143.580.1753.030.1245.090.1850.040.1345.5100.2055.050.1445.0110.2155.060.1547.5120.2360.0解先根据已知数据绘制X

和Y

的散点图解由散点图可知，12个观测数据点分布在一条直线附近，Y与X是线性相关的．假定Y

关于X

的理论回归方程为经计算得从而可得故Y

关于X

的经验回归方程为三、回归方程的显著性检验对于变量Y和X的任意n对观测值，只要不全相等，则无论变量Y和X之间是否存在线性相关关系，都可根据上面介绍的方法求得一个线性回归方程。显然，只有当变量Y和X之间存在线性相关关系时，这样的线性回归方程才是有意义的.为了使求得的线性回归方程真正有意义，就需要检验变量Y

和X

之间是否存在显著的线性相关关系．三、回归方程的显著性检验1.F

检验离差分解：三、回归方程的显著性检验1.F

检验残差平方和回归平方和三、回归方程的显著性检验1.F检验定理10.2.1对于一

元线性回归，有并且和相互独立H0成立时，三、回归方程的显著性检验1.F检验检验统计量拒绝域aF

(1,n-2)0拒绝H0不能拒绝H0FF分布三、回归方程的显著性检验1.F

检验当时拒绝原假设H0，认为Y

和X之间的线性相关关系是显著的.方差来源平方和自由度均方F值临界值回归SSR1MSR=SSR/1MSR/MSE

Fα(1,n–2)残差SSEn–2MSE=SSE

/(n–2)总和SSTn–1一元线性回归的方差分析表：例10.2.2

在研究合金钢的强度(Y)与碳含量(X)关系的例10.2.1中，我们已经求出了Y关于X的经验回归方程，接下来取显著性水平α

=0.01，对回归方程进行显著性检验．解经计算得从而可得解SST,SSR,SSE

的自由度分别为11,1和10，从而可得各均方分别为检验统计量的观测值由于检验统计量可得检验的p

值为解由上表可知两不等式均可说明在显著性水平0.01下，Y和X之间的线性相关关系是显著的，或者说Y关于X的回归方程是显著的.又F(1,10)分布的上侧0.01分位数，于是可得方差分析表如下：方差来源平方和自由度均方F值临界值p值回归317.25871317.2587176.539310.040.0000残差17.9705101.7971

总计335.229211

三、回归方程的显著性检验2.t检验定理10.2.2对于一

元线性回归，有并且和相互独立(1)的分布并且和相互独立2.t检验当原假设成立时，检验统计量(2)检验统计量和拒绝域拒绝域检验的p

值其中称为剩余标准差(或均方根误差)故在显著性水平0.01下拒绝原假设H0，认为Y关于X

的回归方程是显著的以例10.2.1中数据为例，经计算得注：对于一元线性回归分析，t检验和F检验是等同的四、利用回归方程进行预测1.点预测称为

y0的点预测.对于给定的X=x0，由于因变量Y是随机变量，Y

的相应取值y0是无法准确预测的．将x0代入经验回归方程，只能得到y0的均值的估计四、回归系数的显著性检验2.区间预测对于给定的X=x0，相应的y0

的均值a+bx0

的点估计为由可得y0

的置信水平为1-α

的预测区间为其中四、回归系数的显著性检验2.区间预测当时，y0的预测区间的长度达到最短当x0逐渐远离时，预测区间的长度逐渐增大例10.2.3

在例10.2.1中，若碳含量为0.19，求相应的合金钢强度的预测值和置信水平为95%的预测区间.解令，可得合金钢强度y0

的预测值为取，则，又可得从而可