第7章相关与回归（课件）-《统计学-理论、案例、实训》同步教学（电工版）

STAT

No

Image

7-1

STAT

7-2

STAT

一、变量间的关系

二、相关关系的类型

三、相关系数

7-3

STAT

◆确定性的函数关系Y=f(X)

◆不确定性的统计关系—相关关系

Y=f（X）+ε(ε为随机变量)

◆没有关系

7-4

STAT

1.从涉及的变量数量看：简单相关与多重相关（复

相关）

2.从变量相关关系的表现形式看：线性相关与非线

性相关

3.从变量相关关系变化的方向看：正相关与负相关

4.从变量相关的程度看：完全相关、不完全相关与

不相关

7-5

STAT

7-6

STAT

1.度量变量之间线性关系强度的一个统计量

–若相关系数是根据总体全部数据计算的，称为总体

相关系数，记为

–若是根据样本数据计算的，则称为样本相关系数，

简称为相关系数，记为r

l也称为Pearson相关系数(Pearson’scorrelation

coefficient)

2.样本相关系数的计算公式

(xx)(yy)

r

(xx)2(yy)2

7-7

STAT

1.检验两个变量之间是否存在线性相关关系

2.采用R.A.Fisher提出的t检验

3.检验的步骤为

–提出假设：H0：；H1：0

–计算检验的统计量

rn2

t~t(n2)

1r2

–确定显著性水平，作出决策。如果｜t｜

，则拒绝原假设H0；认为所考察两变量的相关

性是显著的，即r在统计上是显著的。反之，则认

为r在统计上不显著

7-8

STAT

7-9

STAT

高尔顿遗传学的回归概念

父母身高与子女身高的关系:

无论高个子或低个子的子女

都有向人的平均身高回归的

趋势

7-10

一个因变量对若干解释变量依存关系的研究STAT

回归的目的（实质）：

由固定的自变量去估计因变量的平均值

估计因

量变

平均值

7-11

STAT

1.重点考察考察一个特定的变量(因变量)，而把其

他变量(自变量)看作是影响这一变量的因素，并

通过适当的数学模型将变量间的关系表达出来

2.利用样本数据建立模型的估计方程

3.对模型进行显著性检验

4.进而通过一个或几个自变量的取值来估计或预测

因变量的取值

7-12

STAT

回归模型

一元回归多元回归

线性回归非线性回归线性回归非线性回归

7-13

STAT

1.涉及一个自变量的回归

2.因变量y与自变量x之间为线性关系

–被预测或被解释的变量称为因变量

(dependentvariable)，用y表示

–用来预测或用来解释因变量的一个或多个变

量称为自变量(independentvariable)，用x表

示

3.因变量与自变量之间的关系用一个线性方

程来表示

7-14

STAT

n

7-15

•假定1：零均值假定。STAT

E(i)0

•假定2：同方差假定。

2

Var(i)(i1,2,...,n)

•假定3：无自相关假定。

Cov(,)0(i,j1,2,...,n,ij)

ij

•假定4：随机扰动与自变量不相关。

iXi

Cov(x,)0

•假定5：正态性假定2

i~N(0,)

7-16

STAT

7-17

STAT

7-18

STAT

7-19

STAT

(xi,yi)

7-20

STAT

7-21

STAT

7-22

STAT

1.因变量y的取值是不同的，y取值的这种

波动称为离差。离差来源于两个方面

–由于自变量x的取值不同造成的

–除x以外的其他因素(如x对y的非线性影响、

测量误差等)的影响

2.对一个具体的观测值来说，离差的大小可

以通过该实际观测值与其均值之差来

表示

7-23

STAT

y

7-24

STAT

{{

{

7-25

STAT

1.总平方和(SST—totalsumofsquares)

–反映因变量的n个观察值与其均值的总离差

2.回归平方和(SSR—sumofsquaresofregression)

–反映自变量x的变化对因变量y取值变化的影响，

或者说，是由于x与y之间的线性关系引起的y的

取值变化，也称为可解释的平方和

3.残差平方和(SSE—sumofsquaresoferror)

–反映除x以外的其他因素对y取值的影响，也称为

不可解释的平方和或剩余平方和

7-26

1.回归平方和占总离差平方和的比例STAT

7-27

STAT

1.实际观察值与回归估计值误差平方和的均方根

2.反映实际观察值在回归直线周围的分散状况

3.对误差项的标准差的估计，是在排除了x对y

的线性影响后，y随机波动大小的一个估计量

4.反映用估计的回归方程预测y时预测误差的大小

5.计算公式为

7-28

STAT

7-29

STAT

7-30

STAT

7-31

1.提出假设STAT

–H0:b=0(没有线性关系)

–H1:b0(有线性关系)

2.计算检验的统计量

tt2(n2)

tt2(n2)

7-32

STAT

检验自变量与因变量之间的线性关系是否显著

7-33

1.提出假设STAT

–H0：b=0线性关系不显著

F(1,n2)

FF(1,n2)

7-34

STAT

7-35

STAT

1.对于自变量x的一个给定值x0，根据回归

方程得到因变量y的一个估计值

ˆ

yˆ0ˆbx0

7-36

STAT

1.对于自变量x的一个给定值x0，根据回归

方程得到因变量y的一个估计区间

2.分两种情形

–大样本情形下的区间预测

–小样本情形下的区间预测

7-37

STAT

(yˆ0z2sy,yˆ0z2sy)

不同的预测区间和概率保证：

(yˆ0sy,yˆ0sy)概率保证为68.27%

(yˆ02sy,yˆ02sy)概率保证为95.45%

(yˆ03sy,yˆ03sy)概率保证为99.73%

7-38

STAT

2

1x0x

yˆ0t2(n2)Sy1n

n2

xix

i1

7-39

STAT

一、多元线性回归模型的设定

二、参数的最小二乘估计

三、多元线性回归分析中的检验问题

7-40

STAT

7-41

STAT

7-42

STAT

7-43

STAT

7-44

STAT

7-45

STAT

7-46

STAT

7-47

STAT

7-48

STAT

7-49

STAT

1.回归平方和占总平方和的比例

2.计算公式为

3.因变量取值的离差中，能被估计的多元回

归方程所解释的比例

7-50

STAT

1.用样本量n和自变量的个数k去修正R2得到

2.计算公式为

3.避免增加自变量而高估R2

4.意义与R2类似

5.数值小于R2

7-51

STAT

1.对误差项的标准差的一个估计值

2.衡量多元回归方程的拟合优度

3.计算公式为

7-52

STAT

7-53

STAT

1.检验因变量与所有自变量之间的线性关系是

否显著

2.也被称为总体的显著性检验，或者全检验

3.检验方法是将回归均方(MSR)同残差均方

(MSE)加以比较，应用F检验来分析二者之

间的差别是否显著

–如果是显著的，因变量与自变量之间存