应用数理统计课程

y

令Y

，X=

1，e=

xnm

b b m

y1=b0+b1x11+L+bmx1m+nn

+L+b

Y=Xb+e，e~N(0,s2I n

0N(0,s2I)表示n元正态分布0=是数学期望，s2I=

s2 M和数据向量

xnm

ˆ 0M MmmnQ=(y-n

-L-b i

i, ¶Q=

ˆ 0 ˆ

1

L ¶Q=

m

=(X XnQ=(y-n

b

L-b i

iy-b-b

L-b

Ty-b-b -L-b 10 10

1 1

=(Y-Xb)T(Y-Xb)=YTY-2bTXTY+bTXTX¶Q=¶(YTY-2bTXTY+bTXTXb)=0-2XTY+2XTXb= 用到:¶A0，¶(xTAA，¶(xTAxAAT ¶Q=¶(YTY-2bTXTY+bTXTXb)=0-2XTY+2XTXb=

0

M M mmXTXb=XTYXTˆXTˆˆˆ=M=X n

ˆ的均值=yi

=(yi-=(yi-b-b -L-b) iˆ SSe=YTY-ˆX 或SSe=YTY-ˆ n-n-m-

1-r1-LLyy

nn

y)2ＳＳR

niin

y2)Ｓe

(yi-

)2

SST-SSer2=

,r

是因变元y与一组自变元

,x,...,x

y1 ˆ1 就是YM yn ˆny1 ˆ1 证明 Y=M与ˆ= (yi-y)(ˆi-y(yi-y)(ˆi-y -y)2(iiSSTSSR要证:SSTSSR

SSTSSR-y)(ˆi-y)SSTSSR

=

-y)(ˆi-ySSRSST)=(yi-y)(ˆi-y)=SSRSST)=[(yi-y)-(ˆi-y)](ˆi-2yiˆi -ˆi =02YTˆ=ˆT YT(Xˆ)=(Xˆ)T(Xˆ) x12

1

y 3解：X

22=

，Y=

2=

x32

2 y 42

1

4 1 0

1

04 1 11

=

122=-ˆ

1 12-

YY=Xb+e,e~N(0,s2nY=Xb+e,e~N(X2n,sI)~SSe ~c2(n-m-s2ˆˆj~N(b,cs),2 (XTX)-1jjjs由于Y~NnXb

I2IE(bˆ)=E[(XTX)-1XTY]=(XTX)-1XTE(Y)=(XTX)-1XTXb=D(bˆ)=D[(XTX)-1XTY]=(XTX)-1XTD(Y)X(XTX)-=(XTX)-1XTs2IX(XTX)-=s2(XTX)-1XTX(XTX)-1=s2(XTX)-)) ˆ ) )

s

ˆe因为YXbe，所以eYXeeTe=(Y-Xb)T(Y-Xb)=YTY-2bTXTY+bTXTXT T,,s

ee eT

(ˆ

(ˆ i =

= i=1s

= e

n

ˆ-ˆx -L-ˆ (

i

ˆ)Tˆ)其中Q=

= XT(Y-Xbˆ)=XTY-XTXbˆ=XTY-XTX(XTX)-1XTY=Q2

(ˆ-b)TXTX(ˆ-b)=(ˆ-b)TPTP(ˆ-b),所以,Q的自由度 = 因为f1f2(nm-1(m+1)n，Q=

Q2

ˆ

相互独 E(SSe)=(n-m-1)s，E(sˆ)

E(SS)=E(SSes2)=E(

E(SSe

)=

n-m-

n-m-

ˆ-

cjcj

=1,2,L,jj其中C是矩阵XTX)-1

c0mM的第j+1

mm

ˆ~N

1M 1M mm

c0m M 1，协方差s2(XTX)-1=s2

b

m mm所以

~N

2 )，即2

j

scjs

eejˆ-j

scjscjsscj ~t(n-scj,相当于检验回归模型y=b+bx+L+b +，e~N(0,s2 1 中自变元的系数全部为零H0b1b2=Lbm因为y=b+bx+L+b +，~N(0,s2 1 如果假设H0为真，b1b2Lbm0，则有yb0 与

~c2 F / ~F(m,n-m-SSe/(n-m-jˆ-j cj

~t(n-m-

0，有Tj

jcj

ˆ- cj

22 2

ˆ2 F=T2=

j cjj

0

0 0ˆ0

+ˆx+ˆ 多重相关系数r0.9285（3）检验H0：b1=b2=0的统计量F=37.50 对a=0.05，查F分布表，可得分为数: , ：b2=fR=fT=n- ---------参见5.5节逐步回归方法 上加工这一零件，在曲线上测得n个点的坐标(xi,yi) ，i=1,2,L,n，要ˆˆˆ 令xx，xx2 ˆˆˆ 1 Cobb

, ˆ ˆ y*=ˆ+ˆx+ˆ 1 异辛烯的分压x2，异辛烷的分压x3x+bxx+bx+cx123其中，kabc是常系数，现对x1x2,x3,y(xi1xi2xi3,yi)，i=12L,n，要求常系数kabcˆ

x+bˆˆx312333ˆx 33ˆx 3ˆx

+ˆ

+ˆ3ˆx 3ˆx3ˆx 3ˆx

+ˆ

+ˆ

+ˆb0,b1,L,

(xi1,xi2,L,xim,yi)，i=1,2,L,,ˆˆ,ˆ nQ=[y-f(b+1(xi1,L,xim)+L+bpjp(xi1,L,xim)) 对回归方程ˆfbˆbˆj(xLx+Lbˆj(xL,x 1 f-1(ˆ)=ˆ+bˆj(x,L,x)+L+bˆj(x,L,x 1 令y*=f-1(y)，z=j(x,L,x =j 1 y*ˆˆzˆz 1 ,bˆˆ,L,bˆ 有些则要取反函数y*=f-1(y) y=f(b0+b1x)+e求b0b1的估计ˆˆ， nQ=[y-f(

+bx)i

在自变量x与因变量y之间的关系式两边取反函数f-1( ，得n Q*

-1(y)-(b+bx) ˆ*„ˆ (a)a-(a)(a

-1ybbx 1y-f(b+bx)=f(f-1(y))-f(b+bx »f(

-1(y))[f-1(y)-(b+bx nQ=[y-f(b+bx)]2»{

-1(y)-

+bxi

=W[

-1(y)-

+bx

其中W=ff-1y))]2称为权（Weight） WˆW W (y)-(b+bxi i 最小二乘估计ˆW »ˆˆW » y=F(x1,x2,L,xm;a1,a2,L,ap)+e 其中，F是函数形式已知的m元函数，aaL,ae~N(0s (xi1,xi2,L,xim,yi),i=1,2,L,,ˆ1,ˆ2,