应用回归分析证明题及答案

1、应用回归分析证明题及答案一 . 证明残差满足的约束条件：证明：由偏导方程即得该结论：Q?00Q?111nnei0 ，xi ei0 。i 1i12n?x )0( yii01i1n?x )x02( yii01 ii1证毕 .二 . 证明平方和分解式： SST SSR SSE。证明：n2n?2SST( yiy)( yiy)yiyii1i1n?2n?2n?y)( yi)2( yiy )( yiyiyi)( yii1i1i1n?nn?上式第三项2ei y2 ei ( 01 xi ) 0ei yii 1i1i 1nn2?e?xe00i1i ii1i1n2n2即 SST?y )( yi?( yiyi )i1

2、i 1SSR SSE证毕 .三 . 证明三种检验的关系：（ 1）?1Lxxrn2；(2)SSR/1?12 Lxx2t=?=1r 2F= SSE/(n2)=?2= t证明：由于rLxy?1LxxSSRSSR?1Lxx22Lxx LyyLyy,r SST,SST2ei2SSTSSR?n2n2所以?1 Lxxr Lyyn 2r n 2tLyy;?SSR1 r 2SSR/1?12 Lxx.F2SSE/( n2)?证毕 .四证明： Var (ei )11( xix) 22。n( xix)2证明：由于?eiyiyi( 01xi )yiyiy?1 (xix )yi1n(xix) yi( xix)n iyiL

3、xx1于是Var (ei )Varyi1n(xix) yi( xix)n iyiLxx11n(xix) yiVaryiVaryiVar( xix)2Lxxni12Covyi , 1 nyi2Covyi,(xix) yi (xix)n i1Lxx2Cov1nyi ,( xix ) yi( xix)n iLxx121 2( xix ) 222 1 22 ( xix )22nLxxnLxx11( xix )22nLxx证毕 .五证明：在一元回归中，Cov( ?0, ?1 )x2 。Lxx证明：Cov( ?0 , ?1 ) Cov1 nyi( xix ) yi x ,( xi x ) yin i1Lx

4、xLxxnCovi1nCovi11x ( xix )yi ,n( xix ) yinLxxi1Lxx1( xix )yi ,n( xix )nxLxxyiLxxi1n1(xix ) ( xi x ) 2i 1 nxLxxLxxx2Lxx证毕 .六证明： ?21SSE 是误差项方差2 的无偏估计。np1证明：由于而所以D (ei )1( xix)221(xix)2n2)D ( ie )2D i( e )E( eiE(i e )E( ?2) En1SSEp 11nD (ei )np1 i 11( np 1)np11nE( ei2 )n p1 i 1n1 (1 hii ) 2n p 1 i 122证

5、毕 .七证明：?；?21。D ()(X X)E() 证明：?1X y (X X )1X E yE() E (X X )(X X ) 1 X E X (X X ) 1 X X ? ?Cov (X X )1X y,( X X )1X yD ()Cov ,(X X)1 X Cov y, y X ( X X ) 1(X X)1 X2IX (X X) 12(X X)1证毕 .八证明：在多元线性回归中， 假设 N (0,2 I n ) ，则随机向量 y N ( X ,2I n ) 。九证明：当 yN (X ,2I n ) 时，则：?21；（ ）2。（ 1） (XX) )SSE/(np1)N ( ,2证明：

6、?1， X 是固定的设计矩阵，因此，?是的线性变换。（ 1）因为 (X X)X y y22?又当 N (0,I n ) 时，有随机向量 yN (X ,I n ) ，所以 服从正态分布，且?2(X X)1?2(X X)1)。E() ,D ()，即有 N (,（ 2）：由于SSE?ee ( y - y) (y - y)(I - H)y(I - H)yy (I - H)yy Ny( X ) N ( X )NX 0N借助于定理：设 XN (0,I n ) ，A 为 nn对称阵，秩为 r，则当 A 满足：A 2A ，二次型 X A2X2r ，只需证明： rk ( N)np1 即可。因为 N 是幂等阵，所

7、以有 rk ( N)tr ( N) ，故rk (N )tr I nX(X X) 1Xn tr X ( X X ) 1 X n tr (X X ) 1 X Xnp1证毕 .十证明：在多元线性回归中，最小二乘估计?e 不相关，即与残差向量?Cov(,e ) 0。证明：?)Cov()1,()Cov(,X XX yyeI H(X X ) 1 X Covy, y (IH )(X X) 1X2I(I H)(X X) 1X2I (I X(X X) 1X )0证毕 .nee1十一证明：DW2(1?，其中?t 2t t。)nnet2et21t2t2证明：由于net 1 )2net2net2 1n(et2 et et 1DWt2nt2t 2nt 2et2et2t2t 2nnnet et 1如果认为22，则有?t2，所以etet 1n2t2t2ett 2neett 1?) .DW2 1t 22(1net2t2证毕 .十