OLS估计量的性质的推导证明(一些补充)

1、精品文档2欢在下载OLS估计量的性质的推导证明（一些补充）1、线性:（1）证明斜率系数估计量是Y的线性函数。、A、1注息:12XikiXikiX1记得Xiyi2 XiXiYi2Xiki=(Xi(Yi Y)2XixYi2 XiY Xi2 XiXikYi,Xi2XiXi （前已证Xi/Xi 、(rgXi)Xi1,故ki(xi X)kiXi 1(Xi X)其中k（由于对确定量0)0,故ki2X12XiXinXXi2XiXi而言kiXiX g ki(前已证ki0与kiXi1,对后面的 证明会有用。证明截距系数估计量是Y的线性函数。,1(kiX)YiwYi淇中 win0)x 2是定值）kiXi1,ki0

2、)精品文档注意:Wi/1(一 kiX) n1 ngnkiX1 Xg ki2nxi5欢在下载(前已证kiXi 1),11、， wX (- kX)Xi -g X Xg kXi(刖已证 nn1g Xi X 0;n注意Wi 1,WiXi 0,对后面的证明有用。2、无偏：(1) 是的无偏估计量k Yik(Xii)(前已证k Xi 1, k 0)k k Xikki i由于E( k i) E(k1 1 k2 2kn n)E(k1 1) E(k2 2) . E(kn n)k1E( 1) k2E( 2) . knE( n)(注意假设 E( i) 0) 0所以对等式=k i两边取期望有，E( ) E( k i)

3、是的无偏估计量，即E()证明方法同上，参考课件。注意利用Wi 1, WiXi 0课件上有错误：= k应改为 =w-证明思路：先计算 的方差Var(),再证明对任一线性无偏估计量，(即 满足*cY且(),均满足Var( ) Var()。对 的有效性证明思路同对，的最小方差性证明上课件已经说的比较清楚，也没有错误。这里仅仅对，的计算作一些说明。(1)计算与的方差Var()(注意前面证明无偏性的时候已证k-)Var( k。(注意到 为常数)Var( k)Var(ki i k2 2 . kn n)(注意到随机变量i独立)Var(ki i) Var(k2 2)Var(kn n)ki2Var( 1)kn2

4、Var( n)(注意到随机变量方差相同，为2)2k222注意到kl=;,故ki27一，ki2xi( xi )( xi )2所以Var()2x12 xiVar()(前几步思路同上，见课件)2 wi22(-nkiX)22( -kiXki2X2)(这里课件上有错误，请注意)n n2.1 22. 2、,、卜辽斗、丁 .-. 2(gn -XkiXki )(汪思刖已证ki0,kinn2222.1 X 、2Xi2(7)2nxin xxi2)最后一个等号处，用逆推比较清楚:Xi2(xi X)222n xinxi22xi2 2X xi nX-21 X2nxi精品文档X 2x,7欢在下载4、关于，的协方差计算：

5、课本的证明方法略显复杂： 在证明前先注意两个公式：若 cov( X a,Y b) cov( X ,Y),X,Y,Z,W是随机变量,a,b,c,d是常数cov(aX bY,cW dZ)并注意两个对随机变量对i j,有 cov( i, j)accov( X ,W) i的假设：0;对 i j, cov(ad cov( X ,Z)bc cov( Y,W)j) cov( i,i) Var ( i)故 cov( , ) cov(Wi i,)(注意到为常数ncov( Wii 1kjj 1j)cov( W1 1W22Wn),(k1 1 k22.kn，则有bd cov( Y, Z)2n)(由于对i j,有cov

6、(j)0,所以只需考虑cov( wi 1,k1 1) cov(w2 wkcov( 1, 1) w2k2cov( (注意到有同方差假设，,k2)COV( Wn n:i=j的情况,kn n)cov(1 nnWnkn COV(Var ( i)Xki)kiki2Xi(注意到前面已证i 1kin0,i 1ki21n2Xii 1, n)2)ki212Xn2Xii 1一种比较简单的算法如下:由于 Y X,所以E(E()X,E()XE()故 cov( , ) E E()E( )XE E(X Var()(在证明的有效性时已求得Var()222)Xi精品文档又因为E( )2 Var( ), E(22)2 Var(

7、 ),E( i )22ceiei5、证明 s2 一(课件上误作 -) n 2n 2e Y Yi ()( )Xi i222 22 _e ()2 ()2 Xii 2X)()2 i() 2 i()Xi(课件上此处有误，请注意)Wi i由于前面已算得:9欢在下载E( )() cov(,)j, i j独立故 E(，j)E( i)g E( j)所以Wi i Wn n)E i() E i(wi i W2 2WiE( i2) Wi 2同理可算得：E，() kiE(e)Var (2)Xi22nXi2Xi Var ()2Xi2grXi2XiC0v( , ) 2E i() 2XiE，(2X222Xigr 2Wi2XikiXi)两边求和得E(ei2)2XiXi22Xi2Xi一 2 -222 X2Xin rg Xi 2 Wi 2Xi22 2 X22n 2rg Xi 2 2 2 2XikiXi22 Xi X Xi2Xi(