非参数半参数模型

1、非参数与半参数模型The basic idea of nonparametric inference is to use data to infer an unknown quantity while making as few assumptions as possible.0.00.81.00.00.51.0ty0.00.81.00.00.51.0ty主要内容p核密度估计p局部方法n核回归n局部线性回归n变系数回归n半变系数回归n部分变系数回归p全局方法n样条回归p多元非参数模型Cornwell与Rupert数据p如何刻画随机变量的特征？n女性（对数）工

2、资n男性（对数工资） Min. 1st Qu. Median Mean 3rd Qu. Max. 4.605 5.958 6.261 6.255 6.562 7.279 Min. 1st Qu. Median Mean 3rd Qu. Max. 5.017 6.458 6.745 6.730 6.976 8.537直方图p随机样本：x1,x2,xnp直方图的构造n确定原点x0，将数轴分割为宽度为h的区间(bin)n数出落在每个区间的观察值个数，记为njn用nj除以n，再除以h，得到n对每个区间，绘制高为fj ，宽为h的柱形图jjhxhjxBj,) 1(00nhnfjj直方图中密度的一般表示 n

3、ijjjihBxIBxInhxf1)()(1)(如何理解这个密度估计？有什么问题？如何改进？LWAGE的直方图Histogram of fwfwDensity4.55.05.56.06.57.07.50.00.6Histogram of mwmwDensity5.05.56.06.57.07.58.08.50.00.4 0.8Histogram of fwfwDensity4.55.05.56.06.57.00.01.02.0Histogram of mwmwDensity5.05.56.06.57.07.58.08.50.01.0Histogram of fwfwDensity4.55.05

4、.56.06.57.0050150Histogram of mwmwDensity5.05.56.06.57.07.58.08.504080h对直方图的影响是什么？直方图的统计性质p无偏？)()(1)()(1)()(1)()()(1)(1)(1)()(1)(,) 1(. 0)1()1()1(110 xfduufhxfBiasduufhxfEduufBxIPBxIEBxIEhBxInEnhBxIEnhxfEBxInhxfjhhjBxxjhhjhjhhjhjhhjjijijijinijihnijihj直方图的密度估计为：对于某个点假定原点为直方图密度估计的近似偏误)()()()()()()21()

5、()()()(1)()(1)1()1(xmmfxfxfExumfxfufhjmxfufduxfufhxfduufhjjhjjjhhjjhhj从而有：为处的一阶泰勒近似展开在直方图密度估计的偏误受什么影响？直方图密度估计的方差)(1)(1)(1)(1)(1)(22221xfnhduufduufnhnBxInVarhnBxInhVarxfVarjjBBjinijih直方图密度估计的方差受什么影响？直方图密度估计的均方误差p逐点均方误差p积分均方误差)1()(2121)(1)()()(222nhohoxhjhjfxfnhxfbiasxfVarxfMSEhhh22222222121)(1212121)

6、()(1)()()()(fhnhdxxfhnhdxhjfxhjBxIdxxfnhdxxfMSEdxxfxfExfMISEjjhhh最优带宽NoImage3/13/122022222260611)(121)(nfnhfhnhhfAMISEfhnhfAMISEhh对于标准正态分布，h03.5n-1/3原点的影响fwDensity4.55.05.56.06.57.07.50.00.81.01.2x0= 4.51 fwDensity4.55.05.56.06.57.07.50.00.8x0= 4.52 fwDensity4.55.05.56.06.57.07.50.

7、00.8x0= 4.53 fwDensity4.55.05.56.06.57.07.50.00.81.0 x0= 4.54 fwDensity4.55.05.56.06.57.07.50.00.8x0= 4.55 fwDensity4.55.05.56.06.57.07.50.00.81.0 x0= 4.56 不同原点的平均直方图4.55.05.56.06.57.00.00.81.0Average shifted histogram for female lnwagefwdensityabline(h=)

8、 6.22059 直方图vs核密度估计p直方图密度估计的两大局限n最优带宽h不易解决n原点的影响p即使解决了原点问题，直方图仍然有缺点n区间内每个点有相同的密度n估计的密度函数不连续p解决方法：核密度估计n没有原点问题n最优带宽得到了较好的解决n收敛速度更快由直方图到核密度估计p直方图p核密度#1的小区间内的观察值包含落入某个区间长度xn#1的小区间内的观察值附近落入区间长度xn核密度估计niiniiihhxxKnhhxxInhhxhxxnhxf1111211,#21)(核函数K(u)通常取对称单峰的概率密度函数且满足limuK(u)=0核函数核函数核函数K(u)均匀(Uniform)三角(t

9、riangle)Epanechnikov二次权重(quartic/biweight)三次权重(triweight)高斯(Gaussian)余弦(cosine)121uI 11uIu11432uIu11161522uIu11323532uIu2exp212u12cos4uIu核密度估计的一般形式 hKhKxxKnhxxKhnxfhniihniih1111)(11其中，LWAGE的核密度估计fwDensity4.55.05.56.06.57.07.50.00.81.0Kernel Density With Different BandwidthBW=0.1112BW=0.05BW

10、=1mwDensity5.05.56.06.57.07.58.08.50.00.81.0Kernel Density With Different BandwidthBW=0.0673BW=0.05BW=1h对核密度估计的影响是什么？LWAGE的核密度估计（续）核函数对核密度估计的影响是什么？fwDensity4.55.05.56.06.57.07.50.00.81.0Kernel Density With Different Kernel FunctionguassianepanechnikovtriangularrectangularmwDensity5

11、.05.56.06.57.07.58.08.50.00.81.0Kernel Density With Different Kernel Functionguassianepanechnikovtriangularrectangular核密度估计的统计性质p可以证明，对于对称核函数，有： dssKKnhnhoxfKnhxfVardssKsKhoKxfhxfBiashh)( 1)(1)()()()()()(2)(2222222222其中，其中，f(t)核密度估计的均方误差2222422422224224222224)()(41)(1)()()(41)()(1)()(1)()(4

12、)(xfKhKnhxfAMISEnhohoxfKhKnhdxxfMSExfMISEnhohoxfKnhKxfhxfMSEhhhh 最优带宽5/15/1222222)()( nKxfnKhopt光滑参数的确定-plug inp如果变量服从正态分布34. 1)()()(06. 1 )8(3)2(1)()(21,832)(34. 1, min06. 1 25. 075. 025. 075. 025. 075. 05/15/155/12222222255225/1 nnnnnnoptoptZZZZXXRnnKxfnhdxxfnIQRh光滑参数的确定-Cross-validationp对于任意分布 ni

13、ijnjijhniiihhninjjininjtjininjxjihhxfEfhhhhiijijhijijxxKnnxfnxfEestdvvKvuKuKKhxxKKhndttKthxxKhndxhxxKhxxKhndxxfdxxfdxxffdxxfdxxfxffISEhISExxKnnhxxKKhnhCVhh1, 11,112112112222)(222)(111)(1)(.)()(1 11)()()(2)()()()()() 1(21)( 其中，无关与的期望可由数据计算得到 LWAGE的核密度估计（续）fwDensity4.55.05.56.06.57.07.50.00.8

14、1.0Kernel Density With Different Bandwithsivermanscottcv-gaussiancv-epanechkovmwDensity5.05.56.06.57.07.58.08.50.00.81.0Kernel Density With Different Bandwithsivermanscottcv-gaussiancv-epanechkov置信区间 nhKxfzxfnhKxfzxfxfnhnhKxfzKxfhxfnhKxfzKxfhxfxfcnhvzbnxfxfvzbnxfPvzbxfxfnvzbPKxfcKxfcNxfxfnc

15、nhfhhhhhhxxhxxhxxhxxvbLh/xx222/1222/15/1222/122222/1225/12/15/22/15/22/15/22/12222525/1)()( ,)()( )()()()(2)( ,)()()(2)( )()()()( )()(1)(1, )()(2)()(2的近似置信区间为：界的第二项，从而得到足够小，可忽略区间边相对于如果的置信区间为：可得利用从而有：，则：存在，假定 lwage的密度函数及其置信区间fwDensity4.55.05.56.06.57.07.50.00.81.0Confidence Interval for Kern

16、el Density of Female lwagekernel densitylower intervalupper intervalnormalmwDensity5.05.56.06.57.07.58.08.50.00.81.0Confidence Interval for Kernel Density of Male lwagekernel densitylower intervalupper intervalnormal非参数回归py = m(x) +nm(x)=E(Y|X=x)nE( |X=x)=0,Var( |X=x)=2(x)p目标:m(x)的估计与推断n参数模

17、型关注参数的估计与推断p基本方法：局部光滑n对于x0, m(x0) = i wi(x0 |x)yinols： 局部常数拟合pNadaraya-Watson估计niihiniinjjhihniiniiiniihniiihNWyxWnyxxKnxxKnhxxKYhxxKxxKYxxKxm1011010101010100)(1)()(1 )()()(Nadaraya-Watson估计的矩阵表示YLIYYLYYxWXXxWXxWXXxWXxWXXxWXYyyyYxxxxYxWXXxWXxmyxxKxxKxxKDiagxWyyyYXTnnTnTTTTTTnnTTNWnhhhTnT)(),( )()()(

18、)()()( ),(,)()()()(,),(),()( ),( ) 1 , 1 , 1 (211212111212100100000201021：从而残差向量可表示为，则：，并记依次取各个设计点令则有：令lwageed468101214165678lwageed with kernel normal, h=1edulwagefemalemale468101214165678lwageed with kernel normal, h=5edulwagefemalemale模拟：边界效应0.00.51.01.52.001234boundary bias, h=0.01xy0.00.51.01.5

19、2.001234boundary bias, h=0.025xy0.00.51.01.52.001234boundary bias, h=0.05xy0.00.51.01.52.001234boundary bias, h=0.1xyNadaraya-Watson估计的渐近性质 duuKuxfxfxmxmcnhOhohcxmxmExxmxmEWNxxKxfDxxfxmnhhhYExKxfDxxfxmNWNWnnn)()()()()(21)()()(-)( )6()3(2)()(lim )4() 1 (1)()6(0)()()()5(lim0lim)4()|(|2)3()()2(0)()()(1

20、20000112210000000000其中，点处有：成立，则在：如果条件定理：估计是渐近无偏的，即点处，回归函数的成立，则在：如果条件定理具有紧支撑且对称核函数可微且的某个邻域内二阶连续均在和设计密度回归函数且满足光滑参数，使存在正实数具有紧支撑核函数连续且均在和设计密度）回归函数（带宽h对回归函数估计偏差的影响是？Nadaraya-Watson估计的渐近性质（续）duuKxfxcnhonhcxmxDxxxXVarNW)()()()()()(Var )7()4() 1 (3)(7)()|(2002211200022其中，点处有：成立，则在和条件：如果条件定理连续在）条件方差（假定误差项的条件

21、方差带宽h对回归函数估计方差的影响是？最优带宽p使得逐点均方误差最小的hp使得积分均方误差最小的h5/15/121204)(nccxhoptDD)()()()()( )()()()()(21)(4222522245/15/1245分区域为的正的有界权函数，积为给定的具有紧支撑其中，xwdxxwxfxduuKcdxxwxfxfxmxmduuKucncchopt N-W估计的置信区间 nihihihhhhxxxxLh/XxmYxWnxxfnhKxzxmxfnhKxzxmxmnhxcfKxvxfxfxmxmKcbvbNxmxmncnhxfxXYExxduuKfm1222222/12222/15/12

22、222222525/1222)()(1)()()()( ,)()()( )()()()()()(2)()(,)()(0)(4)|(|)(3)0()(21其中，的近似置信区间为：足够小，则相对于如果，其中，则：取）（的连续点和是）（对于某些）（存在和）（假定：Lwageed的N-W估计及其置信区间468101214165678lwageed, N-W estimateedulwageN-W estimatelower boundupper boundN-W估计的推导 niihniiihniihniiihhniiihniiihniiihghniiighXXxxKyxxKxxKnyxxKnxmxfy

23、xxKndssKysgxxKndygyyKgyxxKndyyxf ygyyKghxxKhnyxfxfdyyxyfdyxfyxfyxXYExm1111111,1,11)()(1)(1 1),(111),()(),()(),()|()(的核密度估计，有：代入从而有：有：利用乘法核密度估计，适用于随机设计N-W估计的加权最小二乘估计表达pN-W估计与加权最小二乘估计估计的点题，即得到回归函数在求解此加权最小二乘问其中，使，确定常数对于W-N)()(min)()( )(000102000 xxxKxwxwxayxaDxihiniii本质是什么？可作何改进？局部多项式估计min)()( ), 2 , 1

24、)()()( )( )()()(2)()()()()(10200000000000000)(20000000 niihpjjijijpjjjppxxKxxxypjxxxmxxxxxxxpxmxxxmxxxmxmxmxTaylorDxpxm使具体说，即选择参数此处的拟合值，即：处的值作为回归函数在以此拟合的多项式在的局部拟合上述多项式加权最小二乘法，在局部多项式估计即利用的邻域，有：公式，在，由阶连续导数，对于有设局部多项式估计的矩阵表达YxWxXxXxWxXexxmxYxWxXxXxWxXxxxxxxxxxxKxxKxxKDiagxWyyyYxxxxxxxxxxxxxXTTTTTTpTpnhh

25、hnpnnpp)()()()()()()( )()()()()( )(,),(),()( )(,),(),()()(,),(),()( ,)(1)(1)(1)( 001000100000010000010000010000020102100020201010处的估计值为：回归函数在的估计值为：得则由加权最小二乘法可令：与经典OLS的区别？局部多项式估计的残差估计YLILIYYLIYYLYYxWxXxXxWxXexWxXxXxWxXexWxXxXxWxXeYyyyYxmyyxxxxTTTTnnnTnnnTTTTTTTTTniiin)()(SSE )( ),()()()()()()()()()()

26、()()()()()( ),()(,21112212221111111121210残差平方和为：，则：记残差向量为，则记的拟合值，可得到各设计点处为设计点分别取局部多项式估计的统计性质) )()-(, )()-(, )()-(D )()(,),(),()()( )()()()()()()()()()(| )(ar )()2()(,),(),(),()()( )()()()()()()(| )( )() 1 (),( )(!1,),(),()(,),(),()( )(!1,),(),()(,),(),()(202220221201202221200100000010000002100000010

27、00000210)(000010000)(00001000nnhhhnTTTTnTTnTpTpTpTpxxxKxxxKxxxKiagxWxxxDiagxWxxXxWxXxXxxXxXxWxXxXxVxxmxmxmmxxXmxrxrxWxXxXxWxXxXxExxxxXxmpxmxmxxxxxmpxmxmxxxx其中，为：的精确条件协方差矩阵其中，的精确条件偏为：则有：令：不存在边界效应！局部线性估计p局部多项式估计的特例：p=1ikiikjjjjiiiiiniiTTTTihnixxwSSxxwSwSxxwSwxlyxlyxWxXxXxWxXexmxmexxKdiagWxxX)( )()()()

28、( )()()()()()()()0 , 1 ()(), 1 (01021020100010001001020其中，局部线性估计为则，令局部线性估计的统计性质)()()()()(| )(ar )()()(21)(| )( 1120020222000 nhonhduuKxfxXxmVhohduuKuxmxmXxmEPP件偏与方差分别为：局部线性估计的渐近条局部多项式拟合中多项式阶数的选择p阶数高低的影响n高阶的多项式会使估计的偏误减小，但可能由于引入更多的参数而导致较大的方差p阶数奇偶性的影响n由偶次多项式变为高一阶的奇次多项式时，渐近方差保持不变n由奇次多项式变为高一阶的偶次多项式时，渐近方差

29、会增加p如果主要目的是估计回归函数，应采用奇次多项式，同时为了使估计的方差最小，局部线性逼近是估计回归函数的首选局部多项式拟合中光滑参数的确定：CV各个设计点处的拟合值下基于全部数据计算的是在个元素主对角线上的第是矩阵其中，从而有：，可以证明：对于线性光滑器，使：交叉验证法即选取令：执行上述过程，得到依次对点的拟合值为记下对回归函数进行拟合的，用其余数据，在给定个观察值去掉第对于给定的hhyihLhlhlhyynhCVlylyyhLhyhCVhCVhhyynhCVnihynixhmhyxhxyihiiiniiiiiijiijijihniiiiiiiiii)( )()()(1)(1)( 1)()

30、( )(min)()(1)(), 2 , 1)(), 2 , 1()()(),(,12)(00012)()()()(局部多项式拟合中光滑参数的确定：GCV接近渐近等价，即所选出的与充分大时，可以证明，在叉验证函数值，即代替，即可得到广义交用平均值对于线性光滑器，将hGCVnhyyhLtrnnnhLtrhyynhGCVhLtrnhlnhlniiiniiiniiiiiCV)()( /)(1)(1)( )(1)(1 )(122121局部多项式拟合中光滑参数的确定：AICc很多情况下更为理想准则选择的光滑参数在而依据光滑参数（过拟合）往往会确定一个偏小的和经验表明，其中，的光滑参数，令对于线性光滑器和

31、给定cTTTcAICGCVCVYhLIhLIYnnhhLtrnhLtrnh(hAIC)()(11 )()(2)()(log() 22模拟示例0.00.51.01.52.001234boundary bias, h=0.01xyksmoothlocpoly0.00.51.01.52.001234boundary bias, h=0.025xyksmoothlocpoly0.00.51.01.52.001234boundary bias, h=0.05xyksmoothlocpoly0.00.51.01.52.001234boundary bias, h=0.1xyksmoothlocpolylw

32、ageed的局部线性估计468101214165678lwageed with kernel normal, h=1edulwagefemalemale468101214165678lwageed with kernel normal, h=5edulwagefemalemalelwageed的局部线性估计及其置信区间468101214165678lwageed, ll estimateedulwagell estimatelower boundupper boundK近邻回归p定义x0的近邻，对于最近的k个近邻给予相等的权重，对其他观察值给予0权重n可变带宽niikiKNNyxNxkxm10

33、0)(11)(LOWESS估计p局部加权散点光滑估计（locally weighted scatterplot smoothing）n局部多项式估计n可变带宽（由x0到距其最近的k个观察值的距离决定）ntricubic核函数n对较大的残差以较小的权重) 1|(|1)|1 (8170)(33uuuKlwageed的lowess与knn估计468101214165678lwageed with lowess and knnedulwagefem-lowessfem-knnmale-lowessmale-knn变系数模型p假定线性回归模型中的回归系数是其他自变量的未知函数n增加模型的灵活性和适应性n

34、系数函数通常是其他变量的一元函数，避免维数灾难)(),|( 0),|()( )()()(2212112211UXXXUVarXXXUEXUXUXUXUYpppjjjpp其中，变系数模型的特例p半变系数模型p部分线性模型（半参数模型）：q=1,X1=1qjpqjjjjjXXUY11)()(11UgXYpjjj两类变量变系数模型的局部线性估计1210000(;, ) ( )( )(1,2, ) ( )( )( )(),1,2,( )( )( / ) /iiiipipijiijijjijjjhyxxxtnyt xtjptTttTTaylorttttttjpK uK uK u hh设为 组独立的观察数

35、据，则：设关于 具有连续导数， 为的取值范围对任一给定的，由公式，在 的邻域内设为给定的核函数，变系数模型的局002000011( )( )( )( )()()minjjnpijjijhijttyttttxK tt部线性拟合即选择和，使：变系数模型的局部线性估计（续）YtWtXtXtWtXIttttttYtWtXtXtWtXtttttttatttttttattKttKttKDiagtWyyyYttxttxxxttxttxxxttxttxxxtXTTppTpTTTppTppnhhhTnnnpnnnpnpppp)()()()()()(0 ,()( )(,),(),()()()()()()( )(,

36、),(),(),(,),(),()( )(,),(),(),(,),(),()( )(,),(),()( ),( )()()()()()()( 00100000210010000020100201000201002010002010210011012022122101101111110处的局部线性估计为：在系数函数向量性估计为：则变系数模型的局部线记：变系数模型局部线性估计的拟合值与残差YLIYYtWtXtXtWtXXtWtXtXtWtXXtWtXtXtWtXXLxxxXLYYtWtXtXtWtXXYtWtXtXtWtXIXtttxxxxtxtxtYtYYtWtXtXtWtXetttttnnT

37、nnnTpTnTTpTTTpTipiiTiiiTiiiTpTiiiTiiiTppTiTipiiipiiipipiiiiiiiiTiiiTTpjijn)()()()()()()(0 ,()()()()()()(0 ,()()()()()()(0 ,( ),( )()()()()()(0 ,( )()()()()()(0 ,( )(,),(),()(,( )()()( )()()()()()( ,112212221211111111211112121221112,210从而残差向量为：其中，的拟合值为：在各个设计点从而得到因变量，有：取局部线性估计的渐近偏与方差)()()()()| )(Var(

38、)()(21)| )(ias( )()()|()()()(T ),(110100200220202022,111121 nhonhttftDthohtDtbtt tTXXE duuK duuKu tfxxxxtttDPPppijjiijpnpnn有：在一定的正则条件下，的边缘概率密度函数为令变系数模型的二步估计p若不同系数的光滑度差异较大，需要对不同的系数采用不同的带宽p第一步：在一个较小的光滑参数下，利用局部线性拟合方法得到系数的初始估计和近似模型p第二步：对近似模型进行局部三次多项式估计n可以采用局部线性拟合iipppjijjiiTpXXtYYtttt110002010)()(,),(),

39、()(变系数函数的统计推断p系数函数的置信带（confidence band）nFan, Zhang(2000), Simultaneous confidence bands and hypothesis testing in varying coefficient models, Scandinavian Journal of Statistics, 27: 715-731p关于某些系数是否为常数的检验n基于系数估计的最大偏差检验（Fan, Zhang, 2000）n基于广义似然比统计量的检验（Cai Z, Fan J, Li R(2000), Efficient estimation an

40、d inferences for varying-coefficient models, Journal of the American Statistical Association, 95:888-902）npscoef(lwageed+exp+blk|gender)变系数模型 Intercept ed exp blkfemale 4.934 0.093 0.009 -0.108male 5.566 0.072 0.012 -0.155niicTpqciccnqppqpcTpqcTTTpqqqcvvnnhhhhTnnpqnqnpqqpqqcnqnnqqvnihpqjijjqjijjjijj

41、jjjjjtnttttttaItYtWtVtVtWtVtttttttaXXtUXtVttttttDiagtUttKttKttKDiagtWyyyYxxxxxxxxxXxxxxxxxxxXttKxxttttypqjqjttqjttttttTaylortTt1121002)(01001000001001001000002010002010212,1,22, 21, 212, 11, 1212222111211102110000000000)(1),( )(,)( ),0(),()()()()()( )(,),(),(,),(),(,),()( ),)(,()( ),()( )(,),(),()(

42、),( ,min)()()(), 1(), 2 , 1)()(, 2 , 1),)()()( )(11111量的最终估计：其平均值即为常参数向在各个设计点的估计为，得到令的估计为在从而则，令，使，以及和选择的邻域内有公式知，在，由，对于变系数对于半变系数模型的二阶段估计半变系数模型的二阶段估计第一阶段：常系数的估计处的估计到变系数向量在用局部线性拟合可以得：代入半变系数模型，得将0111)(),(txtxyYiqjijijpqjijjiiTpqc半变系数模型的二阶段估计半变系数模型的二阶段估计(续续)第二阶段：变系数的估计半变系数模型的轮廓最小二乘估计)5()()()()()()(0 ,()(

43、 ),2, 1()(,()()4()()()()()()(0 ,()( )()1 ()3()(,),(),()2(),( ),( ),( )(,),(),()()1 ()( )(1000001000002211212121211111ccihiTvivihiTvqqqiivvvcchTvvhTvqqqTnTnTTccTnTiqiiiTpqqcTqqjjjpqjjjiipqjjjqjjjXYtWtttWtItTnittXtUXtXYtWtttWtItuutXtXtXMMXYxxxXttttXTXYZXXTY：的各设计点处的估计为，则变系数函数在取其中，处的估计为：在局部线性拟合方法可得视为变系数

44、模型，利用将模型其中，则模型可写为：令改写为：将模型半变系数模型的轮廓最小二乘估计（续）)9()()()()()()(0 ,()( )4()8()8()( )(,)()7()()()( )2()6()()()()()()(0 ,()()()()()()(0 ,()()()()()()(0 ,()6()()(,),(),( )3()5(001000011122122212111111112211cchTvvhTvqqqTccTccccvcvccvvccvccnhnTvnvnhnTvqTnhTvvhTvqThTvvhTvqTvccvTnTnTTXYtWtttWtItYXXXXSIXYSIYXSIY

45、SIXYSXYtWtttWtXtWtttWtXtWtttWtXSXYStXtXtXM：得变系数向量的估计为代入将的估计为：以得到由普通最小二乘估计可记即：，得近似模型为：代入将其中，得：代入将基于轮廓最小二乘估计的拟合值与残差)13()()12()()()11()()( )10()()(,),(),( )6()9(12211YLIYYSSIXXXXLLYYSXSIXXYSXMYYXYStXtXtXMMvvTccTccvccvccccvccccvTnTnTT相应的残差向量为：其中，的拟合值为：从而得到的最终估计为：得代入将半变系数函数的统计推断p常值系数的假设检验：H0:Ac=0nWald检验n

46、广义似然比检验p变系数是否为常数的检验：是否为常数n广义似然比检验YLILIYnRRSnXXXSISIXXXVarlAAAAhWTTcTccTvvTccTcchcThTTcn)()(11 )()( )()()(1221121其中：检验统计量)()()(2101lRRSRRSRRSnhTn检验统计量Lwageint(fem)+edu(fem)+exp(fem)+blk (两阶段估计)Lwageint(fem)+edu(fem)+exp(fem)+blk (轮廓最小二乘估计) round(betac,3) ,11, -0.143 round(betavb,3) intercept edu expf

47、emale 4.959 0.091 0.010male 5.564 0.072 0.012)|()|()( )()|(1lim, 0)( )|()|()|()|()|()|()|()|( )|()|()|()()|()|(0),|()(112d0iiiiiiiiiinniiiPLPLiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiizxEzyEzzzxExwwwnpNnuzxExzyEyzxEzyEzxEzyEzxEzyEzxExzyEyzEzzxEzyEzzxEzxy的非参数估计，即：最后可以得到其中，可以证明：到进行最小二乘估计，得对的估计和分别为和记回归）估计可用非参数方法（如核和条件期望从而得到差分方程：，有：给定其中， 半参数模型估计半参数模型估计Robinson difference estimatornpplreg(lwagefem+ms+ed+blk|exp) 部分线性模型lwagefem+ms+ed+blk|exp 部分线性模型0.00.81.0fem lw