高级计量经济学非线性回归模型.ppt

1、第4章，非线性回归模型，1，2，本章内容，非线性模型参数非线性概念的估计技术，非线性最小二乘法，最大似然法，非线性模型统计检验的应用案例分析，3，参数非线性，当模型是参数非线性形式时，应采用非线性估计技术。非线性模型的一般形式是：易=f(，b) ei，其中f(.)是一个可微的非线性函数，b是K1的未知参数向量，x是kn的解释变量矩阵，e是服从某种形式的统计分布(通常使用正态分布)的误差项。此时，我们不能将待估计的参数表示为由已知的x和y表示的线性函数，这称为参数非线性。4，非线性模型情况1，C-D生产函数，5，非线性模型情况2，不变替代弹性生产函数(CES)，假设模型有两个解释变量，简化形式可

2、以表示如下：0是技术效率系数1是分配系数(011) 2是替代系数3是规模报酬系数，随机误差项U服从正态分布。6，非线性模型案例3，回归方程Front具有特殊统计分布的Probit Logit Tobit误差项在限制因变量模型中，非线性模型与线性模型之间的关系，考虑到一般非线性模型Y=f(X) e条件均值函数是EY|X=f(X)条件均值函数的线性逼近(泰勒级数在X=X0展开)，可以看出线性模型是一个非线性模型如果函数关系是高度非线性的，当使用线性函数逼近时会出现遗漏重要解释变量的误差。7，8，两种主要的估计技术，非线性最小二乘法(NLS)基于残差平方和的最小值获得参数估计，这通常基于误差项满足正

3、态分布的假设。通常，计量经济学软件有标准的指令和算法。最大似然法基于最大似然值获得参数估计。误差项可以是任何统计分布形式。不同的情况需要不同的指令和算法。9、NLS方法，用最小二乘法估计非线性回归方程的原理与估计线性回归方程的原理相同，即求解使残差平方和最小的参数。在函数形式满足要求的条件下，模型参数可以通过求解由一阶条件组成的方程得到，即对于非线性方程，我们通常不能保证估计参数的解析解，但通常可以通过数值逼近得到方程的近似解。此时，估计的参数可能不是唯一的，并且存在收敛问题。10，NLS方法，求解非线性方程常用的方法有：直接搜索，即根据某个指标(如误差平方和)选择最优结果；直接最优化方法，即

4、使用上述偏导数方法，通过直接求解方程来获得参数估计，这在实际工作中很少使用；迭代线性化方法，从一组参数的初始值线性化非线性函数，然后求解线性方程，得到新的估计值；重复上述步骤，直到估计结果达到收敛标准或最大迭代次数。11，NLS法，线性回归迭代解法包括以下步骤：当初始值未给定时，用OLS法估计系数(或用其它算法得到的估计值)作为初始值，否则用给定的初始值。在这组初始值下，非线性方程通过泰勒级数转化为线性方程，然后通过求解它们得到新的参数估计。重复上述过程，直到参数达到给定的收敛标准或给定的最大迭代次数。此时获得的结果包括参数的估计值、相应的渐近t统计量、R2值等。12，NLS方法，应当注意，N

5、LS方法不能保证总是收敛到最优解，并且可能的情况如下：当收敛速度缓慢收敛直到局部最优解的估计系数发散并收敛到错误的结果时，R2可能具有负值。在应用工作中，当遇到上述情况时，一种方法是ch使用现有的计算机能力和软件，模型的重复估算不会产生过高的成本或需要太长的投资。该方法有助于识别估计结果的可靠性。13，NLS方法，ESS，全局最优，局部最优，a，b，c，d，*，14，nls方法，非线性模型以矩阵形式表示：一阶条件为：15，NLS估计参数b的性质，假设任何观测值的误差项et服从标准正态分布，不同观测值之间的误差项协方差等于0，即， 假设解释变量X是非随机的，在这种情况下，得到如下结论：当n趋于无

6、穷大时，估计参数*接近正态分布，实参数为均值(根据中心极限定理)； 因此*是一致性估计量；这一结论与模型误差项ei的统计分布假设无关。16，nls估计量的性质，线性回归模型的统计检验方法不能直接应用于非线性回归模型，因为即使回归残差服从正态分布，我们也不能从回归残差中得到模型误差项方差的无偏估计。当采用迭代法时，我们对最后一次线性化后的估计结果进行标准线性模型的统计检验。该方法依赖于NLS估计工具在大样本中的一致性。17岁。非线性函数的统计检验。当需要检验非线性函数的某些系数是否满足一定的约束条件时，可以采用似然比检验法。对带系数约束和不带系数约束的模型进行了估计，得到了相应的似然值，分别用L

7、(r)和L(ur)表示。似然比介于0和1之间。服从有限自由度的2分布。当它足够小时，我们拒绝对应于系数约束的假假设。18，随机前沿模型，70年代末问世，侧重于分析生产过程的技术效率(最大化)。从数学规划方法到统计方法，可以估计，技术效率的应用将逐步扩展利润函数(最大化)成本函数(最小化)，以及技术无效率的概念，19，X2，X1，xa，xa，x *，20，技术无效率的概念，考虑到当生产函数yi=f(xi)，TEi为00时的技术效率损失。可以看出，21、前沿函数估计、确定性前沿一般采用非统计方法，例如，基于线性规划方法的数据包络分析已经得到广泛应用。有专门的软件。随机前沿函数基于统计技术，需要假设

8、技术效率的分布形式，并用最大似然法进行估计。这一定律也得到广泛应用，并且有许多种特殊的软件。前沿Limdep/Nlogit Stata，22，随机前沿函数，可表示为Yit=xit (vit-uit) i=1，N；T=1。其中y是因变量(产量/成本/利润)，x是解释变量和待估计的参数(1k向量)，vit被假定为正态分布的随机变量，其平均值为零，方差为v2，且与uit无关；Uit是一个非负随机变量，反映了生产单位I的技术效率损失，它通常被假设为服从截尾正态分布，具有mit均值和u2方差。为了检验技术效率损失的影响因素，有：mit=zit，23，估计随机前沿函数，用OLS方法估计：斜率系数估计量是无

9、偏和一致的，常项估计量是有偏的(往往被低估)，因为E(uit)0不能分解方差，用最大似然法估计：估计量有共同的性质，当u0转化为OLS估计量时存在收敛问题，24，随机前沿函数的估计方法， Battese和克拉(1977)提出的方法(最大似然法)，使得2=v2 u2和=u2/(v2 u2)，并且值在0和1之间。 在估计模型时，通过寻找最优解可以得到一个初始值，然后利用非线性估计技术可以得到所有参数的最大似然估计。估计值的统计检验可以反映生产单元之间技术效率的变化是否具有统计显著性，即以下公式用于计算技术效率(以生产函数为例):效率=e (YIT * | uit，xit)/e (YIT * | u

10、it=0，xit)，其中e(。)意味着找到括号中数学表达式的期望值。25，参数非线性方程在Eviews下用NLS方法估计，EVIEWS软件包括非线性最小二乘估计方法。非线性最小二乘估计指令与线性最小二乘估计指令相同，但是需要给出方程的数学表达式，其中向量C(i)表示ith参数。如果方程左侧的因变量也有参数，EIVEWS可以在给出完整的方程表达式f (y)=g (x) u后，根据最小化u2=(f(y)-g(x)2的原则得到参数估计。注意，此时得到的估计结果不能用于计算因变量的拟合值或预测它。在EVIEWS下，用NLS方法估计参数非线性方程。在大多数情况下，EVIEWS可以用线性最小二乘法来估计初

11、始值，得到最终结果。如果使用上述方法出现在给定迭代次数下不收敛或收敛到异常的参数(可以通过检查R2、对数似然值和可变系数来判断)，则可以使用用户提供的值。人工初始值实际上是存储在系数向量c中的当前值。为了确定结果的可靠性，我们可以尝试不同的初始值，看看它们是否能收敛到相似的结果(局部最优和全局最优)。26，最大似然法用于估计EVIEWS下的参数非线性方程。最大似然法适用于更一般的情况。在EVIEWS下选择对象/新对象/日志。在随后的窗口中，根据研究的需要，需要调用Eviews的几个函数来给出参数的初始值，调用估计并确定相关的选项来得到估计结果。您可以在“文件”下选择“新建/程序”来创建一个程序

12、文件，这样更便于调试。通常需要给出初始值。27，EVIEWS使用最大似然法来估计参数非线性方程，例如：Box-Cox模型基本形式：当=1时，前因变成线性函数；当=0时，泰勒级数展开可以得到先行项成为对数线性函数；因此，Box-Cox模型是一个广义的非线性模型，它可以采用不同的变量值。28岁，EVIEWS下用最大似然法估计参数非线性方程，似然函数为LogL文件形式(C(1)=，C(2)=，C(3)=，C(4)=(2)LOGL LOGL YT=(YC(1)-1)/C(1)XT=(XC(1)-1)/C(1)RES=YT-C(2)-C(3)* XT LOGL=LOG(DNORM(RES/SQRT(C(

13、4)-LOG(C(4)/2(C(1)-1)* LOG(Y)，29，30，案例：农业国内生产总值生产函数，相关变量：对数(RAGDP)包括观测值： 120经过12次迭代后达到收敛白异方差一致标准误差协方差对数(RAGDP)=C(1)C(2)*对数(RULA-C(3)*核糖核酸(4)*对数（面积(7)*对数（拉米(5)*对数（面积)2系数标准。错误-统计问题C(1)-2.3872790.992403-2.405553 0.0178 C(2)0.262193 0.040308 6.504712 0.0000 C(3)1.475834 0.014264 103.46690.0000000 C(4)0.00000001.0000001案例：非农业国内生产总值生产函数，相关变量：对数（包括观测值): 120经过1次迭代后达到的收敛白异方差一致标准误差协方差对数（包括观测值)=C(1)C(2)* LOG(NALA C(3)* RNALA)C(4)*