第14章-非线性回归模型.ppt

第14章非线性回归模型,14.1本质上的线性和非线性回归模型,模型可以线性于参数，也可以线性于变量。一开始讨论线性回归模型的时候，我们陈述过本书所关心的基本上是线性于参数的模型。如果一个模型非线性于参数，那么它就是非线性回归模型。然而，这里必须小心，有些模型可能看起来非线性于参数，但是通过合适的变换它们可以变成线性于参数的回归模型。,如果此类模型不能线性化于参数，则它们就被称作为本质非线性回归模型。简单起见，我们把它称为“NLRM”。柯布-道格拉斯(C-D)生产函数是本质线性的。(14.1.2)问题：函数是不是本质线性的？,答案:所以这个模型本质上是线性的。,问题：常替代弹性（CES）生产函数是不是本质线性的？(14.1.5)Y-产出K-资本投入L-劳动投入A-规模参数-分布函数(01)-替代参数()答案：此模型本质上非线性,14.2线性和非线性回归模型的估计,考虑以下的模型：(14.2.2)回归(14.2.2)被称为指数回归模型。我们利用OLS方法得到正规方程：(14.2.4)(14.2.5),应用于一个非线性回归模型的OLS方法被称为非线性最小二乘法（NLLS）。然而，由上述正规方程不能得出未知量的显示解。因为方程的左侧和右侧都有未知量。,14.3估计非线性回归模型：试错法,为了做好准备，让我们来考虑一个具体例子。数据：P567表14.1和图14.1根据图14.1，假定则可以把（14.2.2）写成(14.3.1)因此，(14.3.2),根据给定的数值，我们得到:如果我们选择其他数值重复刚才拟定的程序，我们发现现在将得到：,这种方法被称为试错法。可见，如果我们假定一组值，相应地就可以得到一个值。如果你有无限的时间和耐心，最终一定可以得出使最小的和的值。,14.4估计非线性回归模型的方法,1.直接搜索或试错法或不用求导的方法这是在14.3中提到过的方法。缺陷：a.如果回归元太多，计算会很复杂。b.可以得到局部最小值，但不一定是绝对最小值。2.直接最优化通过直接运用OLS方法，可以得到正规方程(14.2.4)和(14.2.5)，然后运用最速下降法来解出参数值。,3.迭代线性化方法,首先，在参数初始值附近线性化一个非线性方程。其次，用OLS方法估计线性化了的方程，并调整参数初始值。第三，用经过高速的参数值重新线性化该模型，再次用OLS方法估计，得出新的参数估计值。继续重复上述过程，直到两次估计结果无实质变化。,泰勒定理(Taylorstheorem,orTaylorseriesexpansion)：,R代表高阶无穷小。多项式的次数越高，近似值就越接近初始函数。,问：如何在x=0附近得到,的近似值？,因此我们得到：,一阶近似：,答：,二阶近似：三阶近似：,问：如何在x=a,z=b处展开Y=f(x,z)？,答：,14A.3方程(14.2.2)的线性化,(1)在和处线性化于是我们有:,选取初始值：代入上式得：.(4),(4)亦可写作：.(5)其中：,令于是可将(5)写作：,模型转化为-这就是线性化的回