非线性概率模型.ppt

10.2 非线性概率模型 一、逻辑模型 在线性概率模型中，对不满足条件 0 1的 处理方法是： 当 0时，取 =0 当 1时，取 =1 相应的图形，如图10.2.1所示。,0,y,x,图10.2.1 改进后的线性概率模型中的样本回归直线,我们可用与图10.2.1相类似的非线性函数逻辑函 数，来逼近图10.2.1中的函数曲线：,(10.2.1),其中 ，pi为采取某选择的概率，xi为 自变量。这个函数具有我们希望的良好性质，它的 图形是一条S型曲线。,当 时， 当 时, (10.2.2),当,根据(10.2.1)和(10.2.2)可以画出逻辑函数的图形， 如图10.2.2所示,0,zi,pi,图10.2.2 逻辑函数曲线,由(10.2.1)可得,(10.2.3),对(10.2.3)式两边取对数：,(10.2.4),0.5,我们可以把 整体看作一个变量，于是便 有线性回归模型,(10.2.5),(10.2.5)式称为逻辑模型。,二、逻辑模型的估计方法 (一) 因变量观测值可以分组的情形 我们仍然以分析居民家庭购买某些耐用商品的状况， 比如说购买汽车的状况为例。假设样本容量足够大， 以至使每一个自变量观测值都有56个以上的因变 量观察值与之对应。,在这种情况下，所有因变量观测值可以按不同自变 量观测值分成许多组，例如，共可分为G组。假设 第i组共有ni个家庭收入为xi，其中有ri个家庭已购买 汽车，其余尚未购买。于是收入为xi的家庭，购买 汽车的概率为,（10.2.6）,这里是概率真值pi的估计值，显然，每组内家庭个 数不能太少，家庭个数越多，概率估计值越接近真 值。因为(10.2.5)式可近似表示为：,（10.2.7）,于是，(10.2.5)式可以表示为：,（10.2.8）,对于模型(10.2.5)而言，就是因变量，通过上述方 法我们实际上求出了这个因变量的所有观察值， 因此可用估计普通线性模型的方法求出0和1 的估计值。,但必须指出，这一方法能否正确得出参数估计值的 关键是每一个自变量xi所对应的因变量观察值不能 少于5或6个。如果样本容量不太大或自变量数目很 多，上述条件不能满足，则此法不适用。 此种方法，显然可以推广到多个自变量的情况。,(二)因变量观测值不能重复观测的情况 如果样本容量不够大，以至每个自变量观测值只对 应一个或很少几个因变量观测值，分组就不可能实 现了。这时可采用极大似然法估计模型（10.2.5)。 我们仍以消费者是否购买汽车为例进行讨论。,1.建立似然函数 对第i个消费者进行观测所得到的结果只有两种情况： 已经购买汽车，即 ，或者尚未购买汽车， 即 。 设yi = 1的概率为pi，则yi = 0的概率为(1- pi)，于是变 量y服从两点分布，其概率分布列为：,（10.2.9）,所谓似然函数，就是样本中全部观测值的联合分 布（此时参数是未知的）：,（10.2.10）,由(10.2.1)知，pi可以表示为,所以(10.2.10)可以表示为：,（10.2.11）,2.极大似然估计 极大似然估计的基本思想是：我们观测到的样本应 该是出现概率最大的样本。本问题中，既然来自总 体的样本具有概率分布(10.2.11)，我们应该要求参数 0和1的取值使(10.2.11)达到极大值，满足上述极 值条件求出的0和1的估计量，称为极大似然估 计量。 对(10.2.11)式两边取对数：,（10.2.12）,(10.2.12)分别对参数0和1求导数，可得极值条件 的表达式：,（10.2.13）,其中,(10.2.14),由(10.2.14)有关系：,把(10.2.15)代入(10.2.13)得到化简了的正规方程：,(10.2.16),解正规方程，便可参数的估计值。,若以 和 代表 估计量，则概率模型的 极大似然估计式为：,式中 代表具有特征x = xi的消费者购买汽车的概率 的估计值。 以上方法可以推广到多元模型的情况，此时，,（10.2.25）,3.案例分析 利用Eviews软件可以很方便的估计逻辑模型的参数。 例10.2.1我们考察个体家庭月收入与购买耐用消费品 （汽车）的关系，我们用y表示虚拟变量，取值1表 示已购买耐用消费品，取值0表示没有购买耐用消费 品，用x表示家庭月收入，我们收集了36个样本值如 表10.2.1所示（见课本251页）,我们利用表10.2.1的数据，建立逻辑模型。点击 Quick / Estimate Equation出现对话框， 在Equation Specification 对话框中，输入公式命令：