第六讲 多元线性回归模型的参数估计

练习 亚洲各国人均寿命（ Y）、人均 GDP（X1）、成人识字率（ X2）、一岁儿童疫苗接种率（ X3）数据 1.填空2.写出样本回归函数3.分析各国人均寿命与人均 GDP、成人识字率、一岁儿童疫苗接种率的数量关系4.对所建回归模型进行检验第六讲 多元线性回归模型的参数估计4引子 :中国已成为世界汽车产销第一大国中国社会科学院 中国汽车社会发展报告 2012-2013 显示，中国国内汽车产销量已近 2000万辆。从 2000年开始，中国汽车市场进入到黄金 10年。汽车保有量从1600万辆攀升到 1亿多辆。 2010年成为全球第一大汽车市场，中国的汽车保有量已经超过日本，成为仅低于美国的世界第二大汽车保有国。业内预计， 2020年我国汽车保有量将突破 2亿辆。是什么因素导致中国汽车数量的增长 ?影响中国汽车行业发展的因素并不是单一的，经济增长、消费趋势、市场行情、业界心态、能源价格、道路发展、内外环境，都会使中国汽车行业面临机遇和挑战。5分析中国汽车行业未来的趋势，应具体分析这样一些问题： 中国汽车市场发展的状况如何？ （用销售量观测） 影响中国汽车销量的主要因素是什么？（如收入、价格、费用、道路状况、能源、政策环境等） 各种因素对汽车销量影响的性质怎样？ （正、负） 各种因素影响汽车销量的具体数量关系是什么？ 所得到的数量结论是否可靠？ 中国汽车行业今后的发展前景怎样？应当如何制定汽车的产业政策？很明显，只用 一个解释变量 已很难分析汽车产业的发展， 还需要寻求有更多个解释变量情况的回归分析方法。 怎样分析多种因素的影响？6 多元线性回归模型及古典假定 多元线性回归模型的估计 多元线性回归模型的检验 多元线性回归模型的预测第三章多元线性回归主要讨论 :7一般形式：对于有 K-1个解释变量的线性回归模型注意： 模型中的 （ j=1,2,-k） 是 偏回归系数样本容量为 n偏回归系数 ：控制其它解释量不变的条件下，第 j个解释变量的单位变动对被解释变量平均值的影响，即对 Y平均值 “直接”或 “净 ”的影响。一、多元线性回归模型的基本概念8多元线性回归中的 “线性 ”指对各个 回归系数 而言是 “线性 ”的，对变量则可以是线性的，也可以是非线性的例如：生产函数取对数这也是 多元线性回归模型 ，只是这时变量为 lnY、lnL、 lnK9多元总体回归函数 条件期望表现形式：将 Y的总体条件期望表示为多个解释变量的函数，如 :注意：这时 Y总体条件期望的轨迹是 K维空间的一条线个别值表现形式：引入随机扰动项或表示为10多元样本回归函数Y 的样本条件均值可表示为多个解释变量的函数或回归剩余（残差）：其中11多个解释变量的多元线性回归模型的 n组样本观测值，可表示为用矩阵表示11二、多元线性回归模型的矩阵表示12总体回归函数 或样本回归函数 或 其中： 都是有 n个元素的列向量是有 k 个 元素的列向量（ k = 解释变量个数 + 1 ）是第一列为 1的 nk阶解释变量 数据矩阵 ，(截距项可视为解释变量总是取值为 1）矩阵表示方式多元线性回归模型与回归方程的表达式14假定 1： 零均值假定（ i=1， 2， -n） 或 E(u)=0假定 2和假定 3： 同方差和无自相关假定 ： 或用方差 -协方差矩阵表示为 :(i=j)(ij)0三、多元线性回归模型的基本假定15假定 5: 无多重共线性假定 (多元中增加的 ) 假定各解释变量之间不存在线性关系，或各个解释变量观测值之间线性无关。或解释变量观测值矩阵 X的秩为 K(注意 X为 n行 K列 )。Ran(X)= k+1 Ran(XX)=k+1即 (XX) 可逆 假定 6:正态性假定15假定 4： 随机扰动项与解释变量不相关普通最小二乘法 （ OLS）原则： 寻求 剩余平方和最小的参数估计式即求偏导，并令其为 0 其中即 16四、多元线性回归模型的估计17用矩阵表示的正规方程偏导数因为样本回归函数为 两边左乘根据最小二乘原则则正规方程为18由正规方程 多元回归的 OLS估计量为当只有两个解释变量时为：注意： 为 X、 Y的离差对比简单线性回归中OLS估计式 样本容量要求 最小样本容量样本容量必须不少于模型中解释变量的数目（包括常数项） nk+1。基本要求的样本容量经验认为：当 n30或 n3(k+1)时 ，才能 说满 足模型估 计 的基本 要求。201、 线性 特征是 Y的线性函数，因 是非随机或取固定值的矩阵2、 无偏 特性 3、 最小方差 特性在 所有的线性无偏估计中， OLS估计 具有最小方差 结论： 在古典假定下，多元线性回归 的 OLS估 计 式是最佳 线 性无偏估 计 式（ BLUE）五、 OLS估计式的统计性质21其中：(由无偏性 )(由同方差性 )(由 OLS估计式 )21注意 是向量的方差 -协方差22六 、 OLS估计的分布性质基本思想 ： 是随机变量，必须确定其分布性质才可能进行区间估计和假设检验 是服从正态分布的随机变量，决定了 Y也是服从正态分布的随机变量 是 Y的 线性函数，决定了 也是服从正态分布的随机变量23 的期望 的方差和标准误差：可以证明 的方差 协方差矩阵为这里的（其中 是矩阵 中 第 j 行第 j 列 的元素）所以 （ j=1,2,-k）的期望与方差24一般未知，可证明多元回归中 的无偏估计为：或表示为 将 作标准化变换：24对比 : 一元回归中七、随机扰动项方程 的估计25因 是未知的， 可用 代替 去估计参数的标准误差 : 当为大样本时，用估计的参数标准误差对 作标准化变换