第四章多元线性回归分析基础

多元线性回归分析计量经济学 第四章 重点问题v参数的最小二乘估计v最小二乘估计量的性质v参数估计式的分布特性与检验v多重共线性Date第四章 多元线性回归分析主要内容v第一节 模型的假定 v第二节 参数的最小二乘估计 v第三节 最小二乘估计量的性质v第四节 参数估计式的分布特性与检验v第五节 多重共线性v第六节 预测Date第四章 多元线性回归分析第一节 模型的假定模型 矩阵形式其中Date第四章 多元线性回归分析第一节 模型的假定In为 n阶单位阵Date第四章 多元线性回归分析第二节 参数的最小二乘估计残差向量残差平方和*式 *为正规方程组，包含 k个方程式Date第四章 多元线性回归分析第二节 参数的最小二乘估计由假设条件可以证明 XTX是正定的，即 XTX0则最小二乘估计：Date第四章 多元线性回归分析第三节 最小二乘估计量的性质 一、最小二乘估计的特性1.线性特性2.无偏性Date第四章 多元线性回归分析第三节 最小二乘估计量的性质3.最优性Date第四章 多元线性回归分析第三节 最小二乘估计量的性质Date第四章 多元线性回归分析第三节 最小二乘估计量的性质Date第四章 多元线性回归分析第三节 最小二乘估计量的性质Date第四章 多元线性回归分析第三节 最小二乘估计量的性质二、误差项方差估计 即 e是 U的线性变换。 其中， M称为最小二乘基本等幂矩阵。 Date第四章 多元线性回归分析第三节 最小二乘估计量的性质M的性质：（ 1）对称性 MT=M（ 2）等幂性 Mn=M（ 3） M与 X互相独立 MX=0Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验一、参数估计式的分布特性在多元线性回归分析中， 除了要进行与一元线性回归分析中类似的单个参数的检验， 还要检验多个解释变量对被解释变量 Y的共同影响是否显著。 通常构造 F统计量进行这些检验。 Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验二、参数 的线性约束检验与置信区间Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验1.的置信区间当 R=Ik，可以得到 的置信区间Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验2.的检验（ 1）参数的整体检验问题H02=3= k=0 H1存在某个 i0, 2ik Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验（ 2）单个参数的检验问题 H0i=0 H1i0 Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验三、相关分析记 为复相关系数或决定系数相关系数也可以表示为相关系数 R2有一个显著特点： 如果观察值 Yt不变， 决定系数 R2将随解释变量的数目增加而增大。 Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验定义 为修正的决定系数修正的决定系数比一般决定系数更准确地反映了解释变量对被解释变量的影响程度。因此在一般情况下，修正的确定系数比 R2应用更广泛。注：修正的决定系数可能为负值Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验四、单因素方差分析1.单因素方差分析的模型其中， i为第 i个水平下 Yij的总体均值。 eij为 Yij与均值之差。 2为 Yij的方差，方差为常数。 k为因素 A的水平数量。 ni为从第 i个水平 Ai中抽取的样本数量。 Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验2.单因素方差分析的检验H01 2 k VS H1i不全相等Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验定义统计量Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验五、方差分析、相关分析和回归分析的关系方差分析方法也可以应用在回归分析中。把由因素 A引起的组间离差平方和 ASS换成回归平方和 ESS，把由随机因素引起的组内离差平方和 RSS换成残差平方和 RSS。 把 k 由代表水平数目换成代表参数数目。Date第四章 多元线性回归分析第四节 参数估计式的分布特性与检验六、用逐步引入法