第六章多元线性回归预测

第六章 多元线性回归预测 1、多元线性回归的模型 Y a+b1X1+b2X2+ bmXm 2、 多元线性回归的参数估计 （ 最小二乘法 ） 3、多元线性回归的误差分析与统计检验 4、多元线性回归的预测2、 多元线性回归的参数估计 如果在对变量 Y与 Xi(i 1， 2， ， m)的 n次观察中，获得了如下数据：最小二乘法为最小 。 对上式中的 a、 bi(i=1,2,m) 分别求偏导，并令其等于零，经整理后得： (4-14) (4-15)其中第一节 二元线性回归预测 以上讨论了两个变量因素之间的回归预测问题。然而，客观事物的变化往往受多种因素的影响，即使其中一个因素起着主导作用，但有时其他因素的作用也是不可忽视的。在实际问题中，大多数影响因变量的因素不是一个，而是多个。我们把包括两个或两个以上自变量的回归称为多元回归。这一节中，我们首先讨论两个自变量的模型，借以说明多元回归的使用，然后推广到三个或三个以上自变量的回归模型。 一、二元回归模型二、二元回归方程 称为常数 ， ， 称为 Y对 x 的回 归系数三、 参数估计 1 、 求估参数：用最小二乘法 系数的计算公式为：2 、回归系数 、 的含义 的含义： 的含义：3、 的方差和标准差估计 标准差：同一元线性回归的情况一样，标准误差是对 y值与模型估计值之间的离差的一种度量，它是计算置信区间估计值和其他拟合优度的基础指标。其计算公式为：四、回归方程和系数的检验 1复可决系数 R22、 复相关系数 对于多元线性回归而言，多元相关系数 R似乎是多余的，它并未提供任何新的信息，只是可决系数的平方根。 3 、 回归方程的显著性检验 4 、回归系数的检验： t检验（个体检验 ） F检验（全检验） :5 、 置信区间 多元回归的近似置信区间的估计方法同简单回归相类似，其置信区间的公式为： 置信区间 式中， n是观察值的个数； p是自变量 的个数， 是自由度为 n-p的 t统计量数值表中的数值。二元线性回归的例子【 例例 】 一家百货公司在一家百货公司在 10个个地区设有经销分公司。公地区设有经销分公司。公司认为商品销售额与该地司认为商品销售额与该地区的人口数和年人均收入区的人口数和年人均收入有关，并希望建立它们之有关，并希望建立它们之间的数量关系式，以预测间的数量关系式，以预测销售额。有关数据如下表销售额。有关数据如下表。试确定销售额对人口数。试确定销售额对人口数和年人均收入的线性回归和年人均收入的线性回归方程，并分析回归方程的方程，并分析回归方程的拟合程度，对线性关系和拟合程度，对线性关系和回归系数进行显著性检验回归系数进行显著性检验(=0.05)。销 售 额 、人口数和年人均收入数据地区编 号销 售 额（万元）y人口数(万人 ) x1年 人均收入(元 )x21234567891033.335.527.630.431.953.135.629.035.134.532.429.126.331.229.240.729.823.028.226.91250165014501310131015801490152016201570一个二元线性回归的例子(Excel 输出的结果 )一个二元线性回归的例子(计算机输出结果解释 ) 销售额与人口数和年人均收入的二元回归方程为2. 多重判定系数多重判定系数 R2= 0.9373； 调整后的调整后的 R2= 0.91943. 回归方程的显著性检验回归方程的显著性检验 F = 52.3498 FF0.05(2,7)=4.74， 回归方程显著回归方程显著4. 回归系数的显著性检验回归系数的显著性检验 t= 9.3548t=0.3646，；，； t2 = 4.7962 t=2.3646； 两个回归系数均显著两个回归系数均显著显著性检验 1、 t检验 2、 F检验 3、多重共线性第三节 非线性回归预测法 基本概念 非线性模型及其线性化方法一 . 基本概念1. 因变量 y 与 x 之间不是线性相关关系2. 可通过变量代换转换成线性相关关系 用最小二乘法求出参数的估计值 并非所有的非线性模型都可以化为线性模型二 . 几种常见的非线性模型 指数函数1. 基本形式：基本形式：2. 线性化方法线性化方法 两端取对数得两端取对数得 ：3. 图像图像lny = lna + b x令令 ： y = lny， A=a 则有则有 y = A+ b x几种常见的非线性模型 幂函数1. 基本形式基本形式 ：2. 线性化方法线性化方法 两端取对数得两端取对数得 ： lg y = lga+ b lg x 令：令： y = lgy， x= lg x， 则则 y = lga + b x3. 图像图像几种常见的非线性模型 双曲线函数1. 基本形式基本形式 ：2. 线性化方法线性化方法 令：令： y = 1/y， x= 1/x, 则有则有 y = a + b x3. 图像图像几种常见的非线性模型 对数函数1. 基本形式基本形式 ：2. 线性化方法线性化方法 x= lgx , 则有则有 y = a + bx3. 图像图像b 0 b 0 几种常见的非线性模型 多项式函数1. 基本形式基本形式 ：2. 线性化方法线性化方法 x1 = x , x2 = x2 , ， xp = xp , 则有：则有： y=a0+a1 x1+a2x2+ +ap xp3. 图像图像0举例 例 1：某 商品从进入市场起，由于质量和成本的改变，变