§5-1 线性回归分析.ppt

第五章线性回归 1一元线性回归 2多元线性回归 1一元线性回归 一 回归分析的基本思想二 一元线性回归的数学模型三 可化为一元线性回归的问题 变量之间的关系 确定性关系 确定性关系 身高和体重 一 回归分析的基本思想 不确定性关系 变量 普通变量 随机 模糊 灰色变量 由一个变量确定另一个变量 普通函数 变量间存在着一定的关系 甚至是密切的 但没有密切到可以由一个确定另一个的程度 相关关系的特征是 变量之间的关系很难用一种精确的方法表示出来 例如 1 施肥量与农作物的产量 2 广告费与商品销售额 3 储蓄额与居民收入 4 父母的身高与子女的身高 5 身高与体重等等 变量间存在着一定的关系 甚至是密切的 但没有密切到可以由一个确定另一个的程度 一般不好直接用函数表示出它们的关系 此种关系称为相关关系 更加普遍存在 由于存在测量误差等原因 确定性关系在实际问题中往往通过相关关系表示出来 另一方面 当对事物内部规律了得更加深刻时 相关关系也有可能转化为确定性关系 确定性关系和相关关系的联系 研究相关关系有两种形式 一种是以普通变量为自变量 因变量为随机变量 并且因变量处于被解释地位 往往利用概率论与数理统计的知识 借助于经验公式对其及其有关问题进行分析 提供变量间相关关系的数学表达式 代数式 并判断其有效性 然后进行预测和控制 回归分析就是其中应用最广泛 最活跃的分支之一 分为 一元线性回归 多元线性回归 可线性化的非线性归 双曲线 指数 对数 二次 幂函数等 第二种是揭示两个随机变量之间的相关关系 相关分析就是其中的分支之一 它与回归分析的方法与侧重点均不同 二 一元线性回归的数学模型 问题 如身高等 参数的估计 适用性判断及如何利用估计 1 解决问题的过程 在农业生产中小麦的亩产量Y与所施肥料量x有一定关系 在一定范围内 若施肥量大 亩产也较高 问题 Y是怎样依赖施肥料量x的变化的 2 基本方法 考察随机变量Y与普通变量x之间的相关关系 例1 问题的特征 x是普通变量 Y是随机变量 处理方法 按数理统计处理问题的方法 1 先进行一些试验 分别取不同的值 在其他条件不变的情况 Y也得到n个相应观察值 得到n对数据对 称为样本数据点 又称为回归观察值 2 散点图 2 散点图 有时也可以由专业知识直接推测它们的规律 3 寻找Y与x的数量关系 其中 一般地 即可设 希望通过试验样本点数据确定上式中的未知参数 确定Y与x的关系 然后进行检验 预测 控制等 3 回归模型 设Y与x服从线性关系 则称Y与x服从一元线性回归模型或一元正态回归模型 例2 下表给出了12个父亲和他们长子的身高的观察值 问父亲和他们长子的身高的关系如何 解 散点图 单位 英寸in 1英寸in 0 0305米 例2 下表给出了12个父亲和他们长子的身高的观察值 问父亲和他们长子的身高的关系如何 解 1 散点图 如左图 2 Y与x具有线性关系 如何确定待定参数 单位 英寸in 3 用Excel确定待定参数 此为Y关于x的线性回归方程 结果表明 高个子父辈有高个子后代 但后代的增高并不与父辈增高等量 还要检验 4 回归方程 设Y与x服从线性关系 问题 5 参数估计方法 最小二乘估计法 即 利用求多元函数极值的方法 又记 有唯一解 5 参数估计方法 的唯一解 又记 5 参数估计方法 6 参数估计量的分布 无偏估计 无偏估计 6 参数估计量的分布 无偏估计 不是无偏估计 无偏估计 定理 7 回归方程显著性的检验 回归系数显著性的检验 需要检验 假设 方法 引进记号 从而 反映了Y与x关系 反映了随机误差的影响 平方和分解式 7 回归方程显著性的检验 回归系数显著性的检验 假设 在H0为真时 假设 7 回归方程显著性的检验 回归系数显著性的检验 F检验法 t检验法 相关系数检验法 回归效果不显著的原因分析 例3 以下各出16名大学二年级学生的100米和跳远的成绩 问探讨学生100m和跳远成绩的关系如何 解 1 散点图 显然具有某种线性关系 2 线性回归系数估计 3 回归显著性检验 有显著的线性关系 例4例1中的随机变量Y符合一元线性回归模型所述的条件 求Y关于x的线性回归方程 8 回归系数的置信区间 的置信水平为1 的置信区间为 9 预测与控制 1 预测 2 控制 方法 通过适当的变量变换 化成一元线性回归问题进行分析处理 两边取对数 三 可化为一元线性回归的问题 两边取对数 曲线回归方程 例5出钢时所用的盛钢水的钢包 由于钢水对耐火材料的侵蚀 容积不断增大 我们希望知道使用次数与增大的容积之间的关系 对一钢包作试验 测得的数据列于下表 散点图 此即非线性回归或曲线回归 问题 需要配曲线 配曲线的一般方法是 通常选择的六类曲线如下 例6表9 18是1957年美国旧轿车价格的调查资料 今以x表示轿车的使用年数 Y表示相应的平均价格 以美元计 求Y关于x的回归方程 首先作散点图 选择模型 变量变换 散点图 线性假设的显著性检验 线性回归效果高度显著 代回原变量 得曲线回归方程 例6表9 18是1957年美国旧轿车价格的调查资料 今以x表示轿车的使用年数