MINITAB应用质量管理技术系列培训A阶段回归分析.ppt

6 质量管理技术培训 6 回归分析 Regression 统计分析工具 回归分析 韩克 主讲人 某种合成纤维的强度与其拉伸倍数有关 下表是24个纤维样品的强度与相应的拉伸倍数的实测记录 试求y关于x的线性回归方程 引例1 一元线性回归分析 SimpleLinearRegression 一元线性回归分析 SimpleLinearRegression 一元线性回归分析 SimpleLinearRegression 引例2 在改进某合金强度的项目中 6西格玛小组认为在某合金加工过程中影响其强度的可能的关键影响因素是碳含量 为了调查碳含量对合金强度的影响 小组在生产现场一对一地收集了碳含量与合金强度的数据 数据见 引用1 问 碳含量对合金强度是否有影响 其影响强度有多大 6 一元线性回归分析 SimpleLinearRegression 分析阶段 定量分析工具 6 连续 连续 非连续 非连续 Y X 回归分析 Regression 6 回归分析 Regression 回归分析是根据试验或观测得到的数据结果 分析 推断哪些因素对过程的Y有着显著的影响 以及影响大小的常用工具 回归分析研究的是在一项观测或实验中 X的变化是否对Y产生影响及影响的大小 一元和多元线性回归分析中 X和Y都是连续型数据 回归分析的基本统计原理简介 6 回归分析 Regression 回归分析可以帮助我们寻找潜在的X 以及确定它们与Y的关系 通过回归分析 确定X对Y是否有显著的影响 统计显著性 以及他们对Y的影响程度 实践显著性 获得X和Y的线性模型 建模 用X预测Y 一元线性回归分析 SimpleLinearRegression 在回归分析中 我们假设X对Y的影响是线性的 当只考虑一个X对Y的影响时 称为一元线性回归 X与Y都是连续型数据 在收集数据时 将X与Y一一对应 即 收集到每一个X和与其对应的Y 一元线性回归分析 SimpleLinearRegression 一元线性回归分析 SimpleLinearRegression 例1 在改进某合金强度的项目中 6西格玛小组认为在某合金加工过程中影响其强度的可能的关键影响因素是碳含量 为了调查碳含量对合金强度的影响 小组在生产现场一对一地收集了碳含量与合金强度的数据 数据见 回归分析 引用1 问 碳含量对合金强度是否有影响 其影响强度有多大 6 数据输出结果 多元线性回归分析 MultipleLinearRegression 例 在某平炉炼钢过程中 由于矿石和炉气的氧化作用 铁水的总含炭量在不断降低 试分析一炉钢的去碳量Y与所加的两种矿石量X1 X2及融化时间X3是否有关 数据见 回归分析 引用2 多元回归分析 1多元线性回归分析基本理论2标准的多元线性回归模型3多元线性回归模型的估计4多元线性回归模型的检验5多元线性回归模型预测6多元线性回归模型的Minitab实现7多元非线性回归 多元线性回归分析 MultipleLinearRegression 1多元线性回归分析的基本理论 多元线性回归是简单线性回归的推广 指的是多个因变量对多个自变量的回归 MultivariateRegression 最常用的是一个因变量对多个自变量的回归 多元线性回归分析 MultipleLinearRegression 因变量y 返回目录 多元线性回归分析 MultipleLinearRegression 计算估计多元回归方程 多元线性回归模型多元线性回归方程 样本数据 x1x2 xky b1 b2 bk是 1 2 k的估计值 2标准的多元线性回归模型 多元线性回归分析 MultipleLinearRegression 多元线性回归模型的性质 例 二元线性回归模型 b2 假定x2固定时x1每变动1个单位引起的y的增量 b3 假定x1固定时x2每变动1个单位引起的y的增量 是x1和x2共同变动引起的y的平均变动 反映一组自变量与因变量的平均变动关系 是给定x1 x2计算得到的估计值 是y的实际值的数学期望 多元线性回归分析 MultipleLinearRegression 实际值 一组自变量对y的线性影响而形成的系统部分 反映x与y变动关系的本质特征 随机干扰 各种偶然因素观察误差和其他被忽视因素的影响 多元线性回归分析 MultipleLinearRegression 3多元线性回归模型的估计 一 回归系数的估计 二 随机误差方差的估计 三 最小二乘估计量的性质标准的多元线性回归模型中 高斯 马尔可夫定理同样成立 多元线性回归分析 MultipleLinearRegression 一 拟合程度的评价调整可决系数式中 n是样本容量 k是模型中回归系数的个数 调整可决系数的特点 4多元线性回归模型的检验 多元线性回归分析 MultipleLinearRegression 多元线性回归模型的显著性检验 回归系数b的检验1 提出假设 H0 j 0 H1 j 02 确定显著水平 3 计算回归系数的t值 式中 是的标准差的估计值 按下式计算 式中 是 X X 1的第j个对角线元素 S2是随机误差项方差的估计值 多元线性回归分析 MultipleLinearRegression 多元线性回归模型的显著性检验 续一 4 确定临界值 双侧检验查t分布表所确定的临界值是 t 2 和 t 2 单侧检验所确定的临界值是 t 5 做出判断 拒绝域 拒绝域 接受域 双侧检验图示 多元线性回归分析 MultipleLinearRegression 回归方程的显著性检验具体的方法步骤回归模型方差分析表F统计量 多元线性回归模型的显著性检验 续二 多元线性回归分析 MultipleLinearRegression 5多元线性回归模型预测 基本公式 式中 xjf j 2 3 k 是给定的xj在预测期的具体数值 是已估计出的样本回归系数 是xj给定时y的预测值 返回目录 多元线性回归分析 MultipleLinearRegression 6多元线性回归模型的Minitab实现 在研究多元回归问题时可能感到比较复杂 下面我们用统计软件帮助大家实现多元线性回归模型的建立 估计 检验以及预测问题 多元回归模型在建立过程中可采用两种不同的方法 分别为 实现方法 多元线性回归分析 MultipleLinearRegression 例1 在研究某超市顾客人数y与该超市促销费用x1 超市面积x2 超市位置x3之间关系时 选取变量如下 Y 某超市某一周六顾客人数 千人 X1 该超市上周促销所花的费用 万元 X2 该超市的面积 百平方米 X3 超市所处位置 0表示市区 1表示郊区 按照y变量排序后的原始数据是 多元回归案例分析 多元线性回归分析 MultipleLinearRegression 定性分析过程 数据分析之前 我们要先考虑各个自变量与因变量之间是否存在相关关系 分别绘制顾客人数y与促销费用x1 超市面积x2的散点图 直观上测定其是否存在线性关系 通过散点图可以看出 因变量y与自变量x1 x2之间确实存在较明显的线性相关关系 而x3超市位置是虚拟二元变量 我们无法从散点图中看出其中的线性关系 但经验所知其一定影响着因变量y 所以我们同时将其纳入分析模型 模型建立过程如下 多元线性回归分析 MultipleLinearRegression 数据见多变量回归 例1 1 直接回归法 多元线性回归分析 MultipleLinearRegression 2 最优回归实现 若我们上面的预测方程不显著 但确实知道其中几个变量存在着一定的线性关系 我们也可以运用逐步回归的方法对变量进行分析处理 多元线性回归分析 MultipleLinearRegression 例1 在某平炉炼钢过程中 由于矿石和炉气的氧化作用 铁水的总含炭量在不断降低 试分析一炉钢的去碳量Y与所加的两种矿石量X1 X2及融化时间X3是否有关 数据见 回归分析 引用2 多元线性回归分析 MultipleLinearRegression 练习 六西格玛项目小组为了调查影响熊的重量因素 他们收集到了这样一组数据 数据见 试分析 熊的重量Y与这些因素是否有关及其影响程度有多大 7多元非线性回归 多元非线性回归是一元非线性回归的多元扩展 其理论基础建立在多元回归与非线性回归的基础上 在实际工作中 多元非线性回归的应用非常广泛 大多数生产函数和需求函数都需要用到多元非线性拟合 常用的有C D生产函数 产品的需求弹性分析 下面我们用需求弹性分析实例介绍此类模型的估计方法及结果处理解释 例2 厂商想研究其产品销售量与居民月平均收入 商品价格之间的变化关系 现调查某城市有关此商品需求的数据如下 试根据数据建立销售量y与居民人均收入x2及商品单价x3之间的关系 数据变换分析 1 根据我们对经济规律的分析可知 产品销售量与居民人均收入 商品单价呈现幂函数形式的关系 即 2 利用双对数变换法 同时加入随机误差项 可得以下线性回归函数 3 这样我们就得到一般的多元线性回归模型 可以利用软件对其进行参数估计 检验 然后通过两个方程之间的关系 写出原方程的形式 数据见 多元非线性回归例1 数据的初步变换 原数据与新产生数据列 对变换后的数据进行建模 对变换后的数据进行建模 计算结果 根据两个方程间的变换关系 对产生的回归方程进行反对数变换 得变量间的回归方程如下 结果解释及预测分析 由上式可知 居民收入的需求弹性约为1 16 而价格的需求弹性约为 0 4 也就是说 在其他情况不变的条件下 居民人均收入每增加1 会使此商品的需求增加1 16 价格每提高1 会使此商品的需求减少0 4 若此时我们要预测居民人均收入为2200元 商品单价为50元时该商品的需求量y 只需将x2 22 x3 5代入方程即得 一般线性模型 GeneralLinearModel 例 某化工产品的不纯度可能受到多种因素的影响 现收集到数据见 GLM 练习3 1 不纯度Y是连续型数据 2 有多个X为可能的影响因素这些X中既有连续型的又有非连续型的 3 故此它们适用于GLM分析方法 一般线性模型 GeneralLinearModel 在回归分析中 我们假设X对Y的影响是线性的 当考虑多个X 此时X可以是连续型数据也可以是非连续型数据的 对Y的影响但Y都是连续型数据时 可以采用一般线性模型分析法 在收集数据时 将X与Y一一对应 即 收集到每一个X和与其对应的Y 一般线性模型 GeneralLinearModel 一般线性模型 GeneralLinearModel 例1 某化工产品的不纯度可能受到多种因素的影响 现收集到数据见 GLM 练习3 1 不纯度Y是连续型数据 2 有多个X为可能的影响因素这些X中既有连续型的又有