1回归分析.ppt

回归分析 唐启义qytang Tel江江大学农业与生物技术学院 目的 研究对象的数量波动能否被另外一个或几个因子来解释 假如用Y表示研究对象 用X表示其他可能可以解释研究对象波动的某个 某些 因子 则用数学方法可以建立函数关系Y f X 建立这种关系的过程就叫做回归 regression 得到的结果为回归方程 一旦建立了回归模型 除了对他们之间关系有了进一步的定量理解之外 还可以利用回归模型通过X对Y做预测 prediction 例 学生高一成绩 能否被初三的成绩来解释 回归分析原理 图中的那条趋势线 如何用数学方法求出 确定直线的标准 最小二乘 leastsquares 直线到所有点的竖直距离的平方和最小 用数据寻找一条直线的过程也叫做拟合 fit DPS下的回归方程建立 变量回归系数标准回归系数标准误t值p值b026 44415 39594 900 0000b10 65110 79530 07169 090 0000 截距 26 444 斜率 0 651 该直线数学理论公式 截距和斜率 26 444和0 651 是对b0和b1的估计 理论公式中多出的e是随机误差 即每个观察值和拟合值的差值 计算出来的模型 有多大的可能性能代表他们之间的关系 这里我们关系的是 初3成绩每增加一分 高1成绩是否有可能跟着增加 在统计上的假设检验是 统计软件 如DPS给出了这个检验的结果 t检验统计量为9 089 而p 值为0 000 因变量Y的波动 被解释变量X可以解释的比例 叫做决定系数 coefficientofdetermination 用R2表示 本例的R2 0 632 说明高一成绩的波动 大约有63 可由初3成绩来解释 或者说是由初3成绩来决定 多个自变量的回归模型 多元回归方程 是前面的一个解释变量的推广 这里b0 b1 bk和前面一样 称为回归系数 统计软件 如DPS也会自动输出相应的检验结果 多元回归分析用户界面 当有多个解释变量时的检验须用方程分析 检验是否目标变量和所有的解释变量都不存着数量上的关系 方差分析表方差来源平方和自由度均方F值p值回归0 064040 016017 590 0000剩余0 0173190 0009总的0 0812230 0035相关系数R 0 8873 决定系数R 2 0 7874 调整相关R 0 8612 各个解释变量对因变量重要性 变量回归系数标准回归系数标准误t值p值b0 0 14170 06922 04830 0546b10 00010 59250 00004 22750 0005b20 00450 27270 00192 36370 0289b30 0000 0 00110 00070 00950 9925b4 0 0347 0 44770 01083 20800 0046 从多个解释变量里面挑选 重要 因子建立回归方程 逐步回归 逐步回归 逐个地把显著的变量加入 把不显著的变量去掉 17 在DPS中 数据格式和线性回归相同 一行一个样本 一列一个变量 因变量放在最右边 在DPS中的逐步回归分析 18 逐步回归 调整R值达到最大 下一页 19 20 分析结果和线性回归相同 自变量中有定性变量的回归 学生高1成绩受初3成绩影响数据中 如果还考虑家庭收入 但它是 低 中 高 即用1 2 3来代表的定性变量 这时需要含定性变量的回归分析 这时的回归模型是 哑元的各个参数a1 a2 a3本身只有相对意义 无法三个都估计 只能够在有约束条件下才能够得到估计 约束条件可以有很多选择 一种默认的条件是把一个参数设为0 比如a3 0 这样和它有相对意义的a1和a2就可以估计出来了 对于前面的例子 可得到 即b0 b1 a1 a2 a3的估计值分别为28 708 0 688 11 066 4 679和0 回归分析结果系数项系数值标准回归系数标准误t值p值常数项28 7081A 1 11 0662 0 39282 6410 4 19010 0001A 2 4 6789 0 19982 1759 2 15030 0368X10 68760 83986 293810 92470 0000回归方程y 28 70811 11 06623A 1 4 67886A 2 0 687575X1 24 CCD试验设计中的回归分析1 实验设计类型 2 实验处理因子数3 实验处理各个水平取值的设置方式4 各处理零水平 中心点 变化区间或最小 最大值 25 26 27 实验结果统计分析 左边方实验设计表 右边一列放各个处理相应的产量 然后用鼠标选中 最后进入主菜单 选择 试验统计 中的 实验优化分析 下面的 二次多项式回归 系统出现如下界面 28 29 输出结果 各个因素 试验处理水平 编码的平均值和标准差 以及相关系数矩阵 二次多项式回归模型 回归模型的F检验值及显著水平p 一般显著水平小于等于0 05时即可对该模型进一步分析 如果F太小 回归方程不显著 则不适合建立二次多项式回归模型来分析试验结果 30 模型统计检验 31 各个因子项的回归系数 标准回归系数 t检验值及显著水平p 回归模型的复相关系数R剩余标准差和调整后的相关系数 一般来说 调整后的相关系数越大越好 各个处理的观测值 拟合值和拟合误差 以及Durbin Watson DW 统计量 DW统计量只当分析样本按某一顺序 如处理先后 存放时才有意义 该值要在2的附近为好 32 其他因子为零时单因子和两因子互作效应分析 可在DPS系统作图功能的支持下 分别作x y曲线图和等高线图 其他因子为零水平时 各个因素的灵敏度分析 给出了系数灵敏度 导数 平均效应y x和目标函数y 根据这些数据 可以进行边际分析 33 典型分析 求一阶偏导数方程 拟合方程的典型形式 稳定点分析 在试验条件的约束之下 进行模型优化 得到最高产量时各个因素组合 如果在分析时按系统的提示 输入了目标指标的价格 以及各个处理因素的价格 系统将会给出最大经济效益时的产量和产值 34 典型分析及模型优化 对回归模型进行比较深入 直观地分析 典型分析 又称典范分析 典则分析 Canonicalanalysis 提供了较为理想的分析技巧 35 应用典型方程 我们可以得到如下信息 一是稳定点处是否是拟合模型的极大值 极小值或者是鞍点 当典型方程的各个系数为负时 稳定点为模型的极大值 当典型方程的各个系数为正时 稳定点为模型的极小值 当典型方程的各个系数有正有负时 稳定点为鞍点 这一点很重要 这时因为我们在寻优建模时 往往根据专业背景 指定模型寻优方向 这种寻优方向可能和拟合模型本身的最优解不一致 或部分因子不一致 不一致时 采用数值寻优算法得到的最优点有可能位于实验因子取值的边界上 36 37 同时 根据典型方程 判断各个因素在稳定点附近的变化大小 系数越大 变化越快 该点的稳定性就较差 这是在应用中需要注意的 最后 如果通过数值优化分析和典型分析得到的最优值一致 那么模型可以认为是较好的 如果不一致 在模型应用时 需要进行更深入的分析 探明原因 且模型结果谨慎应用 38 多因子实验优化的区组设计 多因子优化设计试验 一般试验次数较多 试验次数增加会带来量方面的问题 一是试验时间延长 有的实验处理是依时间顺序一个接一个地进行的 由于时间延而产生的对实验结果的影响叫做时间漂移 这一影响很可能增加试验误差 这种情况在工业试验中较为普遍 另一种情况是试验区增大 在农林生物的田间试验中 因处理因子多 实验区加大 这样难以在同质的条件下进行试验 而需要进行小区控制 实行区组设计 39 DPS提供的区组设计功能 区组设计应用与多因子优化试验是有必要的 但遗憾的是 我们以往的试验优化分析工具 都没有提供可处理区组设计功能 这里 我们增加了处理含有若干区组的二次正交回归组合 中心复合 设计试验数据分析建模功能 该功能模块在 试验统计 试验优化分析 区组设计二次多项式回归 里面 40 区组设计统计分析数据格式 二次正交回归组合设计或其他多因子试验 如果在实施时划分了B个区组 在试验结果的数据分析时 数据的第一列放区组的顺序编