回归分析(Regression).pdf

Copyright 2008 SAS Institute Inc All rights reserved 质量统计应用方法 回归分析 JMP中国区 Copyright 2008 SAS Institute Inc All rights reserved 内容摘要内容摘要 公司简介及JMP入门 略 回归分析的基本概念 回归模型的建立 回归模型的诊断 回归模型的用途 回归分析的综合应用案例 交流与问答 Copyright 2008 SAS Institute Inc All rights reserved 如何鉴定流程能力的优劣 LSL USL Target Copyright 2008 SAS Institute Inc All rights reserved 传统控制 阶段 传统控制 阶段 QC quality control 统计质量 控制阶段 统计质量 控制阶段 SQC statistical quality control 全面质量 管理阶段 全面质量 管理阶段 TQM total quality management 六西格玛 质量管理 阶段 六西格玛 质量管理 阶段 Six Sigma Management 1900 1930 1950 1990 质量管理的发展 Copyright 2008 SAS Institute Inc All rights reserved JMP是什么 SAS公司的软件事业部 名字源于 John s Macintosh Program JMP软件 众多世界知名学府和企业 超过 200 000名用户的选择 功能强大 使用简单的专业统计质 量分析软件 Copyright 2008 SAS Institute Inc All rights reserved 2008 全球绩效 30余年持续增长 08年营业收入达到22 6亿美金 Copyright 2008 SAS Institute Inc All rights reserved 全球最优秀的行业领袖信赖JMP Copyright 2008 SAS Institute Inc All rights reserved JMP 让数据分析更轻松 1 功能强大的数据分析能力 2 卓越的可视化效果 3 简单易懂的操作方式 Copyright 2008 SAS Institute Inc All rights reserved 统计分析能力 基本统计基本统计 描述性统计 单样本 双样本t检验 配对t检验 相关和协方差 单样本方差 等方差检 验 正态分布的拟合与检验 其他主要分布的拟合与 检验 回归分析回归分析 线性回归 多项式回归 多元回归 逐步和最佳子集回归 Logistic 回归 偏最小二乘法 非线性回归 响应面回归 正交回归 置信区间和预测区间 方差分析方差分析 一般方差分析 Welch 方差分析 协方差分析 广义线性模型 多元方差分析 非平衡方差分析 嵌套方差分析 平均值分析 环图多重比较 列联表列联表 卡方分析 对应分析 Cochran Mantel Haenszel 检验 模型拟合模型拟合 分段拟合 样条拟合 随机效应模型 混合模型 统一尺度估计 对数方差 反向预测 Box Cox 转换 参数功效 定制检验 时间序列分析时间序列分析 自相关 偏自相关 交 叉相关 ARIMA 分析 季节性 ARIMA 分析 平滑模型 Winter 法 谱密度分析 预测 多元分析多元分析 主成分分析 因子分析 密度椭圆 聚类分析 判别分析 项目分析 对应分析 联合分析 仿真仿真 随机数据生成器 随机噪声 多元随机变量 随机抽样 与建模密切整合 非参数分析非参数分析 Wilcoxon 检验 中位数检验 Van Der Waerden 检验 Kruskal Wallis 检验 统计量Spearman Rho 统计量Kendall Tau 统计量Hoeffding D 样本数量和功效样本数量和功效 单样本 双样本和多样本 的均值 单样本的方差 单样本 双样本的比例 泊松分布 注 蓝色为其他统计软件所不具备的功能 Copyright 2008 SAS Institute Inc All rights reserved 统计分析能力 统计过程控制统计过程控制 运行图 变量控制图 属性控制图 特殊原因检验 操作特性曲线 时间加权控制图 多变量控制图 Levey Jennings控制图 实时控制图 过程能力分析 测量系统分析测量系统分析 变异源分析 量具的重复性和再现性 量具的偏倚和线性 嵌套型量具分析 交叉嵌套混合的量具分析 属性一致性分析 Kappa 判别比率 可区分类别数 试验设计试验设计 完全因子设计 筛选设计 响应面设计 混料设计 田口设计 扩充设计 空间填充设计 非线性设计 定制设计 生存生存 可靠性分析可靠性分析 分布拟合 WeiBayes 分析 竞争原因估计 参数生存模型 非线性参数生存模型 比例危险模型 加速失效模型 可修复系统的再现分析 数据挖掘数据挖掘 决策树 神经网络 注 蓝色为其他统计软件所不具备的功能 Copyright 2008 SAS Institute Inc All rights reserved JMP中的可视化方式 动画演示动画演示 数据与图形的交互数据与图形的交互 专业图形专业图形 拒绝枯燥 生动演绎统计学原理 真正实现动态链接 瞬间揭示事实真相 项目管理项目管理 融项目管理和数据分析为一体 提高工作效率 JMP提供最专业的统计分析图形 种类 效果 可读性 Copyright 2008 SAS Institute Inc All rights reserved JMP中的图形种类 饼图 折线图 条形图 直方图 箱型图 散点图 3D散点图 散点图矩阵 运行图 时间序列图 分位数图 茎叶图 CDF图 Pareto 图 鱼骨图 贝叶斯图 立方图 等高线图 曲面图 三元图 刻画器 定制刻画器 平行图 方格图 树图 拼花图 OC 曲线 泡泡图 Seeing is believing Copyright 2008 SAS Institute Inc All rights reserved JMP 使用界面 根据用户要求根据用户要求 层层递进层层递进 Copyright 2008 SAS Institute Inc All rights reserved JMP数据表 控制面板 数据网格 控制面板 数据网格 列列 变量变量 行行 记录记录 表表 数据库数据库 展开列菜单 展开行菜单 隐藏 撤消隐藏 控制面板 Copyright 2008 SAS Institute Inc All rights reserved 菜单架构 数据处理 分析数据 协助管理 可视化数据 Copyright 2008 SAS Institute Inc All rights reserved 回归分析与假设检验 Response Continuous Predictor Continuous Simple Linear Regression Categorical t test ANOVA Copyright 2008 SAS Institute Inc All rights reserved 回归 什么是回归 根据变量间客观存在的相关关系 建立起合适的数学模 型 分析和讨论其性质和应用的统计方法 回归有什么用 量化变量 尤其是连续变量 之间的客观规律 排除众多噪声因素的干扰 找到影响流程变异 质量性能的 关键因素 根据少量的样本数据了解庞大的总体情况 根据历史数据预测和监控流程今后长期的表现 加速学习进程 高度提炼专业知识和经验 深入 透彻地理解流程 为批量化生产经营的标准化工作 奠定基础 科学客观地总结和归纳出产品设计 工艺改进的综合解决 方案 根据客户要求 技术标准灵活地调整现有的工艺 服务流程 Copyright 2008 SAS Institute Inc All rights reserved 回归的应用领域 回归回归 市场营销市场营销 质量管理质量管理 产品研发产品研发 工艺改进工艺改进 服务优化服务优化企业管理企业管理 Copyright 2008 SAS Institute Inc All rights reserved 常见的回归形式 Indicator variables for discrete Xs x x x x x x x x x x x x x x x Xi Y Xa Xb Xc Multiple 2 or more Xs Polynomial 2 or more Xs Y X1 X2 Simple linear 1 X X Y Y X2 X1 Polynomial 1 X X Y Logistic for discrete Ys X 1 0 yes 1 23 45 6 Copyright 2008 SAS Institute Inc All rights reserved 回归分析的一般过程 观察散点图 作描述性统计 线性或曲面 一元或多元 数据转换 离散型 X 离散型Y 计算参数 判定系数 显著性 残差 通过 收集并了解数据 选择回归模型 假设 模型求解 模型检验 实际应用 控制输出值 通过输入值预测 未通过 变量的基础分析 明确研究的对象和范围 Copyright 2008 SAS Institute Inc All rights reserved 散点图与相关系数的概念 X input Y output weak STRO NGSTRO NG Correlation Coefficient 0 1 1 NegativePositive 22 yyxx yyxx r ii ii 22 yyxx yyxx r ii ii Copyright 2008 SAS Institute Inc All rights reserved X Y X Y X Y X Y X Y X Y Strong Positive Correlation r 95 Moderate Positive Correlation r 70 No Correlation r 006 Other Pattern No Linear Correlation r 29 Moderate Negative Correlation r 73 Strong Negative Correlation r 90 散点图与相关系数的组合 Copyright 2008 SAS Institute Inc All rights reserved e a 3 2 1 i 一元线性回归模型 Y X e yb xe ii yab x ii e Residual Copyright 2008 SAS Institute Inc All rights reserved 理论公式 yi a bxi ei Sample Regression Equation Sample Slope Sample Intercept xbya xx yyxx b x xy S S 2n 1i 2 i n 1i ii Copyright 2008 SAS Institute Inc All rights reserved 回归诊断 1 变差度量 判定系数 R2 均方根误差 RMSE 2 显著性检验 3 残差分析 4 散点图分析 yab x ii Copyright 2008 SAS Institute Inc All rights reserved 判定系数 R2 0 R2 1 R 2 Explained Variation Total Variation SSR SST n i i n i i n i i n i i yy yy yy yy 1 2 1 2 1 2 1 2 1 n i i n i i n i i n i i yy yy yy yy 1 2 1 2 1 2 1 2 1 Copyright 2008 SAS Institute Inc All rights reserved Total Sum of Squares yi y 2 总平方和 Y X y x i 判决系数的图示 Unexplained Sum of Squares yi yi 2 残差平方和 yi y ab x ii Explained Sum of Squares yi y 2 回归平方和 Copyright 2008 SAS Institute Inc All rights reserved 均方根误差 2 2 111 2 1 2 n yxbyay S n yy S n i n i n i iiii e n i ii e 1 实际观察值与回归估计值离差平方和的均方根 2 反映实际观察值在回归直线周围的分散状况 3 从另一个角度说明了回归直线的拟合程度 4 计算公式为 Copyright 2008 SAS Institute Inc All rights reserved 回归系数的显著性检验 1 假设 H0 1 0 No Linear Relationship H1 1 0 Linear Relationship 2 检验统计量 2 1 2 x i x e S b Swhere2nt b S b n t 3 统计决策 If t t refuse H0 Ift t accept H0 Copyright 2008 SAS Institute Inc All rights reserved 回归方程的显著性检验 1 假设 H0 No Linear Relationship H1 Linear Relationship 2 检验统计量 2 1 2 1 2 1 1 2 1 2 nF nyy yy nSSE SSR F n i i n i i 2 1 2 1 2 1 1 2 1 2 nF nyy yy nSSE SSR F n i i n i i 3 统计决策 If F F refuse H0 IfF F accept H0 Copyright 2008 SAS Institute Inc All rights reserved 残差分析 Assumption Check Tool 3 Residuals normally distributed Normal Plot Histogram of Residuals 2 Residual distribution stable over time Run Chart of Residuals 4 Residuals not related to X Scatterplot of Residuals vs Each X 1 Residuals not related to Predicted Y Scatterplot of Residuals vs Predicted Y Fits Copyright 2008