元线性回归模型.ppt

变量的测度等级 科学研究中 用变量来量化概念 但不同概念能够被量化的程度有所不同 这种量化程度在统计学中称为变量的测度等级 MeasurementLevel 变量的测度等级通常划分为四种 名义 Norminal 测度次序 Ordinal 测度间距 Interval 测度比率 Ratio 测度 1 名义测度 最低等级的测度 也称定名测度它只代表类型的编码 而这些编码的数值只是一个符号 数值之间不存在有意义的量的关系性别 女 1 1 A F男 0 2 B M企业类型 国企v s私企 2 次序测度 其量化水平高于名义测度 即其包含的信息量大于名义测度等级的变量变量编码不仅具有分类功能 也存在量的关系温度 低 中 高123虽然可以用2 4 6分别表示温度的低 中和高 但不可以随意调换各类在序列中的位置 即类别之间是有次序和方向的 3 间距测度 是采用一定单位的实际测量值两个间距测度变量的差与和都具有数量意义 而前面两类测度等级不具有这一性质两个间距测度变量不能进行乘除运算 因为这一测度等级的变量所取的0值不是物理意义上的绝对0值不能说10摄氏度是5摄氏度的2倍 4 比率测度 最高等级的测度其0值是非人为制定的K温度中的0度 绝对0度两个比率测度等级的变量的比值是有意义的 5 小结 前两种 分类变量后两种 连续 测量型 变量测度等级越高 变量所包含的信息越多较高测度等级的变量可以降级使用 在统计分析中经常采用降级使用常见的降级使用方式 1 次序测度变量作为名义测度变量使用2 比率测度变量作为间距测度变量使用3 间距测度变量作为名义测度变量使用 6 现代社会科学研究三要素 理论 管理学的各种理论观察 为研究取得客观实际材料的过程 包括应用试验方法 调查方法等统计 1 对观测数据进行统计描述 统计描述 2 对多个变量之间的关系进行定量分析 统计推断 3 对理论进行实践检验的一个工具 7 统计在社会科学中的定位 对于社会科学 包括管理学 而言 统计仅仅是分析问题和研究问题的一个工具 它不仅需要专业理论的指导 也需要研究方法论的指导 因此 你们的目标是要在管理学的理论上有所创新 然后用统计方法验证你们的理论但是 对现代社会科学而言 统计是越来越重要的 不可缺少的语言和工具 8 统计研究中的常见谬误 混淆统计联系与因果关系事后解释谬误生态学谬误还原论谬误混淆统计检验显著与实际意义显著 9 几个问题 学了几个学期的数学和概率统计 一元正态分布 多元正态分布 向量和矩阵 线性回归 一元方差分析 10 关于回归http en wikipedia org wiki Regression analysis 起源于19世纪生物学家F 高尔顿进行的遗传学研究发现下一代人身高有回归同时代人类平均身高的趋势K 皮尔逊又用观察数据证实了这一现象回归分析的核心方法 最小二乘法 早在18世纪就已经被高斯应用于行星轨道的测定在应用统计中 90 的问题都可以用回归 包括各种回归模型 来解决 11 多元回归分析是分析一个随机变量和多个变量之间线性关系的最常用的统计方法 如销售量与价格和广告费的关系变量分为两类 因变量和自变量因变量必须为连续变量 自变量可以是连续的也可以是分类变量 或者是两者的混合只有一个自变量时 称为一元线性回归模型 12 变量的关系和回归的任务 变量的关系可以分为两类 1 确定的函数关系 如2 统计相关关系 我们可以把握这种关系的一个总体趋势 但是不能得到一个确定的关系表达式 因为这个关系受到一些我们无法得知的随机因素的影响 如体重和身高的关系 回归分析就是要寻找在给定自变量的条件下因变量的概率分布 从而用一种确定的函数关系近似描述因变量和自变量的不确定关系 13 一元线性回归模型 只有一个自变量的回归称为一元 简单 回归一般地 我们用大写字母表示总体参数 用小写字母表示样本统计量一元线性回归的数学表达式 其中为因变量 为自变量 为未知参数 是随机误差项 线性 是指模型关于参数是线性的 14 例1 表2 1列出了我国分地区家庭年人均食品支出与人均收入的数据 我们感兴趣的是人均食品支出与他们的人均收入的关系 因此设食品支出为因变量 人均收入为自变量 由图2 1可知与有较好的线性关系 因此我们假设在总体中他们满足线性关系式 1 15 图2 1我国分地区城镇居民年人均食品支出和人均收入散点图 16 将表2 1数据带入方程 1 中 则有上式中为样本随机误差回归的任务 希望得到能够对观测数据拟合最优的回归方程估计上式称为对的回归方程 17 最小二乘法 OLS 称为的拟合值 它是在给定条件下的条件均值的估计误差平方和最小二乘法 求未知参数使得上面的误差平方和最小 求得的即为未知总体参数的最小二乘估计 18 对误差平方和关于求导数 并令其等于0 求关于的联立方程组 得到其中表示因变量的均值 的定义类似由表2 1的数据算得于是得到拟合2 1散点图的回归直线 19 SPSS操作 20 图7 2 LinearRegression 对话框 一 图7 3 LinearRegression Statistics 对话框 图7 4 LinearRegression Plots 对话框 图7 5 LinearRegression Save 对话框 图7 6 LinearRegression Options 对话框 一元回归系数的意义 在回归模型 2 式中 称为回归直线的系数是直线在轴上的截距 代表的基础水平 即自变量取0时因变量的水平是直线的斜率 表示变化一个单位时 的平均变化在例1中 斜率为0 42 即人均收入每上升1元 人均食品支出平均上升0 42元 26 变量变换 当因变量与自变量的关系是非线性时 可以通过变量变换使经过变换的新变量对于参数是线性的 然后基于变换后的变量建立线性回归模型 基于变换后的数据用最小二乘法求得未知参数的估计对于呈非线性相关的变量 通常根据观察数据的分布形状 采用不同的曲线拟合散点 最后选择拟合精度最高的曲线作为拟合曲线常用的拟合曲线和变量变换如表2 3所示 27 模型的假设条件 高斯假设条件 对总体中各次观察的随机误差满足如下4个条件 a 零均值性 即在自变量取一定值的条件下 总体误差项的条件均值为0 b 等方差性 即在自变量取一定值的条件下 总体误差项的条件方差为一正常数 c 误差项之间的相互独立性 即在自变量取任意不同值时 相应的误差项之间相互独立 d 误差项与变量之间相互独立性 即自变量的变化与误差项无关 28 符合上述假设条件的回归模型称为一般线性回归模型对于一般线性回归模型 最小二乘估计分别是总体参数的无偏估计如果我们的目的只是求未知参数的点估计 符合上述假设的一般线性回归模型也就足够了如果还需估计总体参数的置信区间 或者需要做假设检验 则需考虑总体误差项的概率分布 29 正态误差假定 在高斯假设条件的基础上 假设随机误差项服从正态分布 则 定义的线性模型称为正态误差模型基于高斯假设 可知 个随机变量相互独立且服从同一正态分布样本统计量也都是服从正态分布的随机变量 30 假设误差项服从正态分布的合理性 a 中心极限定理 b 由于模型参数的检验以分布为基础 误差项如果稍微偏离正态分布 对参数检验的影响也不会很大 统计上称为 稳健性 线性回归大都采用正态分布的标准假定 但并不是所有的数据都符合这个假定 31 总体方差的估计 在高斯假设和正态误差假设成立的条件下 我们用样本拟合误差均方和作为的估计 即是误差方差的无偏估计称为误差标准误 可以用它作为的估计 32 未知参数和的标准误及区间估计 用代替 即能根据相应公式得到总体参数和的标准差和的估计 他们分别称为的标准误 通过它们可以完成对总体参数的区间估计总体参数及其对应的样本估计参见表2 4如果实际情况不符合高斯假设条件或正态分布假设条件 便