第十次课一元线性回归中的参数估计

在现实问题中，处于同一个过程中的一些变量，往往是相互依赖和相互制约的，它们之间的相互关系大致可分为两种：相关关系 问题（ 1）确定性关系 函数关系；（ 2）非确定性关系 相关关系；相关关系表现为这些变量之间有一定的依赖关，但这种关系并不完全确定，它们之间的关系不能精确地用函数表示出来，这些变量其实是随机变量，或至少有一个是随机变量。相关关系 举 例例如：在气候、土壤、水利、种子和耕作技术等条件基本相同时，某农作物的亩产量 Y 与施肥量 X 之间有一定的关系，但施肥量相同，亩产量却不一定相同。 亩产量是一个随机变量。又如：人的血压 Y 与年龄 X 之间有一定的依赖关系，一般来说，年龄越大，血压越高，但年龄相同的两个人的血压不一定相等。 血压是一个随机变量。农作物的亩产量与施肥量、血压与年龄之间的这种关系称为相关关系，在这些变量中，施肥量、年龄是可控变量，亩产量、血压是不可控变量。一般在讨论相关关系问题中， 可控变量称为自变量，不可控变量称为因变量。对于 x的一组不完全相同的值 x1, x2, xn作独立观察 , 得到随机变量 y相应的观察值 y1,y2, , yn, 构成 n对数据 . 用这 n对数据可作出一个散点图 , 直观地描述一下两变量之间的关系 .yxo 这里有三幅散点图 .yxo (1)oyx (2)yxo (3)根据散点图 , 考虑以下几个问题 :(1)两变量之间的关系是否密切 , 或者说我 们能否由 x来估计 y.(2)两变量之间的关系是呈一条直线还是呈某种曲线 .(3)是否存在某个点偏离过大 .(4)是否存在其它规律 .yxo (1)oyx (2)yxo (3)考虑采用线性方程拟合采用非线性方程拟合以下重点讨论前者函数关系与相关关系的区 别相关关系 影响 的值，函数关系 决定 的值，因此，统计学上讨论两变量的相关关系时，是设法确定：在给定自变量 的条件下，因变量 的条件数学期望不能确定。回 归 分析的概念研究一个随机变量与一个（或几个）可控变量之间的相关关系的统计方法称为回归分析。只有一个自变量的回归分析称为一元回归分析；多于一个自变量的回归分析称为多元回归分析。引进回归函数称为回归方程 回归方程反映了因变量 随自变量 的变化而变化的平均变化情况 .回归分析主要包括三方面的内容 （ 1）提供建立有相关关系的变量之间的数学关系式（称为经验公式）的一般方法；（ 2）判别所建立的经验公式是否有效，并从影响随机变量的诸变量中判别哪些变量的影响是显著的，哪些是不显著的；回 归 分析的内容（ 3）利用所得到的经验公式进行预测和控制。一元 线 性回 归 模型如果试验的散点图中各点呈直线状，则假设这批数据的数学模型为设随机变量 Y依赖于自变量 x， 作 n次独立试验，得 n对观测值：称这 n对观测值为容量为 n的一个子样，若把这 n对观测值在平面直角坐标系中描点，得到试验的 散点图 .其中 ，且相互独立，则 图 9-1其中 同服从于正态分布 相互独立，因此 其中 是与 无关的 未知常数 。（ 9.1）一元 线 性回 归 模型一般地，称如下数学模型为一元线性模型 而 称为回归函数或回归方程。称为回归系数。1.最小二乘估计 设 是 的一组观测值 ,对 每个 样 本 观测值 考虑 与其回归值 的 离差综合考虑每个离差值 ,定义离差平方和所谓 最小二乘法 ,就是寻找参数 的估计值使得离差平方和达到极小值 ,即选择使得满足上式的 称为回归参数二乘估计 。的 最小由于的极小值总是存在的 因此 应满足即整理得 正规方程组 若记 Y 对 x 的经验回归直线方程 经验回归系数 代入回归直线方程，得：表明：对于一组样本观察值，经验回归直线始终通过散点图的几何中心 在经验回归直线上例 1 在钢线碳含量 x对于电阻效应 y的研究中 , 得到了以下数据 :碳含量（ %） 0.10 0.30 0.40 0.55 0.70 0.80 0.95电阻（微欧） 15 18 19 21 22.6 23.8 26假设对于给定的 x,y 为正态变量 , 且方差与 x 无关 .如果 x,y满足经验公式 求线性回归方程 解 设现在所求的线性回归方程