第08章 相关分析与回归分析(新).doc

第8章 相关分析与回归分析【案例导入】宏观经济认为，影响财政收入的因素有很多。考察90年代以来我国的财政收入与人均GDP、就业人口数、第三产业产值（%）三变量的关系，分析它们的变动趋势及规律，在此基础上，可提出增加我国财政收入的政策建议。我国1991-2007年财政收入及有关指标如下年份财政收入(百元亿元)人均GDP(美元/人)第三产业产值（%）就业人口数（亿人）19913.248633.75.8419923.557534.85.9419934.461733.76.1219945.269033.66.7219956.275732.96.7919967.482432.86.8919978.789234.26.9619989.995336.26.70199911.4101637.77.06200013.4109439.07.21200116.4117640.57.30200218.9127441.57.37200321.7139341.27.44200426.4152440.47.52200531.6167340.17.58200638.8185840.07.64200751.3206940.17.70问题1已知第三产业产值（%）、就业人口数与财政收入的相关系数分别为0.74和0.81，人均GDP与财政收入的相关程度有多大？2人均GDP每增加一美元，财政收入将如何变化？3根据以上分析，你认为人均GDP、就业人口数和第三产业产值（%）三变量中哪个变量是预测财政收入的最佳变量？要求依据这一最佳变量建立与财政收入的回归模型，并预测2010年的我国财政收入数额。4以上分析结论对我国增加财政收入,提高政府宏观调控能力有何启示？本章的学习将掌握解决上述问题的方法。第一节 相关分析的意义和种类一、相关关系的概念和特点1相关关系概念一切客观事物都是互相联系和互相制约的。客观现象间的互相联系，可以通过一定的数量关系反映出来。而这种数量关系可以分为两种类型，即函数关系和相关关系。 函数关系。指现象之间存在着严格依存的、确定的关系，即变量之间依一定的函数形式形成的一一对应的关系称为函数关系，这种关系可以通过精确的数学表达式来反映。例如：圆面积与圆半径之间的关系 。 相关关系：又称统计关系，是指两个变量之间存在某种依存关系，但变量y并不是由变量x唯一确定的，它们之间没有严格的一一对应关系。例如：居民收入水平与消费品需求量之间，居民收入水平提高，人们对消费品的需求量也相应提高，但这种提高不是严格的一一对应关系，人们对消费品需求的多少不仅受到收入水平的影响，还要受到许多其他因素的影响，如消费习惯、消费预期等。2相关关系特点相关关系具有如下两个特点： 现象之间确实存在着数量上的依存关系。 现象之间数量上的关系不是确定的。应当注意，函数关系与相关关系虽然是两种不同类型的变量关系，但它们之间并无严格的界限，由于有测量误差等原因，确定性关系在实际中往往通过相关关系表现出来；反之，当人们对事物的内部规律了解更深刻后，相关关系又可能转化为确定性关系。（如圆周长与圆半径关系）二、相关关系的种类1根据相关关系的方向划分，有正相关与负相关。正相关：变量之间的变化方向一致，自变量x增加，因变量y也增加。负相关：变量之间的变化方向相反，自变量x增加，因变量y则减少。2根据自变量的多少划分，有单相关与复相关。单相关：只反映一个自变量和一个因变量的相关关系。复相关：反映两个及两个以上自变量和一个因变量的相关关系。3根据相关的形式不同划分，有线性相关和非线性相关。线性相关：即直线相关，当相关关系的一个变量变动时，另一个变量也相应地发生大致均等的变动。非线性相关：即曲线相关，当相关关系的一个变量变动时，另一个变量也相应地发生变动，但这种变动是不均等的。4根据相关关系的程度划分，有不相关、完全相关和不完全相关。不相关：如果两个变量彼此的数量变化互相独立，没有关系，这种关系为不相关。完全相关：如果一个变量的数量变化由另一个变量的数量变化所唯一确定，这时两个变量间的关系称为完全相关。这种情况下，相关关系实际上是函数关系，因此，函数关系是相关关系的一种特殊情况。不完全相关：如果两个变量之间的关系介于不相关和完全相关之间，称为不完全相关。大多数相关关系属于不完全相关。三、相关分析的主要目的和内容1相关分析的主要目的相关分析的主要目的是对现象之间的相互关系的密切程度和变化规律，有一个具体的数量的观念，进一步找出相互关系的模式，以便进行统计预测和推算，为制定计划、进行决策提供统计资料。2相关分析的主要内容 确定现象之间有无关系。 确定相关关系的表现形式。 测定相关关系的密切程度和方向。相关分析的内容较多，本章仅介绍直线相关最主要、最基本的内容。第二节 相关关系的判断相关关系的判断方法主要有表格法、图示法和相关系数法，下面分别介绍之。一、表格法表格法是根据两个相关变量，即自变量X与因变量Y的对应关系的数值编制而成的数据表，一般称为相关表。通过相关表可以初步看出各变量之间的相关关系，同时相关表还是绘制相关图和计算相关系数的基础。1简单相关表简单相关表的编制方法是：先将自变量的值按照从小到大的顺序排列出来，然后将因变量的值对应列上而编排成的表格。例如：将40亩地的耕作深度与亩产量资料列表如下。序号耕作深度（cm）亩产量（kg）序号耕作深度（cm）亩产量（kg）1123002116360212320221638031230023163804123402416380514320251638061434026183607143402718360814340281836091436029183801014360301838011163203118380121632032183801316340331838014163403418400151634035184001616340362038017163403720400181636038204001916360392042020163604022420仔细观察表中数据就可以发现，随着耕作深度的加深，亩产量有提高的趋势。2分组相关表如果原始数据很多，运用简单相关表来表示就很难使用了。为了排除偶然因素的影响和使资料表达更简明，就要将原始资料进行分组，然后编制相关表，这种相关表称为分组相关表。分组相关表包括单变量分组表和双变量分组表两种。 单变量分组表。单变量分组表是依据自变量进行分组，并列出每组变量值出现的资料和因变量值的统计表，如：按耕作深度分组（cm）亩数平均亩产量（kg）12432014634316153531810378204400221420合计40361从上表也可以看出，平均亩产量随耕作深度的增加有增加的趋势。 双变量分组表。对两种有关变量都进行分组，交叉排列，并列出两种变量各组间的共同次数，这种统计表称为双变量分组相关表。例如，根据某汽运公司的汽车运木材成本和运量的资料，编制双变量分组相关表如下：运木材成本y（元/立方米）木材运量x（万立方米）1111121213131414151合计1621213111653411361133118合计7772124上表显示，当木材运量较小时，相应运木材成本较高；当木材运量较大时，运木材成本则较低。二、图示法将现象之间的关系通过图像来表示，这种图像称为相关图。在坐标图上，以横轴表示自变量，纵轴表示因变量，标出每对变量值的坐标点（散布点），表示其分布状况的图形即为相关图。相关图称为散点图、散布图。通过相关图可以大致看出两个变量之间有无相关关系。以及相关的形态、方向和密切程度。 强正相关。Oyx 弱正相关。Oyx 强负相关。Oyx 弱负相关。Oyx 非线性相关。Oyx 不相关。Oyx若通过对客观现象和事物的定性分析，判明了它们之间没有什么关系，就用不着进行相关分析了。然而，定性分析往往不准确，如果现象之间确实存在着依存关系时，必然会贻误我们对现象的认识和研究。因此，在搞好定性分析的基础上，对现象之间有无相关关系作用出这量判断，特别是相关的程度是否密切，是相关分析十分重要的一项工作。在统计上，一般是通过计算相关系数来测定现象的相关程度。三、相关系数法1相关系数的意义相关系数是在直线相关条件下，说明两个现象之间相关关系密切程度的统计分析指标。通常用r表示。相关系数的数值范围是在-1到+1之间，即-1=r0为正相关，r0为负相关。相关系数r的数值越接近于1，表示相关关系越强，越接近于0，表示相关关系越弱。如果r=1或r=-1，则表示两个现象完全直线相关。如果r=0，则表示两个现象不是直线相关。应当注意，r只是表示x与y的直线相关密切程度，当r很小甚至为零时，并不表示x与y之间就不存在其他非直线类型的相关关系。为了在判断时有个标准，一般认为：相关系数的绝对值在0.3以下是无直线相关的，0.3以上是有直线相关，0.30.5之间是低度直线相关，0.50.8之间是显著相关（中等程度相关），0.8以上是高度相关。2相关系数的计算相关系数的定义公式为：式中，n表示资料项数；，表示x和y两个变量数列的协方差。，表示x变量数列的标准差；，表示y变量数列的标准差；由于它是通过将各个离差相乘的方法来说明相关程度的，所以通常把这种相关系数的公式叫做“积差法”相关系数公式。可以看出：r取正值或负值决定于分子，当其为正时，r为正，反之为负。要注意理解相关系数r中协方差的作用和变量x、y标准差的作用。 协方差的作用a显示x与y是正相关还是负相关。相关系数的正负号完全决定着协方差的正负号。b显示x与y相关程度的大小。协方差的绝对值小，相关程度低，反之就高。 标准差的作用在相关系数定义公式中，将协方差除以变量x的标准差与变量y的标准差的乘积，它的实际作用在于对x与y各自平均数的离差，分别用各自的标准差为尺度加以标准化，然后再求标准化变量的协方差。即：经过以上处理，其主要作用有两个方面：ax，y协方差是名数（即有单位），不同现象的变异情况不同，相关程度不能直接以协方差大小加以比较。标准化结果使协方差化为不名数，相关系数可以比较不同现象相关程度的高低。bx，y协方差的值可以无限增加或减少，不便于说明问题，将变量离差标准化，使相关系数的绝对值不超过1。在实际问题中，如果根据原始变量的数值计算相关系数，可运用相关系数简捷法计算公式： 此式可以不用计算两个变量数列的平均值与标准差，节约工作量，而且可以减少计算平均值除不尽所带来的误差。例7.1 某公司10家连锁店月销售额和利润率的养料如表所示，要求计算其相关系数。序号销售额（万元）x利润率（%）yx2y2xy16012.63600158.7675625010.42500108.1652038018.56400342.2514804103.01009.00305408.1160065.6132467016.34900265.69114176012.33600151.297388306.290038.441869306.690043.56198107016.84900282.241176合计500110.8294001465.006549解：将表中计算资料代入相关系数计算公式得： 上述计算结果表明，利润率与销售额之间存在高度的正相关关系。第三节 回归分析与一元线性回归一、回归分析概念及与相关分析的关系1回归分析的概念回归分析是在相关分析的基础上，考察变量之间的数量变化规律，并通过一定的数学表达式描述它们之间的关系，进而确定一个或几个变量的变化对另一个特定变量的影响程度。相关分析旨在测度变量之间的密切程度，它所使用的测度工具是相关系数；而回归分析则侧重于考察变量之间的数量变化规律，其所使用的数学工具就是配合回归模型。回归分析有线性回归分析与非线性回归分析之分。其中线性回归分析具有特别重要的意义，这是因为现象数量之间的变化常常是按比例变化的，而许多非线性的变化在较短时间内也近似于线性变化，可以利用线性分析方法。线性回归分析分一元线性回归分析和多元线性回归分析两种。后者是指三个或三个以上变量之间的回归分析，一元回归分析是多元回归分析的基础。2回归分析与相关分析的区别与联系 回归分析与相关分析的区别。一是相关分析所研究的两个变量是对等关系，回归分析所研究的两个变量不是对等关系，必须根据研究目的确定其中的自变量和因变量。二是对于变量x与y来说，相关分析只能计算出一个反映两个变量间相关密切程度的相关系数，计算中改变两变量的地位不影响相关系数的结果；回归分析有时可以根据研究目的的不同分别建立两个不同的回归方程。三是相关分析对资料的要求是，两个变量都是随机的，也可以是一个变量是随机的，另一个变量是非随机的。而回归分析中，自变量是可以控制的变量（给定的变量），因变量是随机变量。 回归分析与相关分析的联系。相关分析是回归分析的基础和前提；回归分析是相关分析的深入和继续。二、一元线性回归模型1一元线性回归模型的概念一元线性回归模型又称简单直线回归模型。它是根据两个变量的成对数据，配合直线方程式，再根据自变量的变动值，来推算因变量的估计值的一种统计分析方法。对于所要考察的变量y来说，若其主要影响因素只有变量x一个，且y与x呈线性相关关系，则可在变量y和x之间建立的数学模型为： 式中，表示变量y的估计值，也称y的理论值；a表示直线在y轴上的截距，代表直线的起点值；b表示直线的斜率，又称为y对x的回归系数，它的实际意义是说明x每变化一个单位时，影响y平均变动的数量；回归系数b为正即正相关，否则为负相关；a和b都叫做待定参数，它需要根据y与x的实际数据求解，一旦解出a和b的值，则表明变量之间一般关系的回归直线就随之确定。2拟合一元线性回归模型的条件任何一个数学模型的使用都是有条件的，一元线性回归模型也不例外。为使所拟合的数学模型达到最佳，一般应遵循如下条件： 两个变量之间确实存在显著的相关关系。要在对两个变量进行定性分析的基础上，通过计算它们之间的相关系数值，看是否达到显著相关的要求。若两个变量之间确定具有显著相关关系时，这样拟合的回归模型才有实际意义。 两个变量之间确实存在直线相关关系。若将两个变量的成对数据绘成散点图，当这些散点的分布近似于直线时，才能拟合一元线性回归模型。 应根据最小平方法（又称最小二乘法）的原理似合一元线性回归模型。应用最小平方法原理确定一元线性回归模型中的两个待定参数a和b的值，既可以使实际值y与理论值离差的代数和等于零，即，这说明回归直线上所有的值是实际所有y值的平均值；又可以使用实际值y与理论值的离差的平方和为最小，即最小值，这说明所拟合的回归直线与各相关点的距离比任何其他直线与相关点的距离都小，所以说是最佳的理想直线。3一元线性回归模型中待定参数的确定方法由上述拟合模型的条件知，应根据最小平方法的原理来确定待定参数。具体方法如下：设：一元线性回归模型为，其中为待定参数；离差平方和为。即： 欲使Q值达到最小，其必要条件是它对a和b的一阶偏导数等于零，即： 由此可以整理成以下标准方程式： 由标准方程式可以解得：4拟合一元线性回归模型方法举例由实际资料拟合一元线性回归模型分为未分组资料和分组资料两种情况，下面分别予以举例说明。其一：使用未分组资料拟合一元线性回归模型例7.2 已知某乡镇10企业生产同种产品的月产量与生产费用的资料如表所示：企业编号月产量（百吨）x生产费用（百元）yxyx21250100423702109337221694488352165510050025651105502576965763687131917499713594549108148118464合计5010005550286解： 根据上表已知的x和y数据，计算出待定参数据a和b所需要所数据如下： 将上述数据代入求解待定参数的计算公式： 将a和b的数值代入公式，得出生产费用对月产量的一元线性回归模型如下： 式中，表明回归直线y轴上的截距，说明当月产量为零时，固定的生产费用为23.611（百元）；，是回归直线的斜率，表明当月产量每增加一个单位，生产费用平均数增加15.2778（百元）。 求出回归直线模型之后，可以利用其进行预测。例如，假定该乡镇新建一个该产品的同类企业，若已知其月产量为9百吨，则可以预测其生产费用为：（百元）其二：使用分组资料拟合一元线性回归模型分组资料拟合一元线性回归模型的方法步骤与未分组资料基本相同，其主要区别在于求待定参数时要注意加权。其标准方程组为：求参数a和b的公式为： 例7.3 已知资料如下，说明计算过程。工人看管织机台数（组中值）x时劳动生产率（米）y工人数fxfyfx2fxyfy614106014036084012.048681714112238896190416.96481022212104622100462021.88101225303607504320900026.7972143233462105664681478431.7143163732512118481921894436.629618422137888268041587641.5458合计161209447122914065968解：由表中资料可得：将这些资料代入如下公式：因此，所求的一元线性回归模型为：三、估计标准误差建立回归方程的一个主要作用在于根据自变量的已知数据推算因变量的估计值。这个估计值又称为理论值或称平均值，它与因变量的实际值可能相同，也可能不同，因而产生了估计值的代表性问题。将一系列值与值进行比较，可以发现其中存在一系列离差，如何反映这些离差的大小，一般是通过估计标准误差指标来测定的。估计标准误差是用来说明回归方程式代表性大小的统计分析指标。其计算原理与标准差基本上相同，计算公式为：式中，表示估计标准误差；是因变量的实际值；是根据回归方程推算出来的因变量估计值。实际计算中，估计标准误差通常采用如下简捷公式：以前面的示例7.2资料为例：已知：；计算：将上述数据代入简捷公式得：四、一元线性相关进一步分析即使相同的回归直线，所反映的现象之间相关的密切程度可能大不相同，这需要研究相关关系的密切程度。相关系数就是描述两个变量线性关系的密切程度的数量分析指标。相关关系的计算方法有两种：积差法和方差法。1积差法相关系数计算研究两个变量之间相关的密切程度，以离差平方总和为基础。设y的各实际值与估计值的离差平方和为E。因为：，故：则：因为： ，故：令：则：式中：为样本相关系数，为样本协方差，和为样本标准差，根据上述原则计算的相关系数有如下几项特点：1相关系数之值介于与之间，故r的绝对值不大于1。2当时，即：回归直线平行于轴，说明对无线性关系。但并不说明x和y不存在其他类型的相关关系。3时，与存在一定的线性关系。当时，正相关；反之，负相关。4当时，x与y有完全线性关系，完全正相关或完全负相关。2方差法相关系数计算在直线回归中，观察值y的大小是围绕直线上下波动的，y值的这种波动现象称为离差。这种离差的产生，一是因为受自变量变化的影响，二是因为其他因素（如误差）的影响。为了分析这两个方面的影响，需要对总离差进行分解。对每个观察值来说，离差的大小可以通过该观察值y与平均数的离差（y-）来表示，而全部n次观察值的总离差可由这些离差的平方和表示：离差y-都可分解成：则：=因为：所以：令：SSR=，称为回归离差平方和SSE=，称为剩余离差（残差）平方和SST=SSE+SSRSSE是计算标准误差的根据，SSR是计算相关系数的基础。令：在相关分析中，称为判定系数，它是比较各估计值对平均值的离散程度和各观察值对的离散程度的量度，即自变量所引起的回归的离差平方和占因变量的总离差平方和的比率。它能用来度量自变量与因变量相关的密切程度和回归方程对观察资料的拟合优度。习惯上，人们常用来说明两变量线性关系的密切程度，可以与积差法相关系数取得一致的结果。3回归系数和相关系数的关系相关系数和回归系数有着十分密切的关系，这在说明比值判断相关的密切程度时已经预示。现着重指出相关系数与回归系数存在着下述的数量关系：反之，如已知，则可以计算回归系数： 回归分析是研究两变量之间的因果关系，所以必须通过定性分析来确定哪个是自变量，哪个是因变量。相关分析要求两变量存在相关关系，而相关的两变量就不一定呈现回归关系，可以是回归关系，也可以不是回归关系。回归分析对于因果关系不甚明确、或可以互为自变量的两变量，可以求出y与x的回归方程（或说y在x上的回归）；还可求出x与y的回归方程（或说x在y上的回归）。前者，回归系数：后者，标准方程：后者，回归系数：回归方程在进行预测估计时，只能通过自变量的数值来估计因变量的可能值。即对于，只能由已知x来推算y的估计值，而不能给定逆推x。尽管在形式上逆运算是可行的，但对于回归方程确定了具体自变量后便只能做单向推算。应该指出，利用最小二乘法求出的回归方程，只是对给定资料范围所配合的最优方程，若超出此范围，就不一定是最优的了。因此，借此方程进行内插与外推时要充分注意其有效性。内插只能在给定资料的范围内进行。外推预测要慎重，给出x值应紧挨给定资料区间的上下限，否则所进行的外推预测的有效性就明显削弱。若x值远离给出的区间，直线回归也许会变成某种曲线回归，外推预测就没有意义。五、回归分析中应注意的问题 在定性分析的基础上进行定量分析，是保证正确运用回归分析的必要条件。也就是说，在确定哪个变量作自变量，哪个变量作因变量之前，必须对所研究的问题有充分正确的认识。 在回归方程中，回归系数的绝对值只能表示自变量与因变量之间的联系程度，以及两个变量的变动比例。因为其值大小直接取决于变量所用的计算单位的大小。 在进行回归分析时，为了使推算和预测更准确，应将相关系数、回归方程和估计标准误差结合使用。 要具体问题具体分析。回归方程是根据资料计算出来的，是一种经验数据，如条件发生变化，则推算或预测会不准确。第四节 多元线性回归和相关一、多元线性回归的概念前面只研究一元回归的问题，它反映的是一个因变量与一个自变量之间的关系。但在实际工作中，某一现象的变动常受多种现象变动的影响。例如，某块耕地面积上粮食产量的高低，一方面受施肥量多少的影响，同时也受播种量、温度、降雨量等因素的影响。在统计中，研究一个因变量与多个自变量之间数量关系的理论和方法，称为多元回归，或复回归。研究在直线相关条件下，两个以上自变量对一个因变量的一般数量变化关系，称为多元线性回归。表现这种关系的数学式，称为多元线性回归方程。多元线性回归分析的原理与简单线性回归分析的原理相同，但计算要复杂得多。一般多元线性回归方程为：式中：a、b1、b2bk为待定参数；k为自变量的个数。现在，着重探讨两个自变量线性回归及相关问题，二元线性回归方程式为：式中的x1和x2形成一个平面，称为y对x1和x2的回归平面。回归平面的意义类同于回归线的意义。a为常数项，是回归平面在y轴上相截的值。b1、b2分别为y对x1、x2的回系数或部分回归系数。b1表示当x2固定时，x1每变动一个单位所引起y的平均变动值，b2表示x1固定时，x2每变动一个单位所引起y的平均变动值。应该指出，在一般情况下，回归平面不是垂直于y轴的，y的观察值在回归平面上下浮动。二、多元线性回归的参数估计二元线性回归方程中，各参数a、b1、b2值的确定，仍用最小二乘法。设利用偏导求极值，可得三个标准方程式如下：一般可用消元法或代入法求解三个参数的值，值可由下式求出：上述方法也可以推广到多个自变量的回归方程：应用最小二乘法可得n+1个标准方程式：应用矩阵法求解这组方程式，即可求得多元线性回归方程中各参数的数值。三、复相关系数和偏相关系数在配合了一个多元线性回归方程后，进一步要考虑如何反映变量之间相关的密切程度，常用的指标是复相关系数和偏相关系数。现就这两个系数的概念和计算方法分别说明。1复相关系数我们曾引用相关系数r来衡量回归直线对于观察值配合的密切程度。现在研究多个变量的回归，也需要引入一个指标来度量回归平面对所有相关点配合的密切程度。这个指标称为复相关系数，用符号表示。其计算方式为：是以x1和x2及xn为自变量，而以y为因变量的复相关系数，它可以衡量y对x1,x2xn相关的密切程度。如