第4章 回归分析

1、第4章 试验数据的回归分析Regression Analysis of Experimental Data 第4章 试验数据的回归分析Regression Analysis Of Experimental Data n4.0 为何需要回归分析-Why we need regression analysisn4.1 基本概念-Basic Conceptn4.2 一元线性回归分析-Simple linear regression analysis 第4章 试验数据的回归分析Regression Analysis Of Experimental Data ()n4.3 多元线性回归分析(Multi-

2、variables linear regression analysis)n4.4 非线性回归分析(Nonlinear regression analysis)第4章 试验数据的回归分析Regression Analysis Of Experimental Data n1.教学目标-掌握回归分析基本原理及用计算机进行计算n2.教学重点-一元线性回归方程的四种计算方法n3.教学难点-最小二乘概念的引入及各种方法间关系，方程的准确确立及显著性判断n4.课形-主要讲述新课n5.课时安排-两节课讲授(一元线性回归方程的建立)及操作示意，并进行第二章、第三章作业的点评n6.教学器具-以多媒体为手段，利用

3、计算机进行教学n7.教学方式-讲述，分析及实际操作n8.教学过程n9.板书设计n10.课后小结 第4章 试验数据的回归分析()Regression Analysis Of Experimental Data n1.教学目标-掌握回归分析基本原理及用计算机进行计算n2.教学重点-一元线性回归方程外其它方程的建立n3.教学难点-不同回归方程的线性变换及不进行线性变换直接确立回归方程的思路建立n4.课形-主要讲述新课n5.课时安排-两节课讲授及操作示意，并进行第四章第一次作业的点评n6.教学器具-以多媒体为手段，利用计算机进行教学n7.教学方式-讲述，分析及实际操作n8.教学过程n9.板书设计n10

4、.课后小结 不同回归方程的建立-The establishing of different regression equations常规计算法常规计算法(简简算法，规划求解算法，规划求解)回归分回归分析法析法内置函内置函数法数法图表分图表分析表析表附注附注一元线一元线性方程性方程多元线多元线性方程性方程(规划求解规划求解解方程组解方程组)一元非线一元非线性方程性方程(需转换需转换)(需转需转换换)一元多项一元多项式方程式方程(需转换需转换)(需转需转换换)多元非线多元非线性方程性方程(需转换需转换)(需转需转换换)4.0 为何需要回归分析为何需要回归分析-Why we need regress

5、ion analysisv方差分析(ANOVA)只能了解自变量对因变量是否有关系(影响)，但不能了解关系(影响)的程度多大v方差分析的自变量多半是非连续变量，但现实环境中，许多的自变量是连续变量v回归分析可以解释是否自变量对因变量有影响，且可以解释影响的程度多大v以上说明并非表示方差分析不如回归分析。它们各自有重要之处。4.1 基本概念基本概念 （Basic Concept） 4.1.1 变量间的相互关系变量间的相互关系（1 1）确定性关系）确定性关系A.是一一对应的确定关系B.设有两个变量 x 和 y ，变量 y随变量 x 一起变化，并完全依赖于 x ，当变量 x 取某个数值时， y 依确定

6、的关系取相应的值，则称 y 是 x 的函数，记为 y = f (x)，其中 x 称为自变量，y 称为因变量C.各观测点落在一条线上(The interrelation betweenvariables) (Identifying relationship) 确定性关系实例(Examples of identifying relationship between variables)4.1.1 变量间的相互关系变量间的相互关系(The interrelation betweenvariables)A. 变量间关系不能用函数关系精确表达B. 一个变量的取值不能由另一个变量唯一确定C. 当变量 x

7、取某个值时，变量 y 的取值可能有几个D. 各观测点分布在直线周围 (2)相关关系(Correlation between variables)相关关系实例(Examples of Correlation between variables)相关关系(Correlation between variables)正正 相相 关关 负负 相相 关关线线 性性 相相 关关 非非 线线 性性 相相 关关正正 相相 关关 负负 相相 关关完完 全全 相相 关关 不不 相相 关关相相 关关 关关 系系相关关系的描述与测度(Description and measure of correlation)散点图

8、（Scatterplot chart or scatter diagram）4.1 基本概念小结基本概念小结 （Summary of Basic Concept） 4.1.1 变量间的相互关系变量间的相互关系 (The interrelation betweenvariables) （1 1）确定性关系（）确定性关系（Identifying relationship betweenvariables ）变量之间存在着严格的函数关系变量之间存在着严格的函数关系如某种商品的销售收入如某种商品的销售收入Y Y与该商品的销售量与该商品的销售量X X以及该商品价格以及该商品价格P P之间的关系可以表示为

9、之间的关系可以表示为Y=PXY=PX，这就是一种函数关系。，这就是一种函数关系。（2 2）相关关系）相关关系 （CorreCorreIation relationship betweenvariables ）变量之间近似存在某种函数关系变量之间近似存在某种函数关系如劳动生产率与工资水平的关系、投资额与国民收入的关系。如劳动生产率与工资水平的关系、投资额与国民收入的关系。相关关系经常用一定的函数形式去近似地描述相关关系经常用一定的函数形式去近似地描述。4.1.2 回归分析（回归分析（Regression analysis） n回归分析回归分析：处理变量之间相关关系的统计方法：处理变量之间相关关系

10、的统计方法n回归分析所能解决的问题回归分析所能解决的问题确定几个特定变量之间是否存在相关关系，如果存在确定几个特定变量之间是否存在相关关系，如果存在的话，找出她们之间合适的数学表达式的话，找出她们之间合适的数学表达式根据一个或几个变量的值，预报或控制另一个变量的根据一个或几个变量的值，预报或控制另一个变量的取值，并且要知道这种预报或控制的精确度取值，并且要知道这种预报或控制的精确度进行因素分析，确定因素的主次以及因素之间的相互进行因素分析，确定因素的主次以及因素之间的相互关系等等关系等等n回归方程回归方程 ：变量之间近似的函数关系式：变量之间近似的函数关系式n回归分析目的回归分析目的：设法找出

11、变量间的依存设法找出变量间的依存(数量数量)关系关系, 用函数关系式表达出来用函数关系式表达出来4.1.3 回归分析与相关分析的区别(The difference between regression and correlation analysis )(1) 相关分析中，变量 x 变量 y 处于平等的地位；回归分析中，变量 y 称为因变量，处在被解释的地位，x 称为自变量，用于预测因变量的变化(2) 相关分析中所涉及的变量 x 和 y 都是随机变量；回归分析中，因变量 y 是随机变量，自变量 x 可以是随机变量，也可以是非随机的确定变量(3) 相关分析主要是描述两个变量之间线性关系的密切程度

12、；回归分析不仅可以揭示变量 x 对变量 y 的影响大小，还可以由回归方程进行预测和控制 。4.2 一元线性回归分析一元线性回归分析(Simple linear regression analysis) 4.2.1 简述(Description in brief ) 涉及一个自变量的回归 因变量y与自变量x之间为线性关系被 预 测 或 被 解 释 的 变 量 称 为 因 变 量(dependent variable)，用y表示用来预测或用来解释因变量的一个或多个变量称为自变量(independent variable)，用x表示 因变量与自变量之间的关系用一个线性方程来表示 4.2 一元线性回归

13、分析一元线性回归分析(Simple linear regression analysis) 4.2.2 一元线性回归方程的建立一元线性回归方程的建立(The establishing of simple linear regression equation ) （1）最小二乘法）最小二乘法(The method of least squares)设有一组试验数据设有一组试验数据 （如表），若（如表），若x，y符合线性关系符合线性关系或已知经验公式为直线形式，都可拟合为直线方程。或已知经验公式为直线形式，都可拟合为直线方程。 xx1x2xnyy1y2yn a，b称为回归系数（称为回归系数（reg

14、ression coefficient） ：回归值回归值 （或拟合值），由（或拟合值），由xi代入回归方程计算出的代入回归方程计算出的y值。值。计算值计算值 与试验值与试验值yi不一定相等不一定相等 与与yi之间的偏差称为残差：之间的偏差称为残差： iiyabxiyiyiyiiieyyiiiyabxe4.2.2 一元线性回归方程的建立一元线性回归方程的建立(The establishing of simple linear regression equation ) 残差平方和残差平方和 (Sum of squares for error) 残差平方和最小时，回归方程与试验值的残差平方和最小时

15、，回归方程与试验值的拟合程度最好拟合程度最好 求残差平方和极小值：求残差平方和极小值：222111()()nnneiiiiiiiiSSQeyyyabx112()02()0niiiniiiiQyabxaQyabx xb 正规方程组（正规方程组（Normal equation） ：解正规方程组：解正规方程组：112111nniiiinnniiiiiiinabxyaxbxx y11112222111()()()( )nnnniiiiiiiiiinnniiiiiinx yxyx ynxybnxxxn xayb x可用可用规划规划求解求解可调用内置函数可调用内置函数：好处是可以调用内置函数：好处是可以调

16、用内置函数“sumsq”，“devsq”，“covar”22211()()nnxxiiiiLxxxn x11()()nnxyiiiiiiLxxyyx ynxyxyxxLbL(2)P.83 例4-1 Example of simple linear regression equation 为研究某合成物的转化率T与实验中的压强p的关系，得到如表4-1的试验数据。试使用最小二乘法确定转化率与压强的经验公式。 ：根据表4-1的试验数据，在普通直角坐标系中画出Tp散点图（如图4-1），从图中可以看出，这些点近似于直线分布，故可设Tp经验公式为T=a+bp。：依题意，试验次数n5，Tp为一元线性关系。为

17、了计算方便，将Tp关系表示为Y=a+bx ，其中x表示压强p，y表示转化率T。 n先计算出 等，这些值列在表4-2中。5521111,nniiiiiiiiixyxx y也可用简单算法(最方便，只要有基础数据即可)，则有： 2221( )1905 5.633.2devsq( )nxxixxiLxn xL 或1119.235 5.6 3.71615.182=covar( )*5nxyiiiLx ynxy 15.1820.45733.2xyxxLbL3.7160.457 5.61.155aybxTp关系式为：T=1.1550.4573p。 n可利用(4-7)、(4-8)公式计算a,b。112111n

18、niiiinnniiiiiiinabxyaxbxx y551155521115iiiiiiiiiiiabxyaxbxx y528b18.5828190119.23aab可利用规划求解来计算可利用规划求解来计算 解法解法2：还可利用图表向导进行回归分：还可利用图表向导进行回归分析析 打开图表向导，打开图表向导， 选选xy散点图。散点图。0 xy 点中趋势线，选趋势线格式。点中趋势线，选趋势线格式。 打开打开“选项选项”，选择，选择“显示公式显示公式”和和“显示平方显示平方根根”。 打开打开“类型类型”，选择，选择“线性线性”。 激活散点图，激活散点图， 添加趋势线添加趋势线请注意图表法确定的方程

19、形式最准确！ 解法3.利用EXCEL内置函数nExcel提供了多种可用于回归分析的内置函提供了多种可用于回归分析的内置函数，如数，如CORREL，INTERCEPT，SLOPE等函数。等函数。 (1)SLOPE函数(求斜率)nSLOPE函数语法为：SLOPE（know_ys，know_xs）n (2)INTERCEPT函数(求截距)(3)CORREL函数（求相关系数）n虽然用上述两个函数能够求出一元线性回归方程的表达式，但不能对其进行可靠性检验。而CORREL函数则能计算出单元格区域 array1 和 array2 之间的相关系数，使用相关系数可以确定两变量之间的线性相关程度。CORREL函数

20、语法为：CORREL(array1,array2)解法4.分析工具库在回归分析中应用nExcel“分析工具库”提供了“回归分析”分析工具，此工具通过对一组数据使用“最小二乘法”直线拟合，进行一元和多元线性回归分析。由于非线性回归都能转变成线性回归，所以该工具也能处理非线性问题。 用Excel进行回归分析第1步：选择“工具”下拉菜单 第2步：选择“数据分析”选项第3步：在分析工具中选择“回归”，然后选择“确定”第4步：当对话框出现时 在“Y值输入区域”设置框内键入Y的数据区域 在“X值输入区域”设置框内键入X的数据区域 在“置信度”选项中给出所需的数值 在“输出选项”中选择输出区域 在“残差”分

21、析选项中选择所需的选项 Y值输入值输入区域区域EXCEL回归分析工具的输出解释复相关系数，又称为复相关系数，又称为相关系数，它用来衡相关系数，它用来衡量变量量变量x和和y之间相关之间相关程度的大小。程度的大小。复测定系复测定系数：是复数：是复相关系数相关系数的平方的平方调整复调整复测定系测定系数数用来衡量拟合程度的大用来衡量拟合程度的大小，越小，拟合得越好小，越小，拟合得越好用于估计回归方程的数据用于估计回归方程的数据的观测个数的观测个数是估计值同均值之是估计值同均值之差的各项指标差的各项指标用于计算每个样用于计算每个样本观察值与估计本观察值与估计值之差值之差自由自由度度平平方方和和方差方差F

22、统统计量计量显著性水平回归参数表说明截距截距0斜率斜率1回归系数标回归系数标准误差准误差0=1的样本统计量t的值各个回归系各个回归系数的数的P值值0 95%的置信区间的上下限的置信区间的上下限1 95%的置信区间的上下限的置信区间的上下限指实际值减估指实际值减估计值的差额计值的差额残差输出残差输出概率输出概率输出残差图残差图线性拟合图线性拟合图如果需要为预如果需要为预测值和观察值测值和观察值生成一个图表生成一个图表正态概率图正态概率图4.2.3 一元线性回归的检验一元线性回归的检验(Inspection of simple linear regression equation) （1）相关系数

23、检验法）相关系数检验法 (Method of inspection of correlation coefficient)相关系数（相关系数（Correlation coefficient） ：描述变量描述变量x与与y的线性相关程度的线性相关程度定义式：定义式：xyxxyyLrLL相关系数（相关系数（Correlation coefficient）A. r 的取值范围是 -1,1B. |r|=1，为完全相关r =1，为完全正相关r =-1，为完全负正相关C. r = 0，不存在线性线性相关关系D. -1r0，为负相关E. 0r1，为正相关F. |r|越趋于1表示关系越密切；|r|越趋于0表示关

24、系越不密切相关系数（相关系数（Correlation coefficient）相关系数检验相关系数检验(inspection of correlation coefficient) n对于给定的显著性水对于给定的显著性水平平，查相关系数临，查相关系数临界值界值rminn当当 ，说明说明x与与y之间存在显著的线性之间存在显著的线性关系关系nm为自变量数，为自变量数，n为为样本数样本数 minrr第一版208页第二版224页例例4-2 试用相关系数检验法对例试用相关系数检验法对例4-1中得中得到的经验进行显著性检验到的经验进行显著性检验(=0.05)(P49)52221( )76.0765 3.7

25、167.033yyiiLyn y 2221( )1905 5.633.2nxxiiLxn x 1119.235 5.6 3.71615.182nxyiiiLx ynxy 15.1820.99433.2 7.033xyxxyyLrL L当0.05，m=1，n5时，查得相关系数临界值rmin0.8783。所以rrmin，所得的经验公式有意义。 均可均可调用内调用内置函数置函数（2）F检验检验 （FTest）离差平方和离差平方和 (Sum of squares)n总离差平方和：总离差平方和：n(Total variation)n回归平方和（由于回归平方和（由于x的变化而引起的变化而引起y相应的变化）

26、相应的变化） ：n(Sum of squares for regression)n残差平方和残差平方和 ：n(Sum of squares for residual error )n三者关系：三者关系：21()nTiyyiSSyyL221()nRxxxyiiSSyyb LbL21()neiiiS SyyTReSSSSSS变差的分解(The decomposition of variations) yxy10yyyyyy),(iiyx离差平方和的分解(The decomposition of variations) niiniiniiyyyyyy121212自由度自由度(Degree of fr

27、eedom) nSST的自由度的自由度 ：dfTn1nSSR的自由度的自由度 ：dfR1nSSe的自由度的自由度 ：dfen2n三者关系：三者关系： dfT dfR dfe均方均方 (Mean squares)RRReeeSSdfSSdfMSMSF检验检验 (F-test)F服从自由度为服从自由度为(1,n-2)的的F分布分布n给定的显著性水平给定的显著性水平下下 ，查得临界值：，查得临界值： F(1,n-2) n若若F F(1,n-2) ，则认为，则认为x与与y有明显的线性有明显的线性关系，所建立线形回归方程有意义关系，所建立线形回归方程有意义ReMSFMS方差分析表方差分析表 (Summa

28、ry table of ANOVA)差异差异源源SSdfMSF显著性显著性回归回归SSR1MSR= SSRF= MSR/MSR 误差误差SSen-2MSe= SSe /(n-2)总和总和SSTn-1例例4-3 试用试用F检验法对例检验法对例4-1中得到的中得到的经验进行显著性检验经验进行显著性检验(P87)nLxy=15.182，Lxx=33.2，Lyy=7.033nb=0.4573nSST= Lyy=7.033nSSR=b Lxy=0.457315.182=6.943nSSe= SST-SSR=7.033-6.943=0.090(3)预报与控制(Forecasting and control

29、ling)当我们求得变量x、y之间的回归直线方程后，往往通过回归方程回答这样两方面的问题：A. 对任何一个给定的观测点x0，推断y0大致落的范围B. 若要求观测值y在一定的范围y1yy2内取值，应将变量控制在什么地方前者就是所谓的预报问题，后者称为控制前者就是所谓的预报问题，后者称为控制问题。问题。（4）残差分析）残差分析 (Analysis of residual error)n残差：残差：n残差的标准误差残差的标准误差 ：n残差标准差越小，说明曲线拟合得越好残差标准差越小，说明曲线拟合得越好 3iiyyS落在范围内的可能性为99.7iiieyy211122neiisSSenn2iiyyS落

30、在范围内的可能性为95iiyyS落在范围内的可能性为684.3 多元线性回归分析多元线性回归分析(Multi-variables linear regression analysis)4.3.1 多元线性回归多元线性回归方程方程的建立的建立(The establishing of multi-variables linear regression equation ) （1）多元线性回归形式）多元线性回归形式(The form of multi-variables linear regression)n试验指标（因变量）试验指标（因变量）y与与m个试验因素（自变量）个试验因素（自变量） xj（

31、j=1,2,m）n多元线性回归方程：多元线性回归方程：n偏回归系数：偏回归系数：12mbbb，.，mmxbxbxbay.2211（2）回归系数的确定）回归系数的确定(Definition of regression coefficient)n根据最小二乘法原理根据最小二乘法原理 ：求偏差平方和最小时的回归系数：求偏差平方和最小时的回归系数n偏差平方和：偏差平方和：n根据：根据： 得到正规方程组，正规方程组的解即为回归系数。得到正规方程组，正规方程组的解即为回归系数。221 12211()(.)nniimmiiiQyyyab xb xb x0jQb0Qa1 12211 1221111 12221

32、21 12212.102.02.02.0niiimmiiniiimmiiiniiimmiiiniiimmimiimQyab xb xb xaQyab xb xb xxbQyab xb xb xxbQyab xb xb xxb1122111121112121111111221122222111111111.nnnniimmiiiiiinnnnniiiimimiiiiiiiinnnnniiiimimiiiiiiiinnmiimiiinabxbxbxyaxbxbx xbx xx yaxbx xbxbx xx yaxbx x222111.nnnimimmimiiiiibx xbxx y引用内置函数解决

33、建立方程组麻烦njjii=1nii=1nn22jjjijjii=1k=11x =x , j=1,2,m (AVERAGE (4-32)n1 y=y , i=1,2,n(AVERAGE (4-33) n L =(x -x ) =(x如果令：此处可引用内置函数）此处可引用内置函数）2jnnjkkjjijkikjikijki=1i=1jyj)-n(x ) ,j=1,2,m (DEVSQ(4-34) L =L =(x -x )(x -x )=(x x )-nx x , j,k=1,2,m (jk) (COVAR (4-35) L = (x此处可引用内置函数）此处可引用内置函数）nnijijiiji=1

34、i=1-x )(y -y)=(x y )-nx y, j=1,2,m (COVAR (4-36) 此处可引用内置函数）则上述的正规方程组可以变为(证明略)112211 11221121 1222221 122mmmmymmymmmmmmyayb xb xb xL bL bL bLL bL bL bLL bL bLbL 在某化合物的合成试验中，为了提高产量，选取了原料配比(x1)、溶剂量(x2)和反应时间(x3)三个因素，试验结果如表4-6所示。试用线性回归模型来拟合试验数据。解法1：依题意，试验次数依题意，试验次数n7，因素数，因素数m3。本例要求用最。本例要求用最小二乘法求出三元线性回归方程

35、中的系数。根据（小二乘法求出三元线性回归方程中的系数。根据（4-32）式，先进行有）式，先进行有关计算，如表关计算，如表4-6所示。根据所示。根据4-31可得正规方程组为：可得正规方程组为： 77771122331111777772111212313111111777722112223232111117773113223111iiiiiiiiiiiiiiiiiiiiiniiiiiiiiiiiiiiiiiiiiinabxbxbxyaxbxbx xbx xx yaxbx xbxbx xx yaxbx xbx x7233311niiiiibxx y此法麻烦不此法麻烦不提倡！提倡！n将表4-7中的有关

36、数据代入上式，可得如下方程组 （或利用式4-38快速得到！见下页）123123123123715.4133142.57815.438.36309.432.25.912133309.42779276.549.5461432.2276.535.005.681abbbabbbabbbabbb解得解得1230.197,0.0455,0.00377,0.0715abbb 1230.1970.04550.003770.0715yxxx规划求解规划求解也可以通过利用内置函数来设立方程组1231231111221331y2112222332y3113223333y=y-b x -b x -b xL b +L

37、b +L b =LL b +L b +L b =LL b +L b +L b =La123123123123=0.3683-2.2b -19b -2.0b4.48b +16.8b +1.4b =0.24016.8b +252b +10.5b =0.5621.4b +10.5b +7.0b =0.525a1221233231131y2y3yL =L =16.8L =L =10.5L =L =1.4L =0.240L =0.562L =0.525解法解法2：用数据：用数据分析来解题，推分析来解题，推荐方法荐方法4.3.2多元线性回归方程检验多元线性回归方程检验(Inspection of mult

38、i-variables linear regression equation) （1） F检验法（检验法（FTest） n总平方和：总平方和： n回归平方和：回归平方和： n残差平方和：残差平方和：n方差分析表：方差分析表：(接下页接下页) 22211()nnTyyiiiiSSLyyyny21 1221().nRyymmyiiSSyybLb Lb L21()neiTRiiSSyySSSSnF服从自由度为（服从自由度为（m，nm1）的分布）的分布 n给定的显著性水平给定的显著性水平下下 ，若，若FF(m，nm1 )，则，则y与与x1，x2，xm间有显著的线性关系间有显著的线性关系 （2）相关系数

39、检验法）相关系数检验法(Method of inspection of correlation coefficient) n复相关系数（复相关系数（multiple correlation coefficient）nR ：反映了一个变量：反映了一个变量y与多个变量（与多个变量（ x1，x2，xm ）之间线性相关程度）之间线性相关程度 n计算式计算式 ：nR一般取正值一般取正值 ，0R1 21eRTTSSSSRSSSS 12211()()()()niiinniiiiyyyyRyyyynR1时，时，y与变量与变量x1，x2，xm之间存在严格的之间存在严格的线性关系线性关系nR0时，时，y与变量与变

40、量x1，x2，xm之间不存在线性之间不存在线性相关关系相关关系 n当当0R1时，变量之间存在一定程度的线性相时，变量之间存在一定程度的线性相关关系关关系 nRRmin时时 ，y与与x1，x2，xm之间存在密切的之间存在密切的线性关系线性关系P56.例4-5 试检验例4-4中线性回归方程的显著性(=0.05)n2ii=11y2y3yn222Tii=1R11y22y33y (1) F 4-4 y =1.014, y=0.3683, L =0.240, L =0.562, L =0.525 SS = y -ny =1.014 -7 0.3683 =0.0645 SS =b L +b L +b L =

41、0.0455 0.240-0.00377 0.562+0.0解：检验由例可知，e715 0.525 =0.0463 SS0.06450.04630.01824-9TRSSSS方差分析表如表所示。表4-9 例4-5方差分析表差异源 SSdfMSFF0.05(3,3)显著性回归0.0463m=30.01542.549.28残差0.0182n-m-1=30.00607总和0.0645n-1=6P56.例4-5 试检验例4-4中线性回归方程的显著性(=0.05)n222Tii=1R11y22y33yRT (2) SS = y -ny =1.014 -70.3683 =0.0645 SS =b L +b

42、 L+b L =0.0455 0.240-0.003770.562+0.0715 0.5250.0463SS0.0463 R=0.847SS0.0645 0解：复相关系数检验由于所以：对于给定的显著性水平 min.05m=3n=75(224)R=0.950 44F，自变量个数，试验次数，查附录页 得对应的临界值所以例 所建立的线性回归方程与试验数据拟合得不好，这与 检验的结论是一致的。4.3.3因素主次的判断因素主次的判断(Judgment of primary and secondary of factors)（1）偏回归系数的标准化）偏回归系数的标准化(Standardization of

43、 partial regression coefficient) n设偏回归系数设偏回归系数bj的标准化回归系数为的标准化回归系数为Pj：nPj越大，则对应的因素（越大，则对应的因素（xj）越重要）越重要 jjjjyyLPbL（2） 偏回归系数的偏回归系数的F检验检验(Method of inspection of partial regression coefficient F) n计算每个偏回归系数的偏回归平方和计算每个偏回归系数的偏回归平方和SSj ： SSjbjLjy nSSj的大小表示了因素的大小表示了因素xj对试验指标对试验指标y影响程度，对应的自影响程度，对应的自由度由度dfj1

44、n 服从自由度为（服从自由度为（1，nm1）的）的F分布分布 n如果若如果若F F(1，nm1 )， ，则说明，则说明xj对对y的影响是不的影响是不显著的，这时可将它从回归方程中去掉，变成（显著的，这时可将它从回归方程中去掉，变成（m1）元线性方程元线性方程 jjjeeMSSSFMSMS（3）偏回归系数的）偏回归系数的t检验检验(Method of inspection of partial regression coefficient t) n 计算偏回归系数计算偏回归系数 jb的标准差：的标准差： jebjjSSsLn t值的计算值的计算 ：2jjjjjjjjjbeeejjbbb LSSt

45、FsMSMSMSL单侧单侧t分布表分布表 n 检验：检验： 2(1,1)tnm如果如果 2(1,1)jttnm说明说明xj对对y的影响显著，否则影响不显著，的影响显著，否则影响不显著， 可从数据分析可从数据分析计算结果中直接计算结果中直接得到得到t值值P.57例例4-6某种产品的得率某种产品的得率y与反应温度与反应温度x1，反应时间，反应时间x2及某反及某反应物的浓度应物的浓度x3有关，今得如表有关，今得如表4-10所示的试验结果，设所示的试验结果，设y与与x1，x2和和x3之间成线性关系，试求之间成线性关系，试求y与与x1，x2和和x2之间的三元线性之间的三元线性回归方程，并判断三因素的主次

46、。回归方程，并判断三因素的主次。 888811223311118888821112123131111118888822112223232111118883113223111iiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiinabxbxbxyaxbxbx xbx xx yaxbx xbxbx xx yaxbx xbx x88233311iiiiibxx y123123123123a=9.99-80b -20b -2b800b =39800b =518b =10.5 a=2.1875, b =0.04875, b =0.06375, b =1.3125 y=2.1

47、875+0.04875x +0.06375x +1.3125x解方程组得：所以线性回归方程表达式为：也可以通过利用内置函数来设立方程组1231231111221331y2112222332y3113223333y=y-b x -b x -b xL b +L b +L b =LL b +L b +L b =LL b +L b +L b =La123123=9.99-80b -20b -2.0b800b =39800b =518b =10.5a1231122331221133123321y2y3yyyy=9.99 x =80 x =20 x =2 L =800 L =800L =8 L =L =0

48、L =L =0 L =L =0L =39 L =51L =10.5 L =19.07用数据分析来用数据分析来解题，推荐方法解题，推荐方法用常规用常规分析法分析法(2)方差分析及因素主次的确定TyyR11y22y33y111y SS =L =19.07 SS =b L + b L + b L =0.04875 39+0.06375 51+1.3125 10.5 =18.93 SS =b L =0.总平方和：回归平方和：偏回归平方和：222y333yeTR04875 39=1.90 SS =b L =0.06375 51=3.25 SS =b L =1.3125 10.5=13.78 SS =SS

49、 -SS =19.07-18.93=0.14 残差平方和：4.4 非线性回归分析(Nonlinear regression analysis) 4.4.1 一元非线性回归分析(Simple nonlinear regression analysis) n(1)(1)通过线性变换，将其转化为一元线性回归问题 ：直角坐标中画出散点图；推测y与x之间的函数关系；线性变换；用线性回归方法求出线性回归方程；返回到原来的函数关系，得到要求的回归方程 非线性关系线性化的几种情况 对于指数曲线 ，令 , 可以将其转化为直线形式： ， 其中， ； 对于对数曲线 ，令 ， ，可以将其转化为直线形式： ； 对于幂函

50、数曲线 ，令 ， ，可以将其转化为直线形式： 其中， ； bxdey xbayxbaylnxbaybdxy xbayyylnxx dalnyy xxlnyylnxxlndaln 对于双曲线 ，令 ，转化为直线形式： ； 对于S型曲线 ，可 转化为直线形式： ； 对于幂乘积： ，只要令 ，就可以将其转化为线性形式： 其中， ；xbay1xbayxxexyybeay,1,1令xbaykkxxdxy2121kkxxxy22110 xxyy1,1,ln,ln,ln,ln2211kkxxxxxxyydln0双曲线(Hyperbolic line)xxy基本形式：线性化方法线性化方法令：令：y = 1/y

51、，x= 1/x, 则有则有y = + x图像图像幂函数曲线(Power function curves)基本形式：线性化方法两端取对数得：lg y = lg + lg x令：y = lgy，x= lg x，则y = lg + x图像xy 对数曲线(Logarithmic curves )基本形式：线性化方法x= lnx , 则有y = + x图像xyln指数曲线(Exponential curves)基本形式：线性化方法两端取对数得：lny = ln + x令：y = lny，则有y = ln + x图像xeyS 型曲线(S-type curves)基本形式：线性化方法令：y = 1/y，x=

52、 e-x, 则有y = + x图像xye1气体的流量与压力之间的关系一般由经验公式表示(M=cpb)，式中M是压强为p时每分钟流过流量计的空气摩尔数，c，b为常数。今进行一批试验，得到如表4-14所示的一组数据。试由这组数据定出常数c，b，建立M和p之间的经验关系式，并检验其显著性。（0.05） 解：（1）回归方程的建立经验公式不是线性方程，如果对其两边同时取常用对数 令y=lgM,x=lgp,a=lgcy=a+bx数据计算表见下页。lglglgMcbP0.1442x 0.2045y 1 0210 .4 8 1 2iix10210.4989iiy1010.1466iiix y102221( )

53、0.4812 10 0.14420.2733xxiiLxn x1010.1466 10 0.1442 ( 0.2045) 0.1483xyi iiLxynxy 102221( )0.4989 10 ( 0.2045)0.0807yyiiLyn y 0.14830.54260.2733xyxxLbL0.20450.5426 0.14420.2827aybx 0.54260.2827yx0.282710100.5216ac0.54260.5216MP调用调用内置内置函数函数或直或直接利接利用数用数据分据分析法析法(2)回归方程显著性检验a. 相关系数检验b. F检验0.14830.99860.27

54、33 0.0807xyxxyyLrL L根据0.05，n10，m1查相关系数临界值表，得rmin0.6319r，所以所求得的经验公式有意义。 0.1483xyL0.0807yyL0.0807TyySSL0.5426 0.14830.0805RxySSbL0.08070.08050.0002eTRSSSSSS4.4.2一元多项式回归(要求深入理解要求深入理解) Simple polynomial regression 不是所有的一元非线性函数都能转换成一元线性方程，但任何复杂的一元连续函数都可用高阶多项式近似表达 ：可以转化为多元线性方程： 212.mmyab xb xb x1122.mmyab

55、 Xb Xb X设有一组试验数据如表4-17所示，要求用二次多项式来拟合这组数据。（0.05） 解：先在直角坐标系中根据这9组数据标出9个点，如图4-3所示，这些点近似于抛物线分布，故可设该多项式方程为：。212yab xb x如果设x1=x,x2=x2,则上述多项式可以变为y=a+b1x1+b2x2的多元线性方程形式，正规方程组如下：1122111211121211111221122221111nnniiiiiinnnniiiiiiiiiinnnniiiiiiiiiinabxbxyaxbxbx xx yaxbx xbxx y数据计算表1212121212 4189a53b +381b =77

56、53a+381b +3017b =496381a+3017b +2531b =3596 a=-1.716, b =3.750, b =-0.279 y=-1.716+3.750 x -0.279x由计算表 可得以下正规方程组：解方程组得：所以回归方程表达式为：检验线性回归方程的显著性21727niiy8.56y 11114969 5.9 8.5641.5nyiiiLx ynx y 222135969 42.3 8.56337.2nyiiiLx ynx y 22217279 8.5667.5nTiiSSyny 11223.75041.50.279 337.261.5,RyySSb Lb L67.

57、561.56.0eTRSSSSSS表4-19 例4-8方差分析表差异源 SSdfMSFF0.05(2,6)显著性回归61.5m=230.830.85.14残差6.0n-m-1=61.0总和67.5n-1=8RTmin2RSS /SS61.5/67.5=0.9550.05n=9 m=25R=0.795F y=-1.716+3.750 x-0.279x如果用复相关系数检验则有对于给定的显著性水平 ， 自变量个数时，查附录 得，所以所建立的线性回归方程与试验数据拟合得很好。这与 检验的结论是一致的。因此所求的二次多项式为：用数据分析来解 4.4.3多元非线性回归-Multi-variables no

58、nlinear regression 如果试验指标y与多个试验因素xj之间存在非线性关系，如二次回归模型 ：211mmjjjjjjkjkjijkyab xb xb x x P.100例4-9在例4-4中，如果产品的收率(y)与三个因素原料配比(x1)、溶剂量（x2）和反应时间（x3）三个因素之间的函数关系近似满足二次回归模型：（其中溶剂用量这个因素对试验指标影响很小，所以在建立回归方程时可以不考虑）。试通过回归分析确定系数。（0.05） 设X1x3，X2x32 ，X3x1x3，B1b3，B2b33，B3b13，则上述方程可转换成了如下的线性形式： 对原始试验数据的整理和计算见表4-20和表4-

59、21。 2333331313yab xb xb x x112233yaB XB XB Xn由表4-20和4-21可得： 又有:1232.0,5.0,4.6,0.3683yXXX722211111()35.0072.07.00iiLXn X 722222221()292.2507 5.0117.25iiLXn X 722233331()232.687 4.684.56iiLXn X 712211212198.0072.0 5.028.0iiiLLX XnX X 7233223231247.457 5.0 4.686.45iiiLLX XnX X 731131313184.707 2.0 4.62

60、0.3iiiLLX XnX X 711115.680572.0 0.36830.5423yiiiLX ynX y 7222114.79637 5.0 0.36831.9058yiiiLX ynX y n于是三元线性回归方程为：7333113.76697 4.6 0.36831.9076yiiiLX ynX y 112233111122133121122223323113223333yyyayB XB XB XL BL BL BLL BL BL BLL BL BL BL1231231231230.36832.05.04.67.0028.020.30.542328.0117.2586.451.90