试验设计与数据处理讲稿

第4章实验数据的回归分析4.1基本概念方差分析研究两个变量间的明显性问题回归分析解决变量之间有关关系的问题——由实验成果建立数学模型(1)拟定性关系—对应关系、函数关系。其变量称拟定性变量。(2)有关关系—对应的变量称随机变量。没有一一对应的函数关系，但有统计规律—散点图、回归方程一元回归分析——研究单因素与实验指标间有关关系多元回归分析——研究多因素与实验指标间有关关系线性回归、非线性回归——有关关系为线性或非线性14.2一元线性回归分析—最简朴的线性回归分析4.2.1一元线性回归方程的建立设有一组试验数据xi，yi(i=1，2，…，n)，其中x是自变量，y是因变量。若x，y符合线性关系，或已知经验公式为直线形式，即：称为变量x，y的一元线性回归方程。

a,b称为回归系数；是由xi代入回归方程的计算值，称为回归值。2一元线性回归方程的建立（续）与yi之间的偏差称为残差，用ei表示，则有：残差平方值（考虑到残差有正有负）之和为：显然，只有残差平方和最小时，回归方程与实验值的拟合程度最佳。残差平方和SSe为a，b的函数，即：SSe=f(a,b)为使SSe值达成极小，根据极值原理，只要对上式分别对a，b求偏导数，并令其等于零，求解方程组即可求得a，b之值————最小二乘法原理。3一元线性回归方程的建立（续）根据最小二乘法，能够得到：对方程组求解，即可得到回归系数a,b的计算式：正规方程组4一元线性回归方程的建立（续）为了方便计算，令：于是：4.2.2一元线性回归效果的检查——检查回归方程的可靠性或可信性有关系数检查法、F检查即方差分析法、残差分析法54.2.2.1有关系数检查法有关系数用于描述变量x与y的线性有关程度的系数：回归系数b与有关系数r的关系为：b与r有相似的符号决定系数——有关系数的平方r26有关系数的特点：0≤|r|≤1完全线性相关完全线性相关有一定的线性关系

有一定的线性关系

无线性关系

无线性关系

7有关系数检查：有关系数r越靠近1，x与y的线性有关程度越高，然而r的大小未能回答其值达成多大时，x与y之间才存在线性有关，因此须对有关系数r进行明显性检查：（1）根据给定的明显性水平a和实验数据组数n（n＞2），从附录5（P.208）查取有关系数临界值rmin。表中，m为自变量的个数：一元回归m=1;二元回归m=2（2）明显性检查：如果|r|≥rmin线性有关明显；如果|r|＜rmin线性有关不明显。更确切地检查：如果|r|≥rmin(0.01)线性有关非常明显;如果rmin(0.05)≤|r|＜rmin(0.01)线性有关明显;如果|r|＜rmin(0.05)线性有关不明显。84.2.2.2F检查—方差分析法(1)计算离差平方和回归平方和—回归值与算术平均值的偏差总离差平方和—试验值yi与其算术平均值的偏差残差平方和—试验值yi与回归值的偏差三种平方和之间有下述关系：

SST＝SSR＋SSe

SSR还可以用更简单的公式计算:

9(2)计算自由度

总离差平方和SST的自由度为：dfT=n－1回归平方和SSR的自由度为：dfR

=1残差平方和SSe的自由度为：dfe=n－2显然，三种自由度之间的关系为：dfT

=dfR+dfe

(3)计算均方——离差平方和/自由度回归平方和的均方残差平方和的均方(4)F检验服从自由度为(dfR,dfe)的F分布10表4-3一元线性回归方差分析表1.若F>F0.01(dfR,dfe)，称x与y有非常明显的线性关系，用两个“**”号表达2.若F0.05(dfR,dfe)<F<F0.01(dfR,dfe)，称x与y有明显的线性关系，用一种“*”号表达；3.若F<F0.05(dfR,dfe)，则称x与y没有明明显的线性关系，回归方程不可信。差异源SSdfMSF显著性

回归SSR1MSR=SSRMSR

/MSe误差SSen-2MSe=SSe/(n-2)总和SSTn-1114.2.2.3残差分析试验值yi与回归值的偏差称为残差：——用残差来估算实验值的范畴残差的标准误差可按下式计算：

或

如果试验的随机误差服从正态分布，则：试验值yi落在之内的概率为95％；试验值yi落在之内的概率为99％。

可见，残差标准差越小，说明曲线拟合得越好。124.3多元线性回归分析—多个变量的线性回归分析设试验指标(因变量)y与多个试验因素（自变量）xj,(j=1，2，…，m）之间的近似函数关系式为：则上式称为因变量y关于自变量x1，x2，…，xm的多元线性回归方程，其中b1，b2，…，bm称为偏回归系数设y有n组试验数据x1i,x2i,…,xmi,yi(i=1,2，…,n),如果将自变量x1i，x2i，…，xmi

，代入上述回归方程，就可以得到对应的函数计算值，即回归值。残差平方和为：

4.3.1多元线性回归方程13偏回归系数的拟定：根据最小二乘法原理,要使Q达到最小,应满足以下条件：由此可以得到如下的正规方程组:14方程组的解就是偏回归系数注意：为了使正规方程组有解，规定n≥m，即实验次数应不不大于自变量的个数。4.3.2多元线性回归方程的明显性检查4.3.2.1F检查法总平方和：回归平方和：残差平方和：

15表4-8多元线性回归方差分析表差异源SSdfMSF显著性

回归SSRmMSR=SSR/mMSR

/MSe误差SSen-m-1MSe=SSe/(n-m-1)总和SSTn-11.若F>F0.01(dfR,dfe)，称y与x1，x2，…，xm有非常明显的线性关系，用两个“**”号表达2.若F0.05(dfR,dfe)<F<F0.01(dfR,dfe)，称y与x1，x2，…，xm有明显的线性关系，用一种“*”号表达；3.若F<F0.05(dfR,dfe)，则称y与x1，x2，…，xm没有明明显的线性关系，回归方程不可信。164.3.2.2有关系数检查法一元线性回归:有关系数r—反映变量y与x的线性有关程度多元线性回归:复有关系数R—反映变量y与多个变量xj之间的线性有关程度复有关系数R的定义式：多元线性回归方程的决定系数：复相关系数的平方R2。—反映了回归平方和SSR在总离差平方和SST中所占的比重。17复有关系数R的特点：0≤R≤1(与一元线性回归类似)当R=1时，y与x1，x2，…，xm存在严格的线性关系；当R=0时，y与x1，x2，…，xm不存在任何线性有关关系，但可能存在其它非线性关系；当0＜R＜1时，变量间存在一定程度的线性有关关系。当m=1，复有关系数R与一元线性有关系数r相等。修正自由度的决定系数明显性检查：如果|r|≥rmin(0.01)y与x1，x2，…，xm有非常明显的线性关系;如果rmin(0.05)≤|r|＜rmin(0.01)有明显的线性关系;如果|r|＜rmin(0.05)线性有关不明显。184.3.3偏回归系数的明显性检查——因素主次的判断办法“最优”回归方程的条件：(1)回归方程的残差平方和最小；(2)对y有明显影响的变量不能遗漏；(3)回归方程中含有变量应尽量少。用偏回归平方和SSj

来判断：计算偏回归平方和SSj

：SSj愈大，表示xj对y影响程度就愈大。服从自由度为(1,dfe)的F分布式中：(2)F检验：19

4.4非线性回归分析

已经学过“线性回归分析”办法：一元、多元线性回归“非线性回归分析”“线性回归分析”转化要解决两个问题：一、如何拟定非线性函数的具体形式？不同的非线性函数有不同的线性化形式二、如何预计函数中的参数？“线性回归分析”已经解决——仍然是最小二乘法核心：将非线性问题线性化解决20

4.4.1一元非线性回归分析转化为一元线性回归问题的具体做法：①根据实验数据，在直角坐标中画出散点图；②根据散点图，推测y与x之间的函数关系；③选择适宜的变换，使之变成线性关系；④用线性回归办法求出线性回归方程；⑤返回到原来的函数关系，得到规定的回归方程。——转化为一元线性回归21惯用非线性函数的线性化变换224.4.2一元多项式回归常用非线性函数线性化容易复杂非线性函数线性化难任何