《计算化学》-计算化学-第3章

3.1多元线性回归3.1.1多元线性回归的原理在化学和化工的很多问题中.因变量往往是多个自变量的函数。记y为因变量.当有m个自变量x1,x2,...,xm时，多元线性回归的理论模型为式中，b0，b1，b2，...，bm是待定的体系参数(又称为回归系数)，e是随机误差。在测量中.自变量x1，x2，...，xm的值被看做是无误差的准确值.因变量y则有随机误差。与一元回归分析相似.对测量值也要作以下假定:①测试中误差没有系统性;②各次观测相互独立;③观测误差服从正态分布。如果取n个样本进行测量.并且n＞m.得到n组数据(yi，xi1，xi2，...，xim)(i=1,2,...,n)，见表3.1。下一页返回3.1多元线性回归可得多元线性回归的有限样本模型式(3.2)是含有n个方程的m+1元一次方程组令，，(一般约定，用普通斜体小写字母表不标量，粗斜体小写字母表不列向量，粗斜体大写字母表不矩阵.上标“T”表不矩阵或向量转置).则式(3.2)可改写为如下矩阵方程式中y，e和xj都是n维列向量，粗体数字1表示各元索值均为1的n维列向量,b是m+1维列向量,X=(l,x1,x2,...,xm)是n行m+1列矩阵。上一页下一页返回3.1多元线性回归设为yi的估计值.即设向量为向量y的估计量.即设或则或上一页下一页返回3.1多元线性回归多元线性回归分析的目标就是找出最佳的估计值bj(j=0,1,2,...,m)或估计向量b.使或使式(3.8)中的Q是误差平方和.亦即误差的方差。多元线性回归分析的目标就是找出最佳估计向量b.使误差平方和Q达到最小。通过回归得到的最小Q值称为剩余平方和或残余方差。上一页下一页返回3.1多元线性回归求解最小值问题可应用最小二乘法。即对Q(b)=e^Te求关于b的导数.并令之为零.从而解出b具体解法如下.令在上式的推导中.因b^TX^Ty和y^TX^Tb是标量.故有b^TX^Ty=y^TXb。将上式对b求导并令之为零.可得上一页下一页返回3.1多元线性回归若用标量表不.则求导式可写为整理式(3.11).得上一页下一页返回3.1多元线性回归式(3.12)为一正规方程(正规方程是末知数与方程数相等的方程组)。注意在该方程中X是已知数据矩阵.Y是已知数据向量,b是待求的末知向量。若用标量表T.则该正规方程为如下形式的含，m+1个方程的m+1元一次方程组。上一页下一页返回3.1多元线性回归由正规方程可解得b的估计量为用式(3.14)计算回归系数向量b的估计量的方法有多种其中应用Matlab软件进行编程计算较为简单Matlab计算程序为在一些实际问题中.有的问题只需求出b的估计量即可.有的问题则还需用求得的b对自变量x1，x2，...，xm已知的体系的有关响应值y进行预报上一页下一页返回3.1多元线性回归当自变量只有一个时.多元线性回归模型就简化为一元线性回归模型。一元线性回归的有限样本模型为式中b0，b1是待定的回归系数式(3.17)可改写为如下矩阵方程式中.X=(1,x)为n行2列矩阵.粗体数字1表示各元索值均为1的n维列向量，b=(b0,b1)T是回归系数向量一元线性回归分析的目标同样是找出最佳的估计向量b.使上一页下一页返回3.1多元线性回归应用最小二乘法.得求解b0和b1的正规方程为上一页下一页返回3.1多元线性回归由正规方程解得b0和b1的估计值为在多元校正分析中.为方便运算和便于对数据的讨论分析.常‘常将数据进行中心化处理后再进行有关的计算和分析讨论令上一页下一页返回3.1多元线性回归经式(3.22)定义的单次偏差数据.称为中心化数据yi*，xij*，

相应的向量y*，xj*，

称为中心化向量。数据的中心化相当于将数据以平均值为原点进行了平移。数据中心化后不会改变数据间的相对位置.也不会改变变量间的相关性。中心化向量的一个重要性质就是向量中的各元素之和等于零将方程组(3.13)的第一个方程式两边同除以n.则可得把式(3.23)再代入式(3.2)的各式中.并结合式(3.22).则多元线性l回归的有限样本模型可转化为如下形式上一页下一页返回3.1多元线性回归令b=(b1,b2,…,bj,…,bm)T，则式(3.24)可改写为如下矩阵方程式中,y*,e和xj*都是n维列向量,b是m维列向量，X*=(x1*,x2*,…,xm*)是n行m列矩阵。设为yi*的估计值.即设向量为向量y*的估计量.即设或上一页下一页返回3.1多元线性回归则或于是有应用最小二乘法.可得求解b=(b1,b2,…,bj,…,bm)T的正规方程为上一页下一页返回3.1多元线性回归可以看出.式(3.31)与式(3.12)在形式上是相似的.但要注意式(3.31)中的向量b是不包含b0的m维列向量。若用标量表不.则该正规方程为如下形式的含m个方程的m元一次方程组。上一页下一页返回3.1多元线性回归根据方差和协方差的定义.变量x的方差sxx及变量x与变量y的协方差sxy为上一页下一页返回3.1多元线性回归因此正规方程组(3.32)又可写成如下形式由正规方程可解得b的估计量为可以看出，式(3.36)与式(3.14)在形式上也是相似的上一页下一页返回3.1多元线性回归3.1.2多元线性回归模型的效果分析将式(3.14)代入式(3.5).可得估计量与实验量y之间的关系为式(3.37)表不了估计值与实验值y之间的关系。与y有可能相符.也有可能不相符，若相符则表明估计结果好，若不相符则表明估计结果不理想对估计结果的优劣应进行统计检验。上一页下一页返回3.1多元线性回归1.多元线性回归关系的显著性检验(1)方差分析方差分析是统计学中的一个非常重要的方法。方差分析将受一种或多种因索(自变量)影响而产生的观测值(因变量)分解为各个因索的单独作用或交互作用。在回归分析中能确定输入变量与响应量之间的关系的显著性。其步骤是先求出各因索的方差、自由度和均方.再用F检验确定各因索方差比的显著性为便于对多元线性回归模型进行统计检验计算.可先将有关数据按式(3.22)进行中心化处理.即上一页下一页返回3.1多元线性回归应用中心化数据可计算变量y的方差syy和其估计值

的方差式中syy，可称为y的总方差;U=可称为回归方差。上一页下一页返回3.1多元线性回归可以证明.y的总方差syy与回归方差U和残余方差Q之间存在如下关系统计学上还证明了syy、U和Q的自由度分别为，n-1、m和n-m-1。求出上述方差后.将其列表即可得表3.2所不的多元线性回归方差分析表。上一页下一页返回3.1多元线性回归多元回归分析中的标准偏差用下式表示回归方差U为xi变化时，yi按回归方程作线性变化所引起的yi对的偏离平方和.残余方差Q表示除了回归模型所引起的偏离以外的所有偏离平方和。因此可以用如下的方差比来进行回归分析的显著性检验若F≤F(m,n-m-1)，则表明回归效果不显著;反之.若F＞Fa(m,n-m-1),则表明回归效果较显著.即建立的回归方程很好地反映了变量y与x1，x2，...，xm之间的变化关系。上一页下一页返回3.1多元线性回归(2)复相关系数多元线性回归方程式(3.5)或式(3.37)的优劣可用复相关系数来判断。y对x1，x2，...，xm的复相关系数厂定义为复相关系数厂反映了变量y与x1，x2，...，xm之间线性相关程度的大小。当残余方差Q=0时.复相关系数r=1.说明y与x1，x2，...，xm之间完全按线性关系变化.即y中的误差全部来自于回归方差U，因而x1，x2，...，xm等全部自变量与y完全相关。当U=0时.r=0,则y中误差全部来自于残余方差.说明此时各自变量xi的变化对y值都无影响.因而与各自变量完全无关.回归效果最差。通常情况下.复相关系数r在0~1的范围内。r越接近1则回归效果越好.r越接近0则回归效果越差。上一页下一页返回3.1多元线性回归这里特别要说明的是.上述显著性检验实质上是测定各自变量对因变量的综合线性影响的显著性.或者测定因变量与各自变量的综合线性关系的显著性。如果经过F检验.多元线性回归关系或者多元线性回归方程是显著的.则不一定每一个自变量与因变量的线性关系都是显著的.或者说每一个回归系数不一定都是显著的.这并不排斥其中存在着与因变量无线性关系的自变量的可能性。在上述多元线性回归关系显著性检验中.无法区别全部自变量中.哪些对因变量的线性影响是显著的.哪些是不显著的。因此.当多元线性回归关系经显著性检验为显著时.还必须逐一对各回归系数进行显著性检验.发现和剔除不显著的回归关系对应的自变量。另外.多元线性回归关系显著并不排斥有更合理的多元非线性回归方程的存在.这正如直线回归显著并不排斥有更合理的曲线回归方程存在一样。上一页下一页返回3.1多元线性回归2.回归系数的显著性检验前面的方差分析和复相关系数分析只说明了回归方程中全部自变量的总体效果。总体效果显著并不意味着每一个变量的效果都显著。一般情况下.在m个变量中.只要有k(k＜m)个足够显著.通常这m个变量的回归方程也就显著为了考查各自变量对回归方程的重要性.必须逐一检验各个回归系数的显著性.以判断每个自变量对因变量的线性影响是显著的还是不显著的.以便从回归方程中剔除那些不显著的自变量.重新建立更为简单的多元线性回归方程上一页下一页返回3.1多元线性回归(1)偏回归方差要检验各个回归系数的显著性.需要建立偏回归方差的概念若从m个自变量中去掉xj，用剩下的m-1个自变量进行m-1元线性回归.通过最小二乘法计算求得一个新的回归方程·并得到新的残余方差Qj和新的回归方差Uj。下标j表示去掉了自变量xj后的方差。显然有令Vj称为自变量xj的偏回归方差。Vj代表了自变量xj在原来的m元线性回归方程中的贡献。Vj越大.则相应的xj越重要。偏回归方差Vj的自由度为1。上一页下一页返回3.1多元线性回归统计学上已经证明式中，cjj是矩阵X*TX*的逆矩阵(X*TX*)-1中对角线上的第j个元素上一页下一页返回3.1多元线性回归(2)t检验t检验的表达式为服从t分布.自由度是n-m-1。式中s是按式(3.41)定义的多元回归分析中的标准偏差.即对于指定的显著水平α，从t分布表中查出与α相应的临界值tα，若计算值tj＞tα，则认为相应的xj重要。上一页下一页返回3.1多元线性回归(3)F检验为了检验自变量xj对回归的贡献.可以用如下的偏方差比来进行回归分析的显著性检验若Fj≤Fa(1,n-m-1),则表明自变量xj的贡献不显著;反之,若Fj＞Fa(1，n-m-1)，则表明自变量xj的贡献显著。回归系数显著性检验方差分析表见表3.3。上一页下一页返回3.1多元线性回归(4)偏相关系数对应于复相关系数.可以定义自变量xj的偏相关系数rj，如下或上一页下一页返回3.1多元线性回归偏相关系数rj表征了从m个变量中扣除了xj之外的其他m-1个变量的影响之后，xj与y的相关性。偏相关系数rj在0~1的范围内。rj越接近1则表明自变量xj的贡献越显著.rj越接近0则表明自变量xj的贡献越不显著。上一页下一页返回3.1多元线性回归3.自变量剔除与重新建立多元线性回归方程当对显著的多元线性回归方程中各个偏回归系数进行显著性检验都为显著时.说明各个自变量对因变量的单纯影响都是显著的。若有一个或几个偏回归系数经显著性检验为不显著时.说明其对应的自变量对因变量的作用或影响不显著.或者说这些自变量在回归方程中是不重要的.此时应该从回归方程中剔除一个不显著的偏回归系数对应的自变量.重新建立多元线性回归方程.再对新的多元线性回归方程或多元线性回归关系以及各个新的偏回归系数进行显著性检验.直至多元线性回归方程显著.并且各个偏回归系数都显著为止。此时的多元线性回归方程即为最优多元线性回!归方程。上一页下一页返回3.1多元线性回归(1)自变量的剔除当经显著性检验有几个不显著的偏回归系数时一次只能剔除一个不显著的偏回归系数对应的自变量.被剔除的自变量的偏回归系数应该是所有不显著的偏回归系数中的F值(或|t|值、或偏回归方差)为最小者。这是因为自变量之间往往存在着相关性.当剔除某一个不显著的自杏量之后.其对因变量的影响很大部分可以转加到另外不显著的自变量对因变量的影响上。如果同时剔除两个以上不显著的自变量.那就会比较多地减少回归方差.从而影响利用回归方程进行估测的可靠程度上一页下一页返回3.1多元线性回归(2)重新进行少一个自变量的多元线性回归分析一次剔除一个不显著的回!归系数对应的自变量.不能简单地理解为只须把被剔除的自变量从多元线性回归方程中去掉就行了.这是因为自变量间往往存在相关性.剔除一个自变量.其余自变量的回归系数的数值将发生改变.回归方程的显著性检验、回归系数的显著性检验也都须重新进行.也就是说应该重新进行少一个自变量的多元线性回归分析。重复上述步骤.直至回归方程显著以及各偏回归系数都显著为止.即建立了最优多元线性回归方程上一页下一页返回3.1多元线性回归3.1.3多元线性回归的应用【例3.1】在符合Beer定律的条件下.多组分体系在一定波长下的吸光度是各个组分的吸光度的线性加和。当各组分的纯物质在各波长下的吸收系数已知时.则可通过测定多组分体系在多个波长下的吸光度来测定体系中各组分的浓度。现设有一个三组分混合物体系.各组分的纯物质在9个不同波长下的吸收系数和该体系在这9个不同波长下的吸光度见表3.4。试求该混合物体系中各组分的浓度。解：设混合物的吸光度向量a=(a1，a2，...，a9)T，组分j的吸光系数向量kj=(k1j，k2j，...，k9j)T，混合物的组分浓度向量。c=(c1，c2，c3)T，则此问题的线性回归模型为上一页下一页返回3.1多元线性回归浓度向量c即为待求的回归向量由最小二乘法求得正规方程为从而有将表中数据代入.求得即三种组分的浓度分别为1.153×10-5mol/L、0.442×10-5mol/L和0.786×10-5mol/L。上一页下一页返回3.1多元线性回归【例3.2】表3.5列出了某化工产品在不同反应压力x1和反应温度x2下的产率y。试求产率与反应压力和反应温度的二元线性回归方程.并对模型进行效果分析。解:由表中数据.可得均为20维的列向量y,x1和x2.则此问题的线性回归模型为上式中回归系数向量b=(b0,b1,b2)T是3维列向量.误差向量e是20维列向量。为简化运算，先将数据进行中心化处理由计算可得各量的平均值为上一页下一页返回3.1多元线性回归由此可得上一页下一页返回3.1多元线性回归则此问题的线性回归模型可简化为上式中y*是20维列向量,X*是20行2列矩阵.回归系数向量b=(b1，b2)T是2维列向量。由最小二乘法求得正规方程为上一页下一页返回3.1多元线性回归计算可得即上一页下一页返回3.1多元线性回归得二元线性回归方程为有关方差的计算结果见表3.6。查表有F=59.821＞F0.01(2,17)=6.11，说明回归效果较显著.建立的回归方程很好地反映了变量y与x1，x2之间的变化关系。上一页下一页返回3.1多元线性回归复相关系数接近1.进一步说明回归效果较显著。现考查各自变量对回归方程的贡献的显著性。压力和温度的偏方差比分别为查表得上一页下一页返回3.1多元线性回归计算表明.F2=1.1＜F0.05(1,17)=4.45.说明温度自变量x2对回归的贡献不显著。由F1=118.4＞F0.01(1,17)=8.40可知压力自变量x1对回归的贡献非常显著。压力和温度的偏相关系数分别为偏相关系数进一步表明了温度自变量x2对回归的贡献不显著.压力自变量x1对回归的贡献则非常显著。上一页下一页返回3.1多元线性回归【例3.3】某类型有机化合物的某种活性y受到其结构信息中的三种因索x1，x2和x3的影响。根据54种化合物的实测数据资料.经过整理计算.得到各量的平均值和y的总方差为再经过数据中心化和最小二乘法处理.得到正规方X*Ty*=X*TX*b中的有关矩阵数据为上一页下一页返回3.1多元线性回归①建立y对x1，x2，x3的三元线性回归方程=b0+b1x1+b2x2+b3x3。②试对建立的三元线性回归方程进行效果分析。③已知若将y仅对x1和x3进行回归.得到的二元线性回归方程为且已知二元线性回归时的矩阵X*TX*的逆矩阵对角线上的元索分别为14.1839和7.8834，x1，x3的偏回归方差和残余方差分别为14.1839，7.8834和47.2950.试问此二元线性回归方程与建立的三元线性回归方程何者更佳?上一页下一页返回3.1多元线性回归解：①由X*Ty*=X*TX*b可得或于是得到关于y与x1，x2，x3的三元线性回归方程为上一页下一页返回3.1多元线性回归②由和，可得有关方差计算结果列于表3.7中上一页下一页返回3.1多元线性回归利用方差分析表.进行F检验。查F值表得F0.01(3,50)=4.20.因为F＞F0.01(3,50)，α＜0.01。表明y与x1、x2、x3之间存在极显著的线性关系.或者x1，x2，x3对y的综合线性影响是极显著的。以上对三元线性回归关系的显著性检验表明结果极为显著。现对三个偏回归系数分别进行显著性检验上一页下一页返回3.1多元线性回归t检验法:首先计算上一页下一页返回3.1多元线性回归然后计算各t统计量的值由自由度f=n-m-1=50，查t值表，得t0.05(50)=2.008，t0.01(50)=2.678。因为|t1|＞t0.01(50)、|t2|＜t0.05(50)、|t3|＜t0.05(50)，所以回归系数b1是极显著的，而回归系数b2，b3都是不显著的。上一页下一页返回3.1多元线性回归F检验法:首先计算各个偏回归平方和:上一页下一页返回3.1多元线性回归进而计算各F的值：由自由度f1=1,f2=50,查F值表得F0.05(1,50)=4.03,F0.01(1,50)=7.17。因为F1＞F0.01(1,50),F2＜F0.05(1,50),F3＜F0.05(1,50),因此回归系数b1是极显著的，而回归系数b2、b3均不显著。这与t检验的结论是一致的.把上述偏回归系数显著性检验的F检验结果列成方差分析表的形式，见表3.8上一页下一页返回3.1多元线性回归③建立的三元线性回归方程为经显著性检验.回归方程极显著.偏回归系数b1极显著.而b2，b3都是不显著的。因为F2＜F3，所以可剔除回归系数b2对应的自变量x2，重新建立y对x1、x3的二元线性回归方程。依题意，重新建立的二元线性回归方程为根据x1、x3的偏回归方差和残余方差分别为14.1839，7.8834和47.2950.计算得到的方差分析表见表3.9。上一页下一页返回3.1多元线性回归现对二元线性回归方程进行显著性检验。由f1=2，f2=51，得F0.01(2,51)=5.05,因为F＞F0.01(2,51),α＜0.01,表明二元线性回归方程是极显著的。再根据已知二元线性回归时的矩阵X*TX*的逆矩阵对角线上的元索分别为14.1839和7.8834.计算得到偏回归系数的方差分析表.见表3.10。由f1=1，f2=51，查表得F0.01(1,51)=7.16。因为F1和F3均大于F0.01(1,51)，表明二元线性回归方程的偏回归系数b1和b3都是极显著的.即所得的二元线性回归方程是最优回归方程。上一页返回3.2经典最小二乘法在化学和化工中.不但存在一个因变量是某几个自变量的函数的问题.还存在着多个因变量都是某几个自变量的函数问题。同时很多情况下建立回归模型的目的并不只是求得回归系数或只用于对因变量进行预报.而主要是用测得的因变量数据反过来对自变量进行预报。例如在用分光光度法分析某浓度末知的多组分溶液中各组分的浓度时.常用的方法就是先配制一系列含同样组分且各组分浓度准确已知的校正溶液后.再测定各校正溶液在多个波长下的吸光度并建立回归校正模型.然后再测末知溶液在各个波长下的吸光度并用建立的校正模型预报该溶液中各组分的浓度。这种利用自变量值准确已知的校正体系的因变量测量数据建立一个校正模型.再利用此校正模型和末知体系的因变量测量值对末知体系的自变量值进行预报的方法常被称为间接校正法。经典最小二乘法是一种最基本的间接校正法.该方法通过建立多因变量的多元线性回归模型进行相应的预报。下一页返回3.2经典最小二乘法设有p个因变量y1,y2,...,yp，均为m个自变量x1,x2,...,xm的函数，多因变量的多元线性回归的理论模型为式中，b1j,b2j,...,bmj(j=1,2,...,p)是待定的体系参数即回归系数；ej是随机误差。在建立回归模型时，自变量x1,x2,...,xm的值被看做是无误差的准确值.因变量yi则有随机误差。上一页下一页返回3.2经典最小二乘法如果取n个样本进行测量.并且n＞m，则对每一个因变量yi都得到n组数据(yij,xi1,xi2,...,xim)(i=1,2,...,n)。由于有p个因变量.因此共得到n×p组相应的数据。对于多个因变量中的任一个因变量yj，可建立一个相应的多元线性回归的有限样本模型式(3.50)是含有n个方程的m元一次方程组令yi=(y1j,y2j,...,ynj)T，e=(e1j,e2j,...,enj)T，bj=(b1j,b2j,...,bmj)T，xk=(x1k,x2k,...,xnk)T，则式(3.50)可改写为如下矩阵方程式中，yj，ej和xk都是n维列向量;bj则是m维列向量;X=(x1,x2,...,xm)是n行m列矩阵。上一页下一页返回3.2经典最小二乘法令Y=(y1,y2,...,yj,...,yp)，B=(b1,b2,...,bj,...,bp)，E=(e1,e2,...,ej,...,ep)T，则式(3.50)可改写为如下矩阵方程式中.Y和E都是n行p列因变量数据矩阵.其中的数据存在测量误差;X是n行m列自变量数据矩阵.在作回归时其中的数据被看做是准确值,B则是m行p列的回归系数矩阵，E是n行p列误差矩阵。Y、E和X的行数n等于样本数，Y、B和E的列数p等于因变量数目，因变量的数目p常被称为通道数，X的列数m即B的行数m等于自变量的数目.自变量的数目m则常被称为组分数。上一页下一页返回3.2经典最小二乘法应用最小二乘法.可得求解回归系数矩阵B的正规方程为由正规方程解得B的估计为在求得回归系数矩阵B后.就可进一步用回归模型(3.52)对末知样本的有关自变量进行预报预报计算步骤如下上一页下一页返回3.2经典最小二乘法设未知样本的自变量向量为xu=(x1,x2,...,xm)T，实验测得的相应因变量向量为y=(y1,y2,...,yp)T，误差向量为e=(e1,e2,...,ep)T(注意:在预报步骤中定义的向量xu、y、e的维数与回归建模时定义的x、y、e的维数和含义都存在差别)将xu、y、e代入回归模型中，得上式可改写成如下形式上一页下一页返回3.2经典最小二乘法用上式对xu进行预报.就是再通过多元线性回归分析找出最佳的估计向量xu，使这实质上就相当于将xu作为待定的回归系数向量来求解。应用最小二乘法可解得xu的估计量亦即xu的预报量为从以上的回归建模和预报过程可以看出.整个过程经过了两次最小二乘法运算.即经过了两次多兀线性回归分析.因此这种间接校正法常被称为经典最小二乘法。上一页下一页返回3.2经典最小二乘法在经典最小二乘法中经过了两次矩阵求逆运算.因此对样本数n、因变量数p和自变量数m的取值满足一定要求.即应有n≥m和p≥m。如条件n≥m不满足.则矩阵XTX不是满秩矩阵.因此其逆矩阵(XTX)-1不存在。同样，如条件p≥m不满足.则矩阵BBT的逆矩阵(BBT)-1也不存在。一般情况下.样本数，了和因变量数n比自变量数m越大.就越有利于提高计算结果的准确度和精密度。通常选择样本数n和因变量数p为自变量数m的5倍以上。另外.矩阵X的各行还必须线性无关.即矩阵X中的任一行不能是其他各行的线性组合.否则矩阵XTX将不是满秩矩阵.其逆矩阵(XTX)-1将不存在上一页下一页返回3.2经典最小二乘法经典最小二乘法模型直观、简单.当样本数n和因变量数p远大于自变量数m时.具有重复测定和数据平均化的效应.非常有利于提高预报的精密度和准确度。但是.该法在建立回归模型时.要求自变量的值要准确.否则将产生较大误差。并且该法应用了两次矩阵求逆运算.这也将带来较大的计算误差。另外.如果矩阵X的各行存在着线性相关现象则将得不到正确结果。上一页返回3.3.反推最小二乘法在经典最小二乘法中.校正和预报两个步骤均进行了矩阵的求逆运算。一般来说.矩阵求逆的运算量很大.因而带来的计算误差也较大。经典最小二乘法经过了两次矩阵求逆运算.因而通常易带来较大的计算误差。反推最小二乘法是一种不同于经典最小二乘法的间接校正法.这种方法只需一次矩阵求逆运算.可减少矩阵求逆带来的计算误差。下一页返回3.3.反推最小二乘法设有p个因变量y1,y2,...,yp，均为m个自变量x1,x2,...,xm的函数.反推最小二乘法是反过来将任一自变量x均看做p个因变量的函数.建立的多因变量的多元线性回归的理论模型为式中q1k,q2k,...,qpk(k=1,2,...,m)是待定的体系参数即回归系数，ek是随机误差。在建立回归模型时.自变量x1,x2,...,xm的值仍然被看做是无误差的准确值,因变量yi则有随机误差上一页下一页返回3.3.反推最小二乘法如果