数据的误差分析与信号的预处理

1、2022-6-26大连理工大学12022-6-26大连理工大学1Part III数据误差分析与处理数据误差分析与处理大连理工大学硕士研究生校管课程大连理工大学硕士研究生校管课程信号处理与数据分析信号处理与数据分析电子信息与电气工程学部电子信息与电气工程学部邱天爽邱天爽2015年年11月月2022-6-26大连理工大学2第第8章章数据的误差分析与信号的预处理数据的误差分析与信号的预处理大连理工大学硕士研究生校管课程大连理工大学硕士研究生校管课程信号处理与数据分析信号处理与数据分析电子信息与电气工程学部电子信息与电气工程学部邱天爽邱天爽2015年年11月月大连理工大学22022-6-26 内容概要

2、内容概要 8 8.1 .1 引言引言 8 8.2 .2 误差的基本概念与理论误差的基本概念与理论 8.3 8.3 测量测量不确定度的评定与估计不确定度的评定与估计 8.4 8.4 数据处理数据处理的最小二乘方法的最小二乘方法 8.5 8.5 回归分析回归分析 8.6 8.6 信号信号中趋势项和野点的中趋势项和野点的去除去除 8.7 8.7 温度温度测量与数据处理应用实例测量与数据处理应用实例大连理工大学32022-6-268.1 引言引言大连理工大学42022-6-26大连理工大学5 信号处理与测试测量密切相关。信号处理与测试测量密切相关。 测量和测试不可回避的问题是误差问题测量和测试不可回避

3、的问题是误差问题。 误差的大致分类：随机误差；系统误差误差的大致分类：随机误差；系统误差 了解误差了解误差的产生原因和特性的产生原因和特性，对，对误差进行一定误差进行一定的补偿与处理的补偿与处理，从而，从而改善测量精度改善测量精度。 这些这些误差消除的方法，与信号处理中的信号预误差消除的方法，与信号处理中的信号预处理方法是相似的处理方法是相似的。 此外此外，测量数据的最小二乘处理方法与回归分，测量数据的最小二乘处理方法与回归分析，是数据分析处理的基本手段和重要析，是数据分析处理的基本手段和重要内容。内容。2022-6-268.2 误差误差的基本概念与理论的基本概念与理论大连理工大学62022-

4、6-26大连理工大学7 误差的概念：误差的概念：测量误差（这里简称为测量误差（这里简称为“误差误差”）是指对一个）是指对一个量进行测量或测试后，所得量进行测量或测试后，所得到到测量、测试结果测量、测试结果与被测量之间的差异与被测量之间的差异。可以分为绝对误差、相可以分为绝对误差、相对误差和引用误差等。对误差和引用误差等。8.2.1 8.2.1 误差误差的基本概念的基本概念2022-6-26大连理工大学8 （1 1）绝对误差）绝对误差绝对误差绝对误差 定义定义为测量为测量值值 与其与其真值真值 之差，之差，即：即：绝对误差绝对误差并不是误差的绝对值，其值可以为正，也并不是误差的绝对值，其值可以为

5、正，也可以为负可以为负。绝对误差表示测量值偏离其真值的程度绝对误差表示测量值偏离其真值的程度。绝对误差绝对误差的单位与被测量相同的单位与被测量相同。由于真值不易得到，绝对误差由于真值不易得到，绝对误差转化为转化为残余误差残余误差（简（简称称为为“残差残差”），），即即为为 多次测量的平均值。多次测量的平均值。2022-6-2600 v大连理工大学9 （2 2）相对误差）相对误差相对误差相对误差 定义定义为绝对误差与被测量真值之为绝对误差与被测量真值之比：比： （4 4）引用误差）引用误差引用误差引用误差定义定义为测量仪器的误差与仪器特定值之为测量仪器的误差与仪器特定值之比：比：式式中中，D D

6、表示表示测量仪器的误差测量仪器的误差，B B表示表示测量仪器的特测量仪器的特定值，又称为引用值，通常为测量仪器的量程。定值，又称为引用值，通常为测量仪器的量程。2022-6-260100%100%aDYB大连理工大学10 （1 1）随机误差的基本）随机误差的基本概念概念是是指在相同条件下，多次测量同一被测量时，指在相同条件下，多次测量同一被测量时，测量结测量结果的大小和符号以不可预知的方式变化的误差果的大小和符号以不可预知的方式变化的误差，又称为，又称为“偶然误差偶然误差”或或“不定误差不定误差”。随机误差随机误差在一定程度上服从某种统计规律。可以运用在一定程度上服从某种统计规律。可以运用概率

7、统计的方法对随机误差的总体趋势和分布进行估计概率统计的方法对随机误差的总体趋势和分布进行估计，并采取相应的措施减小其影响。，并采取相应的措施减小其影响。8.2.2 8.2.2 随机误差随机误差2022-6-26大连理工大学11 产生的原因产生的原因第一，由于测量仪器结构上不完善或零部件制造不第一，由于测量仪器结构上不完善或零部件制造不精密而产生精密而产生；第二第二，测量过程中环境因素变化或干扰影响所引入，测量过程中环境因素变化或干扰影响所引入；第三第三，测量人员主观因素的影响。，测量人员主观因素的影响。2022-6-26大连理工大学12 （2 2）算数平均值的概念与应用）算数平均值的概念与应用

8、定义：定义：当测量次数趋于无穷时，某次测量的绝对误差可以当测量次数趋于无穷时，某次测量的绝对误差可以写写为为 为为测量结果的测量结果的数学期望；数学期望； 为为测量结果与期望值的偏离值，称为测量结果与期望值的偏离值，称为随机随机误差误差； 为为期望值与真值的偏差期望值与真值的偏差，称为，称为系统误差系统误差。2022-6-2611NiiN00( )( )iiiiiEE iE( )iiE0( )iE大连理工大学13 （3 3）测量的标准差）测量的标准差标准差是标准差是测量数据平均值分散程度的一种测量数据平均值分散程度的一种度量：度量：通常通常用用残差残差 来替代绝对误差来替代绝对误差 ，有：，有

9、：算数平均值的标准差：算数平均值的标准差：2022-6-2621NiiNivi211NiivNNiiv大连理工大学14 （1 1）系统误差的概念）系统误差的概念系统误差（系统误差（system errorsystem error）又称为规律误差，是指在又称为规律误差，是指在一定的测量条件下，对同一个被测量进行多次重复测量一定的测量条件下，对同一个被测量进行多次重复测量时，误差值的大小和符号（正值或负值）均保持不变的时，误差值的大小和符号（正值或负值）均保持不变的误差；或者在条件变化时，按一定规律变化的误差。误差；或者在条件变化时，按一定规律变化的误差。系统误差可以通过实验或分析的方法确定其变化

10、规律系统误差可以通过实验或分析的方法确定其变化规律及误差的产生原因，及误差的产生原因，并在并在测量的结果中给予修正。也测量的结果中给予修正。也可可以通过以通过改善测量条件或测量方法，使之减小或消除改善测量条件或测量方法，使之减小或消除。系统误差系统误差不能依靠增加测量次数来减小或消除。不能依靠增加测量次数来减小或消除。8.2.3 8.2.3 系统误差系统误差2022-6-260( )iE大连理工大学15 （2 2）系统误差的）系统误差的来源来源 测量测量仪器引入的误差仪器引入的误差。 仪器仪器调整引入的误差调整引入的误差。 测量测量者习惯引入的误差者习惯引入的误差。 测量测量条件所引入的误差。

11、是指由温度、气压、气条件所引入的误差。是指由温度、气压、气流、振动等条件在测量过程中发生变化所引入的误流、振动等条件在测量过程中发生变化所引入的误差。差。 测量方法测量方法所引入的误差。是指由于采用不适当的所引入的误差。是指由于采用不适当的测量方法或数据处理方法所引入的误差。测量方法或数据处理方法所引入的误差。2022-6-26大连理工大学16 （3 3）发现、减小和消除系统误差的）发现、减小和消除系统误差的方法方法实验对比法实验对比法： 用于用于发现固定系统误差，其基本思路是改变系统发现固定系统误差，其基本思路是改变系统误差的产生条件，进行不同条件的测量。误差的产生条件，进行不同条件的测量。

12、理论理论分析法分析法： 主要主要用于对测量进行定性的分析判断，以确定是用于对测量进行定性的分析判断，以确定是否存在否存在系统误差。系统误差。数据分析法数据分析法： 主要主要用于对测量进行用于对测量进行定量分析。定量分析。2022-6-26大连理工大学17 粗大误差的概念粗大误差的概念粗大误差（粗大误差（gross errorgross error）是指明显超出规定条件预期）是指明显超出规定条件预期的误差，常简称为的误差，常简称为“粗差粗差”。引起引起粗大误差的原因主要包括错误读取示值，使用有粗大误差的原因主要包括错误读取示值，使用有缺陷的测量器具，测量仪器受到外界振动或电磁干扰而缺陷的测量器具

13、，测量仪器受到外界振动或电磁干扰而发生指示突变等发生指示突变等。粗大粗大误差必须从测量结果中剔除，否则会导致错误的误差必须从测量结果中剔除，否则会导致错误的结论结论。8.2.4 8.2.4 粗大误差粗大误差2022-6-26大连理工大学18 （1 1）粗大误差的判定）粗大误差的判定准则准则1 1： 准则准则式中，式中， 为为可疑数据，可疑数据， 为为测量数据的平均值，测量数据的平均值， 为该数据的残差为该数据的残差， 为测量数据残差的标准差为测量数据残差的标准差。若。若上式满足，则删除该数据。上式满足，则删除该数据。2 2：罗曼诺夫斯基准：罗曼诺夫斯基准则（又称为则（又称为t t分布分布检验检

14、验准则）准则）先剔除一个可疑的测量值，再先剔除一个可疑的测量值，再按照按照t t分布分布来检验被剔来检验被剔除的测量值是否含有粗大误差。除的测量值是否含有粗大误差。2022-6-263| | 3ddvddv大连理工大学19 （2 2）粗大误差粗大误差的消除方法的消除方法粗大误差的消除方法主要有两条准则粗大误差的消除方法主要有两条准则： 第一第一，要适当选择粗大误差的判别准则，要适当选择粗大误差的判别准则； 第二第二，在存在多个粗大误差的情况下，应采用逐，在存在多个粗大误差的情况下，应采用逐步剔除的方法，通常先剔除含有最大粗大误差的步剔除的方法，通常先剔除含有最大粗大误差的数据，再依次进行判别和

15、剔除。数据，再依次进行判别和剔除。2022-6-26大连理工大学20 （1 1）随机误差的合成）随机误差的合成随机误差合成的随机误差合成的标准差：标准差：若各测量误差互不若各测量误差互不相关，则相关，则误差传播系数误差传播系数均为均为1 1，则，则8.2.5 8.2.5 误差误差的的合成合成（自行阅读）（自行阅读）2022-6-26211()2qqiiijijijiijaa a 21()qiiia21qii大连理工大学21 （2 2）系统误差的）系统误差的合成合成已定系统误差的已定系统误差的合成：合成： 已定系统误差（已定系统误差（fixed system errorfixed system

16、error）是指误差）是指误差的大小和符号均已确切掌握了的系统误差的大小和符号均已确切掌握了的系统误差。未定系统误差的未定系统误差的合成合成 仅知道其极限范围而未知其准确数值的系统误差仅知道其极限范围而未知其准确数值的系统误差称为未定称为未定系统误差。系统误差。2022-6-2611221NNNiiiyaaaa 2211qrijijsR大连理工大学22 误差的分配是误差合成的相反过程，即在给定测量结果允误差的分配是误差合成的相反过程，即在给定测量结果允许的总误差的条件下，如何合理确定各单项误差的问题，许的总误差的条件下，如何合理确定各单项误差的问题，就是误差的分配问题就是误差的分配问题。 误差

17、分配的一般原则误差分配的一般原则： 式中，式中， 表示表示总误差，总误差， 表示表示各单各单项误差。项误差。8.2.6 8.2.6 误差的分配误差的分配（自行阅读）（自行阅读）2022-6-2612222Nyyyyy,1,2,iyiiaiN8.3 测量测量不确定度的评定与不确定度的评定与估计估计（自行阅读）（自行阅读）大连理工大学232022-6-26大连理工大学24 （1 1）定义）定义测量不确定度测量不确定度（uncertainty of measurementuncertainty of measurement）是基）是基于误差理论所建立的概念，可以理解为对测量结果的可于误差理论所建立的

18、概念，可以理解为对测量结果的可信性、有效性的怀疑程度或不肯定程度信性、有效性的怀疑程度或不肯定程度。测量测量不确定度是与测量结果相关联的参数，用于表征不确定度是与测量结果相关联的参数，用于表征合理赋予被测量值的分散性。这里的合理赋予被测量值的分散性。这里的“合理合理”是指在随是指在随机状态的机状态的测量。测量。8.3.1 8.3.1 测量测量不确定度的基本概念不确定度的基本概念2022-6-26大连理工大学25 （2 2）测量不确定度与误差的同）测量不确定度与误差的同异异相同点：相同点：误差误差与不确定度二者都是由测量的系统效应和与不确定度二者都是由测量的系统效应和随机效应所引起的随机效应所引

19、起的。这些效应使得。这些效应使得被测量的被测量的真值无法确真值无法确知知，每个测量结果也就都具有一定的不可靠性，导致产，每个测量结果也就都具有一定的不可靠性，导致产生误差和不确定度。生误差和不确定度。不同点：不同点： 误差误差是相对于真值而言，是相对于真值而言，是测量值是测量值与真值与真值之差。之差。由于真值由于真值可能不可知，可能不可知，故误差也不可能得到准确值故误差也不可能得到准确值。 不确定度不确定度是是表示由于系统效应和随机效应的存在而对测量表示由于系统效应和随机效应的存在而对测量结果不能肯定的程度结果不能肯定的程度，表征，表征了被测量值可能出现的范围了被测量值可能出现的范围。 误差误

20、差和不确定度的取值不同。误差是一个差值，其符号或和不确定度的取值不同。误差是一个差值，其符号或正或负；测量不确定度是一个区间，其值恒为正值。正或负；测量不确定度是一个区间，其值恒为正值。2022-6-26大连理工大学26 （1 1）标准不确定度的）标准不确定度的A A类类评定评定标准不确定度的标准不确定度的A A类类评定采用评定采用统计分析的方法统计分析的方法进行进行评定。评定。其中，其中， 为标准不确定度，为标准不确定度， 为平均实验标准差，为平均实验标准差， 为样为样本标准差。本标准差。N N为测量次数。一般认为为测量次数。一般认为N5N5才才比较可靠。比较可靠。 （2 2）标准）标准不确

21、定度的不确定度的B B类类评定评定8.3.2 8.3.2 标准标准不确定度的评定不确定度的评定2022-6-26()( )( )isusN( )u( )s( )is大连理工大学27 合成合成若不确定度若不确定度相互相互独立：独立：若各分量的若各分量的影响是直接影响是直接的：的：8.3.3 8.3.3 测量不确定度的测量不确定度的合成合成2022-6-2622c11( )()2iijNNxijxxiijiijfffuyuu uxxx 22c1( )()iNxiifuyux 2c1( )()iNxiuyu其中，其中， 为直接测量值的标准不确定度，为直接测量值的标准不确定度， 为第为第i个个测量值与

22、第测量值与第j个个测量值之间的相关系数。测量值之间的相关系数。ixuij8.4 数据处理数据处理的最小二的最小二乘方乘方 法法（自行阅读（自行阅读）大连理工大学282022-6-26大连理工大学29 最小二乘的概念最小二乘的概念最小二乘法（最小二乘法（least square methodleast square method，又称最小平方法），又称最小平方法）是一种数学优化是一种数学优化方法；方法；它它通过最小化误差的平方和来寻找数据的最佳函数通过最小化误差的平方和来寻找数据的最佳函数匹配；匹配；是是一种在科学技术中得到广泛关注与应用的数据处理方一种在科学技术中得到广泛关注与应用的数据处理方

23、法法。利用利用最小二乘法可以简便地求得未知的数据，并使得这最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小些求得的数据与实际数据之间误差的平方和为最小。最小二乘法最小二乘法还可用于曲线拟合，其他一些优化问题也可还可用于曲线拟合，其他一些优化问题也可通过误差能量最小化或熵的最大化而用最小二乘法来表通过误差能量最小化或熵的最大化而用最小二乘法来表达。达。2022-6-26大连理工大学30 （1 1）问题描述）问题描述为了为了确定确定t t个个不可直接测量的未知量不可直接测量的未知量 的的估估计计 ，可可对对t t个个未知量有函数关系的直接测量未知量有函数关系

24、的直接测量量量 进行进行N N次次测量，得测量数据测量，得测量数据 ，并并设设：在在实际中，实际中，常常取取 ，为超定方程组，解，为超定方程组，解不唯一。如不唯一。如何由测量数据何由测量数据求最求最可可信赖解是信赖解是最小二乘法要解决的最小二乘法要解决的问题问题。8.4.1 8.4.1 最小二乘法基本原理最小二乘法基本原理（自行阅读）（自行阅读）2022-6-2612,tXXX12,txxxY12,Nlll1112221212(,)(,) (,)ttNNtYfXXXYfXXXYfXXXNt大连理工大学31 （2 2）最小二乘法）最小二乘法基本原理基本原理设直接测量量设直接测量量 的的估计量为估

25、计量为 ，有，有设测量数据的残差：设测量数据的残差：或称为残差方程：或称为残差方程：若测量无偏且误差独立、正态分布，标准差：若测量无偏且误差独立、正态分布，标准差：则各则各测量值出现在其真值附近的概率分别为测量值出现在其真值附近的概率分别为2022-6-2612,NYYY12,Nyyy1112221212(,)(,) (,)ttNNtyf xxxyfxxxyfxxx,1,2,iiivlyiN12(,),1,2,iiitvlf xxxiN12,N2221ed,1,2,2iiiiiPiN大连理工大学32由概率乘法性质，各测量数据同时出现在相应由概率乘法性质，各测量数据同时出现在相应区域的概区域的概

26、率为：率为：在等精度测量中，在等精度测量中，有有 ，由此由此分析上式可知分析上式可知，测量结果的测量结果的最可信赖值应在各残差平方和为最小时求得最可信赖值应在各残差平方和为最小时求得，这就是最小二乘法的这就是最小二乘法的原理。原理。按照最小二乘法求出的估计值习惯上称为最大或然值按照最小二乘法求出的估计值习惯上称为最大或然值（the most probable valuethe most probable value），又称为最可靠值，具有），又称为最可靠值，具有无偏性和最可信赖性。无偏性和最可信赖性。2022-6-262212121121ed dd2NiiiNiNNiNPP 12=N22221

27、21minNNiivvvv大连理工大学33 （3 3）等精度测量的线性参数最小二乘）等精度测量的线性参数最小二乘原理原理线性参数测量方程的估计形式线性参数测量方程的估计形式为：为：其残差方程其残差方程为：为：写为矩阵形式：写为矩阵形式： 2022-6-26111 11221221 122221 122 ttttNNNNttya xa xa xya xa xa xyaxaxa x1111 112212221 122221 122()() ()ttttNNNNNttvla xa xa xvla xa xa xvlaxaxa xVLAXT12T12T12111212122212NNNttNNNtll

28、lxxxvvvaaaaaaaaaLXVA1112221212(,)(,) (,)ttNNtyf xxxyfxxxyfxxx大连理工大学34等等精度测量时，残差平方和最小表示为：精度测量时，残差平方和最小表示为：或写为：或写为：2022-6-26TminV VT() ()minLAXLAX大连理工大学35 （4 4）不等）不等精度测量的线性参数最小二乘精度测量的线性参数最小二乘原理原理最小二乘法矩阵形式最小二乘法矩阵形式式中，式中，为权矩阵为权矩阵。 为测量数据的加权为测量数据的加权系数系数， 为为单位权方差。单位权方差。 为为测量数据测量数据 的方差。的方差。2022-6-26T()()min

29、LAX LAX221122222200/00000/00000/NN22,1,2,iiiN22,1,2,iiN12,Nlll大连理工大学36 正规方程：正规方程：所谓所谓正规方程（正规方程（normal equationnormal equation，又称为法方程）是指一组，又称为法方程）是指一组有确定解的代数方程有确定解的代数方程。为了为了减小误差，减小误差，通常测量通常测量次数次数N N要要大于未知参数的大于未知参数的数目数目t t，使使得得残差残差方程式的方程式的个数要多于未知数的个数个数要多于未知数的个数。这样这样的方程的方程不能得到唯一的解不能得到唯一的解，而，而最小二乘法可以最小二

30、乘法可以将残差方将残差方程转化为有确定解的代数方程，即程转化为有确定解的代数方程，即正规方程。正规方程。线性最小二乘法处理程序：线性最小二乘法处理程序： 具体问题具体问题残差方程残差方程正规方程正规方程求解求解8.4.2 8.4.2 正规方程正规方程：最小二乘：最小二乘处理的基处理的基 本本方法方法2022-6-26大连理工大学37 （1 1）等精度测量线性参数最小二乘处理）等精度测量线性参数最小二乘处理残差方程：残差方程：用极值法令残差平方和用极值法令残差平方和 相对于每个估计量求偏导，相对于每个估计量求偏导，并令其为并令其为0 0，得到：，得到：正规方程：正规方程：2022-6-26111

31、1 112212221 122221 122()() ()ttttNNNNNttvla xa xa xvla xa xa xvlaxaxa x11111221111122112222111111221111 NNNNiiiiiiiittiiiiNNNNiiiiiiiittiiiiNNNNit iitiitiitittiiiia la a xa a xa a xa la a xa a xa a xa la a xa a xa a x21Niiv大连理工大学38正规方程正规方程改写为改写为：正规方程的矩阵形式：正规方程的矩阵形式： 0 , 0 0 , 0 又又因因 ，故正规方程可以写为，故正规方程

32、可以写为若令若令 ，则正规方程又可写为则正规方程又可写为正规方程解正规方程解的矩阵表达式的矩阵表达式：显然：显然： 是无偏估计是无偏估计2022-6-2611 121 2112 12222112200 0NNNNttNtNa va va va va vava va va vTA VT000VLAXTT()A A XA LTCA ATCXA L1TXC A L1T1T1T1T EEEXC A LC ALC A YC A AXXX大连理工大学39 （3 3）非线性参数）非线性参数最小二乘最小二乘处理处理（自行阅读）（自行阅读）一般情况，一般情况， 为非线性函数，为非线性函数，测量残差方程测量残差方

33、程 也是非也是非线性的。线性的。难难于于直接建立正规方程。常采用线性化方法。直接建立正规方程。常采用线性化方法。先先将非线性残差方程组转化为线性方程组，在按照线性将非线性残差方程组转化为线性方程组，在按照线性最小二乘方法进行处理。最小二乘方法进行处理。参见书稿。参见书稿。2022-6-2612( ,),1,2,iityf xxxiN12( ,),1,2,iiitvlf xxxiN大连理工大学40 （4 4）最小二乘法与算数平均值的关系）最小二乘法与算数平均值的关系按照最小二乘原理，有按照最小二乘原理，有等精度测量时，等精度测量时，可知，可知，最小二乘原理是算术平均值的广义化，算术平均最小二乘原

34、理是算术平均值的广义化，算术平均值是最小二乘的一个特例。值是最小二乘的一个特例。2022-6-2611Ni iiNiilx11NiixlN大连理工大学41 （1 1）直接测量数据的精度估计）直接测量数据的精度估计等等精度测量的标准差：精度测量的标准差：不等不等精度测量的精度测量的标准差：标准差：8.4.3 8.4.3 最小最小二乘二乘处理的处理的精度估计精度估计（自行阅读）（自行阅读）2022-6-2621NiivNt21NiiivNt大连理工大学42 （2 2）最小二乘估计量的）最小二乘估计量的精度估计精度估计对于等精度情况：对于等精度情况：对于不等精度情况：对于不等精度情况：2022-6-

35、261121112222T112()NNttNtdddddddddDA A1121112222T112()NNttNtdddddddddDA A大连理工大学43 组合测量（组合测量（combined measurementcombined measurement）是直接测量一组被测量）是直接测量一组被测量的不同组合值，从它们相互依赖的函数关系中，确定出各被的不同组合值，从它们相互依赖的函数关系中，确定出各被测量的最佳估计值测量的最佳估计值。 采用采用组合测量方法，可以有效减小测量的随机误差，也有助组合测量方法，可以有效减小测量的随机误差，也有助于系统误差的随机化和减小，因此在精密测试中得到广泛

36、的于系统误差的随机化和减小，因此在精密测试中得到广泛的应用应用。 详详见见书稿书稿（自行阅读）（自行阅读）8.4.4 8.4.4 组合组合测量的最小二乘法处理测量的最小二乘法处理2022-6-268.5 回归分析回归分析大连理工大学442022-6-26大连理工大学45 回归分析的概念回归分析的概念回归分析回归分析（regression analysisregression analysis）是确定两种或两种以是确定两种或两种以上变量间上变量间相互依赖的定量关系相互依赖的定量关系的一种统计分析方法，其的一种统计分析方法，其基本思想是应用数学方法，对大量观测数据进行处理，基本思想是应用数学方法，

37、对大量观测数据进行处理，从中得出比较符合事物内部规律的数学表达式。从中得出比较符合事物内部规律的数学表达式。8.5.1 8.5.1 一一元线性回归分析元线性回归分析2022-6-26大连理工大学46 （1 1）回归方程的回归方程的确定确定一元线性回归一元线性回归是描述两个变量之间线性关系的最简单模是描述两个变量之间线性关系的最简单模型，型，实际上就是数据的直线拟合问题实际上就是数据的直线拟合问题。本小节以导线在。本小节以导线在一定一定温度温度x x下下的电的电阻值阻值y y为为例，介绍一元线性回归分析的例，介绍一元线性回归分析的基本原理与方法基本原理与方法。举例：举例：2022-6-26大连理

38、工大学47表表8.18.1的数据画出数据曲线的数据画出数据曲线，假设假设输入输出输入输出有如下结构有如下结构形式：形式：式中，式中， 表示表示其它随机因素对电阻值测量的其它随机因素对电阻值测量的影响。回归分析是最小二乘法的一个应用影响。回归分析是最小二乘法的一个应用特例。特例。一一元线性回归方程：元线性回归方程：其中，其中， 为为 的最小二乘估计。的最小二乘估计。2022-6-260,1,2,iiiyxiN,1,2,iiN0 ybbx大连理工大学48得一元线性回归方程：得一元线性回归方程：残差方程：残差方程：矩阵矩阵形式：形式：其中：其中：若等精度，则：若等精度，则： ，解得：，解得：式中：式

39、中：2022-6-260 ybbx0,1,2,iiiiivyyybbxiNVYXb111022211,1NNNvyxbvyxbvyxVYXbT1T()bX XX Y0,xyxxlbbybxl222111112221111111111,(),11()(),()NNNNNiixxiiiiiiiiNNNNNNNxyiiiiiiyyiiiiiiiiiixxyylxxxxNNNlxxyyx yxylyyyyNN大连理工大学49 （2 2）回归方程的方差分析与）回归方程的方差分析与显著性检验显著性检验（自行阅读）（自行阅读）离差离差（deviatedeviate）平方和：平方和：定义：定义：回归平方和回归

40、平方和U U，残差平方和残差平方和Q Q：2022-6-2621()NiyyiSyylSQU2121()()NiiiNiiQyyUyy2121()()NiiyyxyiNixyiQyySUlblUyybl大连理工大学50 （3 3）线性回归方程建立的分组）线性回归方程建立的分组平均法平均法（自行阅读）（自行阅读）2022-6-26大连理工大学51 一元非线性回归分析：一元非线性回归分析：在科学研究与其他应用中，数据两个变量之间的关系不在科学研究与其他应用中，数据两个变量之间的关系不一定是线性的，而且更有可能是非线性的。这样，就必一定是线性的，而且更有可能是非线性的。这样，就必须对数据进行非线性回

41、归分析须对数据进行非线性回归分析。非线性回归分析需要解决两个基本非线性回归分析需要解决两个基本问题：问题： 回归函数回归函数的选择的选择问题；问题； 求解求解未知参数问题未知参数问题。详详见书稿见书稿 8.5.2 8.5.2 一元非线性回归分析一元非线性回归分析（自行阅读（自行阅读）2022-6-26大连理工大学52 多多元非线性回归分析：元非线性回归分析：多元回归研究多元回归研究因变量因变量y y与与多个变量之间的定量关系问题，多个变量之间的定量关系问题，其中主要研究多元线性回归问题，而多元非线性回归问其中主要研究多元线性回归问题，而多元非线性回归问题则基本上可以将其转化为线性回归问题。题则

42、基本上可以将其转化为线性回归问题。 8.5.3 8.5.3 多元线性回归分析多元线性回归分析（自行阅读（自行阅读）2022-6-26大连理工大学53 （1 1）多元线性回归方程）多元线性回归方程2022-6-26大连理工大学542022-6-26大连理工大学55 （2 2）多元线性回归多元线性回归方程的求解方程的求解2022-6-26大连理工大学562022-6-26大连理工大学57 （3 3）多元线性回归方程及其系数的显著性检验）多元线性回归方程及其系数的显著性检验2022-6-268.6 信号信号中趋势项和野点的中趋势项和野点的去除去除大连理工大学582022-6-26大连理工大学59 （

43、1 1）信号趋势项的）信号趋势项的含义含义所谓信号的所谓信号的趋势项（趋势项（trendtrend）一般指信号的非零或非常数一般指信号的非零或非常数均值所表示的函数均值所表示的函数。这种这种趋势项函数可能是随时间稳定增长或稳定衰减的线趋势项函数可能是随时间稳定增长或稳定衰减的线性函数、幂函数、指数函数，也可能是具有周期特性的性函数、幂函数、指数函数，也可能是具有周期特性的正弦、余弦函数等，还可能是多种函数的组合正弦、余弦函数等，还可能是多种函数的组合。产生的原因：产生的原因：测量电极接触测量电极接触不好；测量系统不好；测量系统直流放大器直流放大器随温度变化产生的随温度变化产生的零点漂移；传感器

44、零点漂移；传感器频率范围外低频性频率范围外低频性能的不稳定以及传感器周围的环境干扰能的不稳定以及传感器周围的环境干扰等。等。8.6.1 8.6.1 信号趋势项的信号趋势项的去除去除2022-6-26大连理工大学60 （2 2）信号趋势项的去除）信号趋势项的去除方法：方法： 自自回归求和滑动平均（回归求和滑动平均（ARIMAARIMA）模型）模型法；法； 季节性模型法；季节性模型法； 经验经验模式分解（模式分解（EMDEMD）方法；方法； 简单方法，称为简单方法，称为修正函数法。修正函数法。2022-6-26大连理工大学61 【例例8.28.2】2022-6-26大连理工大学62 信号野点的含义

45、信号野点的含义所谓信号中的所谓信号中的“野点野点”（outlieroutlier），一般是指信号中远），一般是指信号中远离其他数据样本值的离其他数据样本值的异常值。异常值。对于对于测试数据来说，就是带有较大误差的测量值，与测试数据来说，就是带有较大误差的测量值，与8.28.2节介绍的粗大误差的概念一致节介绍的粗大误差的概念一致。在在8.28.2节，我们介绍了粗大误差的基本概念和判定方法。节，我们介绍了粗大误差的基本概念和判定方法。在这里，我们结合工程应用实际介绍如何在测量过程或在这里，我们结合工程应用实际介绍如何在测量过程或信号处理过程中动态地识别和判定野点的方法，称为外信号处理过程中动态地识

46、别和判定野点的方法，称为外推拟合法。推拟合法。8.6.2 8.6.2 信号中野点的识别与处理信号中野点的识别与处理2022-6-26大连理工大学63 一般性方法：一般性方法：在检测信号中的野点时在检测信号中的野点时，常以，常以前面连续的正常观测数据前面连续的正常观测数据为依据，建立最小二乘多项式，以此外推下一时刻观测为依据，建立最小二乘多项式，以此外推下一时刻观测数据的估计值，与该时刻的实测数据作差，并进一步判数据的估计值，与该时刻的实测数据作差，并进一步判定差值是否超过给定的门限。若超过门限，则认为该观定差值是否超过给定的门限。若超过门限，则认为该观测数据是野点，否之认为是正常数据。以上过程随着测测数据是野点，否之认为是正常数据。以上过程随着测量或信号处理的过程递推进行量或信号处理的过程递推进行。若上式成立若上