数据处理及测量误差.

1、数据处理及测量误差一、有效数字和计算规则(一 ) 有效数字概念 所谓“有效数字”是指在分析和测量中所能得到的有实际意义的数字。换句话说， 有效数字的位数反映了计量器具的精密度和准确度。 记录和报告的结果只应包含有效数 字，对有效数字的位数不能任意增删。因此必须按实际工作需要对测量结果的原始数据 进行处理。(二 ) 有效数字的记录 有效数字是由全部确定数字和一位不确定的可疑数字构成的。 从最后一个算起的第 二位以前的数字应该是可靠的(确定的) ，只有末位数字是可疑的(不确定的) ，总体构 成有效数字的数值。如 2.368为四位有效数字， 698523 为五位有效数字。这里要注意：当数字“ 0”用

2、于指示小数点的位置，而与测量的准确度无关时，不 是有效数字；当它用于表示与测量准确程度有关的数值大小时， 则是有效数字。 这与“0” 在数值中的位置有关。下面将要点列举如下：(1) 如：“0”在数字前，仅起定位作用，则“ 0”本身不是有效数字。如：某一测量 结果记录为 0.02315g，为四位有效数字。(2) 数值中间的“ 0”为有效数字。如： 2.04和 5005分别为三位和四位有效数字。(3) “0”在数字后面为有效数字。如 6.230和 0.1420均为四位有效数字。(4) 以“0”结尾的整数，有效位数不确定。此时应根据测定值的准确度改写成指数 形式。如 2.42×104 和

3、2.4200×104，分别为三位和五位有效数字。(三 ) 有效数字修约规则 测量结果的数据处理和结果表达是测量过程的最后环节， 由于测量结果含有测量误 差，测量结果的有效位数应保留适宜，太多会使人误认为测量准确度很高，同时也会带 来计算上的繁琐；太少则会损失测量准确度。测量、计算结果的数值应按数值修约规 则(GB/T8170-1987)进行修约，即按“四舍六入五余进，奇进偶舍”规则修约。“四舍六入五余进，奇进偶舍”规则，即当尾数不大于 4 时，舍去；尾数不小于 6 时进位；当尾数为 5 时，则视保留的末位数是奇数还是偶数： 5 前为偶数应将 5 舍去，5 前为奇数则将 5 进位。这一

4、规则具体运用如下：(1) 拟舍弃的第一位数字小于 5，则舍去，拟保留的末位数字不变。如 2.7258 修约 到只保留一位小数时，其被舍弃的第一位数字为 2(小于 5)，则修约后的数值应为 2.7。(2) 拟舍弃的第一位数字大于 5，则进 1，即拟保留的末位数字加 1。如 2.78修约到 只保留一位小数时，其被舍弃的第一位数字为 8(大于 5)，则修约后的数值应为 2.8。(3) 拟舍弃的第一位数字为 5，而其后的数字不全为零，则进 1。如 2.7502 修约到 只保留一位小数， 其被舍弃的第一位数字是 5，5 后面为“01”，则修约后的数值应为 2.8。(4) 拟舍弃的第一位数字为 5，而其后

5、无数字或数字全部为零，则视被保留的末位 数字为奇数或偶数而定， 末位数字为奇数时进 1，末位数字为偶数时舍去。 如 2.705、2.735 修约到保留三位有效数字，修约后的数值分别为 2.70和 2.74。(5) 负数修约时， 先将它的绝对值按上述规定进行修约， 然后在修约值前面加负号(6) 拟修约数字应在确定修约位数后一位修约获得结果，不得连续修约。(四 ) 有效数字的计算规则1 加法和减法 几个数相加减的结果，经修约后保留有效数字的位数，取决于绝对误差最大的数值 或者说以各近似值中小数点后位数最少相同。在实际运算过程中，保留的位数比各数值 中小数点后位数最少者多保留一位小数，而计算结果按数

6、值修约规则处理。例如：29.236.583.02829.236.583.03= 62.75 最后计算结果保留一位小数，为 62.8。2 乘法和除法 几个数相乘除时，得数经修约后，其有效数字的位数应与参加运算的各近似值中有 效数字位数最少者相同，即所得结果的有效数字位数决定于相对误差最大的数值。在实 际运算中，先将各近似值修约至比有效数字位数最少者多保留一位有效数字，再将计算 结果按数值修约规则处理。例如：0.235×28.6×61.6890.235×28.6×61.69= 414.61849 三个参与运算的数值的有效数字位数分别三、三、五，所以最后计算结

7、果用三位有 效数字表示，为 4.15×102。3 乘方和开方 近似值乘方或开方时，原近似值有几位有效数字，计算结果就可以保留几位有效数 字。例如： 3.582 = 12.8164，运算结果保留三位有效数字为 12.8。6.28 = 2.5059928，运算结果保留三位有效数字为 2.50。4 对数和反对数 在近似值的对数计算中，所取对数的小数点后的位数(不包括首数)应与真数的有 效数字位数相同。换言之，对数有效数字的位数，只计小数点以后的数字的位数，而不 计对数的整数部分。5 平均值计算 4 个或 4 个以上近似数值的平均值时， 先将计算结果修约至比要求的位数多一 位，再按数值修约规

8、则处理。如：求下列数值的平均值 x： 6.38、6.39、6.40、6.34、6.42。6.38 6.39 6.40 6.34 6.42 x= =6.3865修约后平均值计算结果为 6.39。6 差方和、方差和标准偏差 差方和、方差和标准偏差在运算过程中对中间结果不作修约，只将最后结果修约至 要求的位数。二、可疑值的判断和取舍当对同一样品进行多次重复测定时， 有时会发现一组测定值中某个测定值比其他测定值明显偏大或偏小，称这种明显偏离的测定值为可疑值。可疑值不可随意取舍，因为 它可能是粗大误差，也可能是误差较大的正常值。正确的处理办法是：首先进行直观分 析，若确认某可疑值是由于写错、记错、误操作

9、等或是外界条件的改变产生的，则可剔 除，这种直观判断称为物理差别法。此外，还可用统计法判别。下面介绍几种常用的统 计检验方法。(一) 4d法4d法即 4倍于平均偏差法，适用于 46 个平行数据的取舍。具体作法如下：(1) 除了可疑值外，将其余数据相加求算术平均值 x及平均偏差 d 。(2) 将可疑值与平均值 x相减，若可疑值 x4d ，则可疑值应舍弃；若可疑值 x < 4d ，则可疑值应保留。(二 ) Dixon 检验法此法用于一组测定数据的一致性检验和剔除异常值检验， 适用于检出一个或多个异 常值。但当最大值和最小值同时为可疑值，或在最大值 (或最小值 )一侧同时出现两个可 疑值时，此

10、法并不理想。检验方法如下：将 n 次测定的数据从小到大排列为 X1，X2 ，Xi，Xn-1，Xn。X1 为最小可疑 值， Xn为最大可疑值，然后按照下列相应的公式计算统计量 (r)：检验 Xn检验 X137次810次1113 次1425次r X n Xn 1r10X n X1rX n X n 1r11Xn X 2r Xn X n 2 r2121 X n X 2r X n X n 2 r2222 X n X 3或r10X2 X1X n X1或r11X n X n 1X n 1 X1或r21X 3 X1X n 1 X1或r22X 3 X1X n 2 X1将统计量 (r)的计算值与根据 n 次测定和

11、显著性水平从表中查得的临界值比较， 如极 端值大于临界值，应予舍弃，并重复进行检验，直到不再检出其它极端值为止。表 2-3-1 Dixon 检验临界值表n显著性水平n显著性水平 ( a )0.100.050.010.100.050.0130.8860.9410.988150.4720.5250.61640.6790.7650.899160.4540.5070.59550.5570.6420.780170.4380.4900.57760.4820.5600.698180.4240.4750.56170.4340.5070.637190.4120.4620.54780.4790.5540.6832

12、00.4010.4500.53590.4410.5120.635210.3910.4400.524100.4090.4770.597220.3820.4300.514110.5170.5760.679230.3740.4210.505120.4900.5460.642240.3670.4130.497130.4670.5210.615250.3600.4060.489140.4920.5460.641(三) Grubbs 检验法此法适用于检验多组测定均值的一致性检验和剔除异常值的检验。 也适用于检验一 组测量值和剔除一组测量值中的异常值。当一组数据中仅有一个可疑值时，用 Grubbs 检验法可

13、以得到满意的结果，而有多个可疑值时此法并不理想。检验方法如下：将一组数据从小到大依次排列为 X1，X2 ，Xi ，Xn-1，Xn。若认为最小值 X1或最大值 Xn 可疑时，用下列公式之一计算统计量 T：T X X1式中： X 算术平均值；S标准差。将求得的 T 值与表中的临界值 T(a,n)比较，如 T>T(a,n)，此可疑值应舍弃；若 T<T(a,n)， 则此可疑值应保留。如有两个可疑值，先用上法舍去一个后，重新计算X 及 S，再对第二个可疑值进行检验。表 2-3-2 Grubbs 检验临界值表n显著性水平 ( )n显著性水平 ( )0.050.010.050.0131.151.

14、15152.412.7141.461.49162.442.7551.671.75172.472.7961.821.94182.502.8271.942.10192.532.8582.032.22202.562.8892.112.32212.582.91102.182.41222.602.94112.232.48232.622.96122.292.55242.642.99132.332.61252.663.01142.372.66三、测量误差(一 ) 测量误差产生的原因 测量误差是被测量的单个结果和真值之差。 测量误差产生的原因主要有以下三个方 面：(1) 观测者：由于观测者感觉器官鉴别能力有一

15、定的局限性，在仪器安置、照准、 读数等方面都产生误差。同时观测者的技术水平、工作态度及状态都对测量成果的质量有 直接影响。(2) 测量仪器：每种仪器有一定限度的精密程度，因而测量值的精确度也必然受到 一定的限度。同时仪器本身在设计、制造、安装、校正等方面也存在一定的误差，如钢 尺的刻划误差、度盘的偏心等。(3) 外界条件：测量时所处的外界条件，如温度、湿度、大气折光等因素都会对测 量结果产生一定的影响。外界条件发生变化，测量结果将随之变化。(二 ) 测量误差分类 测量工作中，尽管观测者按照规定的操作要求认真进行测量，但在同一量的各测量 值之间，或在各测量值与其理论值之间仍存在差异。也就是说，测

16、量误差是客观存在， 不可避免的。研究测量误差的来源及其规律，采取各种措施消除或减小其误差影响，是 测量工作者的一项主要任务。测量误差是一个单个数值，任意一个误差均可分解为随机误差和系统误差的代数和。下面仅对系统误差和随机误差作简单介绍。1 系统误差在重复性条件下， 对同一被测量进行无限多次测量所得结果的平均值与被测量的真 值之差，称为系统误差。例如，用一把名义为 30m 长、而实际长度为 30.02m的钢尺丈 量距离，每量一尺段就要少量 2cm，该2cm 误差在数值上和符号上都是固定的， 且随着 尺段的倍数呈累积性。系统误差的产生一般与测量仪器或装置本身的准确程度有关， 与测量者本身的状况 及

17、测量时的外界条件有关。系统误差是独立于测量次数的，因此不能在相同的测量条件 下通过增加测量次数的方法使之减小。例如，在检定或测试中， 标准仪器或设备的本身存在一定的误差。 在进行计量检定， 向下一级标准量值传递时，标准值的误差即属系统误差。因此，某些仪器或设备，在测 量前须先进行调零位，若因测量前未调零位或存在调零偏差，使标准仪器在测量前即具 有某一初始值，该初始值必然影响测量结果，给测量结果带来误差。这种误差称为零位 误差。某些仪器设备，如未按要求放置、未正确接地或屏蔽或未用专用连接导线，也会给 测量结果带来误差。测量时的客观环境条件也会给测定结果带来误差。如，重力加速度 因地点不同而不同，

18、如未加以适当的修正也会给测量结果带来误差。这种误差是因为客 观环境因素引起的，一般把它称为环境误差。系统误差对测量成果影响较大，且一般具有累积性，应尽可能消除或限制到最小程 度，其常用的处理方法有：(1) 检校仪器，把系统误差降低到最小程度。(2) 加改正数，在测量结果中加入系统误差改正数，如尺长改正等。(3) 采用适当的测量方法，使系统误差相互抵消或减弱，如测水平角时采用盘左、 盘右现在每个测回起始方向上改变度盘的配置等。2 随机误差 测量结果与在重复条件下，对同一被测量进行无限多次测量所得结果的平均值之 差，称为随机误差或偶然误差。在相同条件下作一系列测量，若误差的大小及符号都表现出偶然性，即从单个误差 来看，该误差的大小及符号没有规律， 但从大量误差的总体来看， 具有一定的统计规律， 这类误差称为随机误差。例如用经纬仪测角时，测角误差实际上是许多微小误差项的总 和，而每项微小