数字运算、修约、极限数值表示方法讲义

1、数字运算、修约、极限数值判定与表示方法一、 数字运算二、 数值修约规则三、 极限数值的表示方法和判定方法一、 数字运算在检验过程中，对检验所得的数据如何进行计算、整理，如何按照技术标准要求作出判定，是检验人员必须掌握的基础知识。1、有效位数在检验过程中，记录数据和计算结果究竟应该保留几位数字？有的检验人员认为记录和计算保留的位数越多越准确，其实不然。由于检验方法、仪器设备和人们感官分析能力的限制，测量中只能读取一定位数的数字。读取位数过多，不但不能提高检验结果的准确度，反而使计算工作量大大增加，而且还常常容易出错；读取位数过少，则表达不出测量的准确度。为了确切表达测量结果的位数，我们给出有效位

2、数的概念。若截取得到的近似数，其绝对误差是末位上的半个单位，那么这个近似数，从第一个不是零的数字起到这个数位止，所有数字均称为有效数字。一个进似数有n个有效数字，也叫这个进似数有n个有效位数。如3.1416、2.1173、180.00，均为五位有效数；而0.00274、274、27.4，均为三位有效数。在判断有效数字时，要特别注意0这个数字，它可以是有效数字，也可以不是有效数字，例如：0.00274，前面三个0都不是有效数字，而180.00，后面三个0却都是有效数字。因为前者与测量的精确度无关，而后者却有关。为了说明这个问题，我们不妨各都去掉两个0，即 0.00274=0.274×1

3、0-2表示其真值为： （0.27350.2745）×10-2其绝对误差为：0.0005×10-2=0.000005而0.00274的绝对误差也是0.000005，故去掉前面两个0后，其绝对误差不变；而对于180.00，若去掉后面两个0，成为：180.00=180则其真值所在区间为：（180.5 179.5）其绝对误差为0.5；但对于180.00来说，其真值所在区间应为： （180.005 179.995）其绝对误差为0.005，显然，由于去掉右边两个0，而使绝对误差由0.005变成了0.5，这样就不对了。因此，绝对不可象对待准确数那样，随随便便去掉小数部分右边的0，或在小数

4、部分右边加上0，因为这样做的结果，虽不会改变这个数的大小，却改变了这个近似数的精确度。 对任一数值，其有效位数按下述原则确定：对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数；对其他十进位数，从非零数字最左一位向右数而得到的位数，就是有效位数。例1：3.2、0.32、0.0032均为两位有效位数； 0.320为三数有效位数；10.00为四位有效位数；12.490为五位有效位数。例2：35000，若有两个无效零，则为三位有效位数，应写为350×102；若有三个无效零，则为两位有效位数，应写为35×103。例3：12.4

5、90为五位有效位数；10.00为四位有效位数。2、有效位数的选择（1）记录数值时有效位数的选择读取或记录测量数据时，一般按仪器最小分度值来读数。对于那些需要做进一步运算的数值，则应在按最小分度值读取后再估读一位。读数时，小数末尾的零不能随意取舍。（2）计算过程中有效位数的选择 加减。几个数相加或相减时，以小数部分位数最少的一数为准，其余各数均修约或比该数多一位，然后运算。例1：求1648.0，13.65，0.0082，1.632，86.82，5.135，316.34，0.545的和。解1648.0+13.65+0.0082+1.632+86.82+5.135+316.34+0.5451648.

6、0+13.65+0.01+1.63+86.82+5.14+316.34+0.54=2071.932071.9 乘除。几个数相乘或相除时，以有效位数最少的一数为准，其余各数均修约成比该数多一位，然后运算。例2：0.0121×1.36872的积解：0.0121×1.368720.0121×1.369=0.01656490.0166乘方或开方。原数有几位有效位数，计算结果就可保留几位。若还参加运算，则应多保留一位。常数。对于某些常数，如、e及某些倍数或分数可视为无限有效。计算过程中可根据需要确定有效位数。以上都是一些最简单的，通常所说的“一步运算”的问题，但在实际问题中

7、遇到的计算，并不都这样简单，往往在一个式子里会包括几种不同的运算，即所谓“多步运算”的问题，在多步运算的问题中，中间步骤计算的结果所保留的数字要比加减、乘除、乘方和开方的数字计算法则的规定多出一位。此外，在计算算术平均值时，若四个以上的数相平均，则平均值的有效位数可增加一位，这是因为平均值的误差要比其它任何一个数的误差小。二、数值修约规则在数据处理中，当有效位数确定后，对有效位数之后的数字要进行修约处理。修约按照国家标准GB8/T8170-87数值修约规则进行。（一）修约间隔修约间隔是确定修约保留位数的一种方式。修约间隔的数值一经给出，修约位数为该数值的整数倍。例如：指定修约间隔为0.1，修约

8、值总在0.1的整数倍中选取，即修约值保留一位小数。（二）半个单位修约和0.2单位修约1、 0.5单位修约（半个单位修约）指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5个单位。具体办法是：对拟修约值乘以2，按指定数位依照一般进舍规则修约，将所得值除以2即得修约值。例如，将下列数值修约到个数位的半个单位（或修约间隔为0.5）拟修约值 乘以2 2A修约值 修约值 （A） （2A） （修约间隔:1） （修约间隔:0.5） 60.25 120.50 120 60.060.38 120.76 121 60.5-60.75 -121.50 -122 -61.02、0.2单位修约指修约间隔为指定数

9、位的0.2单位，即修约到指定数位的0.2个单位。具体办法是，对拟修约值乘以5，按指定数值依照一般进舍规则修约，将所得值除以5即得修约值。例如：将下列数值修约到百数位的0.2单位（或修约间隔为20）拟修约值 乘以5 5A修约值 修约值（A） （2A） （修约间隔:100） （修约间隔:20） 830 4150 4200 840 842 4250 4200 840-930 -4650 -4600 -920（三）进舍规则进舍规则可概括为如下口诀：“四舍六入五考虑，五后非零则进一，五后皆零视奇偶，五前为偶应舍去，五前为奇则进一。”1、 拟舍弃数字的最左一位数字小于5时，则舍去即保留的各位数字不变。例1

10、：将12.1498修约到一位小数，得12.1。例2：将12.1498修约到两位有效位数，得12。2、将某一数值修约为有效位数N位，当第N+1位的数字小于5时，舍去；当第N+1位的数字大于5，或者是5且其后并非全部为零时，则进一。例如，下例左边的数值修约为三位有效位数得右边结果：2.32412.32，2.32632.33，2.325012.333、将某些数修约为有效位数N位，当第N+1位数字为5，而右边无数字或皆为零时，看保留数字是奇数还是偶数。若保留数字的最末一位为偶数时（2、4、6、8），舍去；保留数字的最末一位为奇数时（1、3、5、7、9），进一。例1：间隔为0.1（或10-1）拟修约数值

11、 修约值1.050 1.0 0.350 0.4例2：修约间隔为1000（或103）拟修约数值 修约值2500 2×103 （特定时可写为2000） 3500 4×103 （特定时可写为4000） 例3：将下列数字修约成两位有效位数 拟修约数值 修约值0.0325 0.03232500 32×103 （特定时可写为32000） （四）负数修约先将负数的绝对值按上述方式进行修约，然后在修约值前面加上负号。例1：将下列数字修约到“十”数位拟修约数值 修约值 -355 -36×10 （特定时可写为-360） -325 -32×10 （特定时可写为-32

12、0） 例2：将下列数字修约成两位有效位数 拟修约数 修约值 -365 -36 ×10（特定时可写为-360） -0.0365 -0.036 （五）不许连续修约1、拟修约数值应在确定修约位数后一次修约获得结果，而不得多次按上述规定连续修约。例1：7.35456要求三位有效位数时为7.35。不正确的做法：7.3545467.354557.35467.3557.36。例2：修约15.4546，修约间隔为1正确的做法：15.454615不正确的做法：15.454615.45515.4615.5162、在具体实施中，有时测试部门先将获得数值按指定的修约位数多一位或几位报出，而后由其他部门判定。

13、为避免产生连续修约的错误，要求在报出数值最右的非零数字为5时，应在数值后面加“（+）”或“（-）”或不加号，以分别表明已进行过舍、进或未舍未进。例如：16.50（+）表式实际数大于16.50，经修约舍弃成为16.50；16.50（-）表示实际值小于16.50，经修约进一成为16.50。三、极限数值判定与表示方法（一）书写极限数值的一般原则1、 标准中规定考核的以数量形式给出的指标或参数等，应当规定极限数值，它表示符合标准要求的数值范围的界限。通过给出最小极限值和（或）最大极限值，或给出基本数值和极限偏差值等方式表达。2、 标准中极限数值的形式及书写位数应该适当。它的有效位数应全部写出。书写位数

14、表示的精确程度，应能保证产品或其它标准化对象的应有性能和质量，从而它也规定了为检验实际产品或其它标准化对象而得到的测定值或其计算值应具有的相应精确程度。 （二）表达极限数值的基本用语及其涵义1、 基本用语及其涵义基本用语 符号 特定情形下的基本用语 涵义 大于A A 多于A 高于A A值不符合要求小于A A 少于A 低于A A值不符合要求大于或等于A A 不小于A不少于A 不低于A A值符合要求 小于或等于A A 不大于A 不多于A 不高于A A值符合要求 基本用语也可组合使用，表明极限数值范围。 不小于 不大于 例：C（%） 0.12 0.19 Si（%） 0.17 0.37 不多于、不少于

15、、多于、少于等用语宜用于叙述时间、距离指标，以及仅取整数值的计算指标等场合。如：使用寿命不少于3000h。 不高于、不低于、高于、低于等用语宜用于叙述温度、高度（以向上作为正方向）指标等场合。如：所用柴油闪点不低于60。 2、 允许的习惯用语及其涵义必要时，允许采用下列用语 “A及以上”，指数值大于或等于A（A）；“A及以下”，指数值小于或等于A（A）。 “超过A”，指数值大于A（A）；“不足A”，指数值小于A（A）；“至多A”，指数值小于或等于A（A）；“至少A”，指数值大于或等于A（A）。3、 带有极限偏差的数值及其涵义某基本数值A带有绝对极限上偏差值+b1和绝对极限偏差值-b2即A+b1

16、-b2，指从（A- b2）到（A+ b1）符合标准要求。例：80+2-1mm，指从79mm到82mm符合标准要求。某基本数值A带有相对极限上偏差值+b1%和相对极限下偏差-b2%，即A+b1-b2%，指实测值或其计算值R对于A的相对偏差值（R-A）/A从-b2%到+b1%符合标准要求。若某个极限偏差值或B已超出标准要求，则应附加括号，写成“B（不含B）”。例：80+2-1mm（不含2），指从79mm到接近但不足82mm符合标准要求。（三）检测结果的判定方法根据GB/T1250-89极限数值的表示方法和判定方法，在判定检测数据是否符合标准要求时，应将检验所得的测定值或其计算值与标准规定的极限数值

17、作比较。比较的方法有全数值比较法和修约值比较法两种。1、全数值比较法标准中各种极限数值（包括带有极限偏差值的数值）未加说明时，均指采用全数值比较法。该方法是：将检验所得的测定值或其计算值不经修约处理（或按GB/T8170作修约处理，但应表明它是经舍、进或未舍未进而得），而用数值的全部数字与标准规定的极限数值作比较，只要越出规定的极限数值（不论越出程度大小），都判定为不符合标准要求。示例见下表。极限数值 测定值或其计算值 修约值 是否符合标准要求56×10 555 56×10(-) 不符 559 56×10(-) 不符 560 56 ×10 符合 565

18、56 ×10(+) 符合 97.0 97.01 97.0(+) 符合 97.00 97.0 符合 96.98 97.0（-） 不符 96.94 96.9（+） 不符 0.300.60 0.299 0.30(-) 不符 0.300 0.30 符合 0.600 0.60 符合 0.601 0.60（+） 不符 0.300.60 0.605 0.60(+) 不符2、修约值比较法凡标准中说采用修约值比较法的，应采用修约值比较法。 将测定值或其计算值按GB/T8170进行修约，修约位数与标准规定的极限数值书写位数一致。 将修约后的数值与标准规定极限数值进行比较，以判定实际指标或参数是否符合标准要求。示例见下表。极限数值 测定值或