数字运算、修约、极限数值表示方法讲义

1、数字运算、修约、极限数值表示 方法讲义数字运算、修约、极限数值判定与表示方法一、数字运算二、数值修约规则三、极限数值的表示方法和判定方法一、数字运算在检验过程中，对检验所得的数据如何进行计算、整理,如何按照技术标准要求作由判定，是检验人员必须掌握的基础知识。1、有效位数在检验过程中，记录数据和计算结果究竟应该保留几位 数字？有的检验人员认为记录和计算保留的位数越多越准 确，其实不然。由于检验方法、仪器设备和人们感官分析能 力的限制，测量中只能读取一定位数的数字。 读取位数过多， 不但不能提高检验结果的准确度，反而使计算工作量大大增加，而且还常常容易由错；读取位数过少，则表达不由测量 的准确度。

2、为了确切表达测量结果的位数，我们给由有效位 数的概念。若截取得到的近似数，其绝对误差是末位上的半个单 位，那么这个近似数，从第一个不是零的数字起到这个数位 止，所有数字均称为有效数字。 一个进似数有n个有效数字， 也叫这个进似数有 n个有效位数。如 3.1416、2.1173、 180.00 ,均为五位有效数；而 0.00274、274、27.4 ,均为三 位有效数。在判断有效数字时，要特别注意0这个数字，它可以是有效数字，也可以不是有效数字，例如： 0.00274,前面三个 0都不是有效数字，而180.00,后面三个0却都是有效数字。 因为前者与测量的精确度无关，而后者却有关。为了说明这 个

3、问题，我们不妨各都去掉两个0,即0.00274=0.274 X 10-2表示其真值为：(0.27350.2745) X 10-2 其绝对误差为：0.0005 X 102=0.000005而0.00274的绝对误差也是 0.000005,故去掉前面两个 0后, 其绝对误差不变；而对于 180.00,若去掉后面两个0,成为: 180.00=180则其真值所在区间为：(180.5 179.5)其绝对误差为0.5;但对于180.00来说，其真值所在区间应 为：(180.005 179.995)其绝对误差为0.005,显然，由于去掉右边两个 0,而使绝对 误差由0.005变成了 0.5,这样就不对了。因

4、此， 绝对不可象对待准确数那样，随随便便去掉小数部分右边的0,或在小数部分右边加上 0,因为这样做的结果，虽不会改变这个数 的大小，却改变了这个近似数的精确度。对任一数值，其有效位数按下述原则确定：对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零） 的个数；对其他十进位数，从非零数字最左一位向右数而得 到的位数，就是有效位数。例1: 3.2、0.32、0.0032均为两位有效位数；0.320为三数有效位数；10.00为四位有效位数；12.490为五位有效位数。例 2: 35000,若有两个无效零，则为三位有效位数，应写为 350X 102;若有

5、三个无效零，则为两位有效位数，应写为35 X 103o例3: 12.490为五位有效位数；10.00为四位有效位数。2、有效位数的选择(1)记录数值时有效位数的选择读取或记录测量数据时，一般按仪器最小分度值来读数。对于那些需要做进一步运算的数值，则应在按最小分度值读取后再估读一位。读数时，小数末尾的零不能随意取舍。(2)计算过程中有效位数的选择 加减。几个数相加或相减时，以小数部分位数最少 的一数为准，其余各数均修约或比该数多一位，然后运算。例 1:求 1648.0, 13.65, 0.0082, 1.632, 86.82, 5.135, 316.34, 0.545 的和。解 1648.0+1

6、3.65+0.0082+1.632+86.82+5.135+316.34+0.545- 1648.0+13.65+0.01+1.63+86.82+5.14+316.34+0.54=2071.93=2071.9 乘除。几个数相乘或相除时，以有效位数最少的一 数为准，其余各数均修约成比该数多一位，然后运算。例 2: 0.0121 X 1.36872 的积解：0.0121 X 1.36872-0.0121 X 1.369=0.01656490.0166 乘方或开方。原数有几位有效位数，计算结果就可保留几位。若还参加运算，则应多保留一位。常数。对于某些常数，如 兀、e及某些倍数或分数可视为无限有效。计

7、算过程中可根据需要确定有效位数。以上都是一些最简单的，通常所说的“一步运算”的问 题，但在实际问题中遇到的计算，并不都这样简单，往往在 一个式子里会包括几种不同的运算，即所谓“多步运算”的 问题，在多步运算的问题中，中间步骤计算的结果所保留的 数字要比加减、乘除、乘方和开方的数字计算法则的规定多 由一位。止匕外，在计算算术平均值时，若四个以上的数相平均， 则平均值的有效位数可增加一位，这是因为平均值的误差要比其它任何一个数的误差小。二、数值修约规则在数据处理中，当有效位数确定后，对有效位数之后的 数字要进行修约处理。 修约按照国家标准 GB8/T8170-87数 值修约规则进行。（一）修约间隔

8、修约间隔是确定修约保留位数的一种方式。修约间隔的 数值一经给由，修约位数为该数值的整数倍。例如：指定修 约间隔为0.1，修约值总在0.1的整数倍中选取，即修约值 保留一位小数。（二）半个单位修约和 0.2单位修约1、0.5单位修约（半个单位修约）指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5个单位。具体办法是：对拟修约值乘以 2,按指定数位依照一般进舍规则修约，将所得值除以 2即得修约值。例如，将下列数值修约到个数位的半个单位（或修约间隔为0.5 )拟修约值乘以22A 修约值修约值(A)(2A)（修约间隔：1 ）（修约间隔：0.5 ）60.25120.5012060.060.381

9、20.7612160.5-60.75-121.50-122-61.0172、0.2单位修约指修约间隔为指定数位的0.2单位，即修约到指定数位的0.2个单位。具体办法是，对拟修约值乘以5,按指定数值依照进舍规则修约，将所得值除以 5即得修约值。例如：将下列数值修约到百数位的0.2单位（或修约间隔为20)拟修约值乘以5 5A 修约值修约值(A)（2A）（修约间隔：100）（修约间隔：20 ）8304150420084084242504200840-930-4650-4600-920（三）进舍规则进舍规则可概括为如下口诀：“四舍六入五考虑，五后非零则进一，五后皆零视奇偶，五前为偶应舍去，五前为奇 则

10、进一。”1、拟舍弃数字的最左一位数字小于5时，则舍去即保留的各位数字不变。例1:将12.1498修约到一位小数，得 12.1。例2:将12.1498修约到两位有效位数，得 12。2、将某一数值修约为有效位数 N位，当第N+1位的数 字小于5时，舍去；当第N+1位的数字大于5,或者是5且 其后并非全部为零时，则进一。例如，下例左边的数值修约为三位有效位数得右边结 果：2.3241->2.32, 2.3263->2.33, 2.32501->2.333、将某些数修约为有效位数 N位，当第N+1位数字为 5,而右边无数字或皆为零时，看保留数字是奇数还是偶数。若保留数字的最末一位为偶

11、数时（2、4、6、8）,舍去；保留数字的最末一位为奇数时（1、3、5、7、9）,进一。例1:间隔为0.1 （或10-1）拟修约数值修约值1.0501.00.3500.4例2:修约间隔为1000 （或103）拟修约数值修约值25002X 103 （特定时可写为 2000）35004X 103 （特定时可写为 4000）例3:将下列数字修约成两位有效位数拟修约数值修约值0.03250.0323250032X 103 （特定时可写为 32000）（四）负数修约先将负数的绝对值按上述方式进行修约，然后在修约值前面加上负号。例1:将下列数字修约到“十”数位拟修约数值修约值-355-36X 10（特定时可

12、写为-360）-325-32X 10（特定时可写为-320）例2:将下列数字修约成两位有效位数拟修约数修约值-365-36X 10（特定时可写为-360）-0.0365-0.036（五）不许连续修约1、拟修约数值应在确定修约位数后一次修约获得结果， 而不得多次按上述规定连续修约。例1: 7.35456要求三位有效位数时为7.35。不正确的做法：7.354546 7.35455 7.3546 7.355 -7.36。例2:修约15.4546，修约间隔为1正确的做法：15.4546 -15不正确的做法：15.4546 15.455 15.46 15.5 - 162、在具体实施中，有时测试部门先将获

13、得数值按指定 的修约位数多一位或几位报由，而后由其他部门判定。为避 免产生连续修约的错误，要求在报由数值最右的非零数字为5时，应在数值后面加“ （+）”或“（-）”或不加号，以分别 表明已进行过舍、进或未舍未进。例如：16.50 （+）表式实际数大于 16.50,经修约舍弃 成为16.50; 16.50 （-）表示实际值小于 16.50,经修约进 一,成为 16.50 。三、极限数值判定与表示方法（一）书写极限数值的一般原则1、 标准中规定考核的以数量形式给由的指标或参数等，应当规定极限数值，它表示符合标准要求的数值范围 的界限。通过给由最小极限值和（或）最大极限值，或给 由基本数值和极限偏差

14、值等方式表达。2、 标准中极限数值的形式及书写位数应该适当。它的有效位数应全部写生。书写位数表示的精确程度，应 能保证产品或其它标准化对象的应有性能和质量，从而它也规定了为检验实际产品或其它标准化对象而得到的测 定值或其计算值应具有的相应精确程度。（二）表达极限数值的基本用语及其涵义1、 基本用语及其涵义基本用语符号特定情形下的基本用语涵义大于A >A多于A高于AA值不符合要求小于A < A少于A低于AA值不符合要求大于或等于A >A不小于A不少于A不低于A A值符合要求小于或等于A <A 不大于A不多于A不高于A A值符合要求 基本用语也可组合使用，表明极限数值范围不

15、小于不大于例：C (%)0.120.19Si (%)0.170.37不多于、不少于、多于、少于等用语宜用于叙述时间、距 离指标，以及仅取整数值的计算指标等场合。如：使用寿 命不少于3000ho不高于、不低于、高于、低于等用语宜用于叙述温度、高 度(以向上作为正方向)指标等场合。如：所用柴油闪点 不低于60 Co2、 允许的习惯用语及其涵义必要时，允许采用下列用语“ A及以上”，指数值大于或等于 A (>A);“A及以下”，指数值小于或等于 A (< A)o“超过A”，指数值大于A (>A);“不足A”，指数值小于 A (v A);“至多A”，指数值小于或等于 A (WA);“

16、至少A"指数值大于或等于 A (> A)o3、 带有极限偏差的数值及其涵义某基本数值A带有绝对极限上偏差值+bi和绝对极限偏 差值-b2即A+b1-b2,指从(A- b2)到(A+ bi)符合标准要 求。例：80+2-imm ,指从79mm到82mm符合标准要求。某基本数值A带有相对极限上偏差值 +bi%和相对极限 下偏差-b2% ,即A+b1-b2% ,指实测值或其计算值 R对于 A的相对偏差值（R-A ） /A从-b2%到+bi%符合标准要 求。若某个极限偏差值或 B已超生标准要求，则应附加括 号，写成“ B （不含B）”。例：80+2-imm （不含2）,指从79mm到接

17、近但不足 82mm 符合标准要求。（三）检测结果的判定方法根据GB/T1250-89极限数值的表示方法和判定方法 ， 在判定检测数据是否符合标准要求时，应将检验所得的测定值或其计算值与标准规定的极限数值作比较。比较的方法有全数值比较法和修约值比较法两种。1、全数值比较法标准中各种极限数值（包括带有极限偏差值的数值）未 加说明时，均指采用全数值比较法。该方法是：将检验所得的测定值或其计算值不经修约处理（或按GB/T8170作修约处理，但应表明它是经舍、进或 未舍未进而得），而用数值的全部数字与标准规定的极限数 值作比较，只要越由规定的极限数值（不论越由程度大小） ， 都判定为不符合标准要求。示例

18、见下表。极限数值测定值或其计算值修约值是否符合标准要求>56X1055556X10(-)不符55956X10(-)不符56056 X 10符合56556 X10(+)符合>97.097.0197.0(+)符合97.0097.0符合96.9897.0 (-)不符96.9496.9 (+)不符0.300.600.2990.30(-)不符0.3000.30符合0.6000.60符合0.6010.60 (+)不符0.300.600.6050.60(+)不符2、修约值比较法凡标准中说采用修约值比较法的，应采用修约值比较法。 将测定值或其计算值按 GB/T8170进行修约，修约位数与标准规定的极限数值书写位数一致。 将修约后的数值与标准