数字运算、修约、极限数值表示方法讲义

1、数字运算、修约、极限数值表示 方法讲义 数字运算、修约、极限数值判定与表示方法 一、数字运算 二、数值修约规则 三、极限数值的表示方法和判定方法 一、数字运算 在检验过程中，对检验所得的数据如何进行计算、整理， 如何按照技术标准要求作出判定，是检验人员必须掌握的基 础知识。 1、有效位数 在检验过程中，记录数据和计算结果究竟应该保留几位 数字？有的检验人员认为记录和计算保留的位数越多越准 确，其实不然。由于检验方法、仪器设备和人们感官分析能 力的限制，测量中只能读取一定位数的数字。 读取位数过多， 不但不能提高检验结果的准确度，反而使计算工作量大大增 加，而且还常常容易出错；读取位数过少，则表

2、达不出测量 的准确度。为了确切表达测量结果的位数，我们给出有效位 数的概念。 若截取得到的近似数，其绝对误差是末位上的半个单 位，那么这个近似数，从第一个不是零的数字起到这个数位 止，所有数字均称为有效数字。 一个进似数有n个有效数字， 也叫这个进似数有 n个有效位数。如 3.1416、2.1173、 180.00，均为五位有效数；而 0.00274、274、27.4，均为三 位有效数。 在判断有效数字时，要特别注意0这个数字，它可以是 有效数字，也可以不是有效数字，例如：0.00274，前面三个 0都不是有效数字，而180.00,后面三个0却都是有效数字。 因为前者与测量的精确度无关，而后者

3、却有关。为了说明这 个问题，我们不妨各都去掉两个0, 即0.00274=0.274 X 10-2 表示其真值为： (0.27350.2745) X 10-2 其绝对误差为： 0.0005 X 10-2=0.000005 而0.00274的绝对误差也是 0.000005,故去掉前面两个 0后， 其绝对误差不变；而对于 180.00,若去掉后面两个0,成为: 180.00=180 则其真值所在区间为： (180.5 179.5) 其绝对误差为0.5;但对于180.00来说，其真值所在区间应 为：(180.005 179.995) 其绝对误差为0.005,显然，由于去掉右边两个 0,而使绝对 误差由

4、0.005变成了 0.5，这样就不对了。因此， 绝对不可象 对待准确数那样，随随便便去掉小数部分右边的0，或在小 数部分右边加上 0,因为这样做的结果，虽不会改变这个数 的大小，却改变了这个近似数的精确度。 对任一数值，其有效位数按下述原则确定： 对没有小数位且以若干个零结尾的数值，从非零数字最 左一位向右数得到的位数减去无效零（即仅为定位用的零） 的个数；对其他十进位数，从非零数字最左一位向右数而得 到的位数，就是有效位数。 例1： 3.2、0.32、0.0032均为两位有效位数； 0.320为三数有效位数； 10.00为四位有效位数； 12.490为五位有效位数。 例 2： 35000,

5、若有两个无效零，则为三位有效位数，应写为 350X 102； 若有三个无效零，则为两位有效位数，应写为 35 X 103。 例3: 12.490为五位有效位数； 10.00为四位有效位数。 2、有效位数的选择 (1) 记录数值时有效位数的选择 读取或记录测量数据时，一般按仪器最小分度值来读 数。对于那些需要做进一步运算的数值，则应在按最小分度 值读取后再估读一位。 读数时，小数末尾的零不能随意取舍。 (2) 计算过程中有效位数的选择 加减。几个数相加或相减时，以小数部分位数最少 的一数为准，其余各数均修约或比该数多一位， 然 后运算。 例 1:求 1648.0，13.65，0.0082，1.6

6、32，86.82，5.135, 316.34，0.545 的和。 解 1648.0+13.65+0.0082+1.632+86.82+5.135+316.34+0.545 1648.0+13.65+0.01+1.63+86.82+5.14+316.34+0.54 =2071.93 2071.9 乘除。几个数相乘或相除时，以有效位数最少的一 数为准，其余各数均修约成比该数多一位，然后运 算。 例 2: 0.0121 X 1.36872 的积 解：0.0121 X 1.368720.0121 X 1.369=0.0165649 0.0166 乘方或开方。原数有几位有效位数，计算结果就可保 留几位。

7、若还参加运算，则应多保留一位。 常数。对于某些常数，如n、e及某些倍数或分数可 视为无限有效。计算过程中可根据需要确定有效位数。 以上都是一些最简单的，通常所说的“一步运算”的问 题，但在实际问题中遇到的计算，并不都这样简单，往往在 一个式子里会包括几种不同的运算，即所谓“多步运算”的 问题，在多步运算的问题中，中间步骤计算的结果所保留的 数字要比加减、乘除、乘方和开方的数字计算法则的规定多 出一位。 此外，在计算算术平均值时，若四个以上的数相平均， 则平均值的有效位数可增加一位，这是因为平均值的误差要 比其它任何一个数的误差小。 二、数值修约规则 在数据处理中，当有效位数确定后，对有效位数之

8、后的 数字要进行修约处理。 修约按照国家标准 GB8/T8170-87数 值修约规则进行。 （一）修约间隔 修约间隔是确定修约保留位数的一种方式。修约间隔的 数值一经给出，修约位数为该数值的整数倍。例如：指定修 约间隔为0.1，修约值总在0.1的整数倍中选取，即修约值 保留一位小数。 （二）半个单位修约和 0.2单位修约 1、0.5单位修约（半个单位修约） 指修约间隔为指定数位的0.5单位，即修约到指定数位 的0.5个单位。 具体办法是：对拟修约值乘以2,按指定数位依照一般 进舍规则修约，将所得值除以2即得修约值。 例如，将下列数值修约到个数位的半个单位（或修约间 隔为0.5） 拟修约值 乘以

9、2 2A 修约值 修约值 （A） （2A） （修约间隔：1） （修约间隔：0.5） 60.25 120.50 120 60.0 60.38 120.76 121 60.5 -60.75 -121.50 -122 -61.0 2、0.2单位修约 指修约间隔为指定数位的0.2单位，即修约到指定数位 的0.2个单位。 具体办法是，对拟修约值乘以5，按指定数值依照 一般 进舍规则修约，将所得值除以5即得修约值。 例如：将下列数值修约到百数位的0.2单位（或修约间隔为 20） 拟修约值 乘以5 5A 修约值修约值 （A）（ 2A）（修约间隔:100）（修约间隔:20） 830 4150 4200 840

10、 842 4250 4200 840 930 -4650 -4600 -920 （三）进舍规则 进舍规则可概括为如下口诀：“四舍六入五考虑，五后 非零则进一，五后皆零视奇偶，五前为偶应舍去，五前为奇 则进一。” 1、拟舍弃数字的最左一位数字小于5时，则舍去 即 保留的各位数字不变。 例1:将12.1498修约到一位小数，得12.1。 例2：将12.1498修约到两位有效位数，得12。 2、 将某一数值修约为有效位数 N位，当第N+1位的数 字小于5时，舍去；当第N+1位的数字大于5,或者是5且 其后并非全部为零时，则进一。 例如，下例左边的数值修约为三位有效位数得右边结 果： 2.32412.

11、32, 2.32632.33, 2.325012.33 3、 将某些数修约为有效位数N位，当第N+1位数字为 5,而右边无数字或皆为零时，看保留数字是奇数还是偶数。 若保留数字的最末一位为偶数时（2、4、6、8）,舍去；保 留数字的最末一位为奇数时（1、3、5、7、9）,进一。 例1间隔为0.1 （或10-1） 拟修约数值 修约值 1.050 1.0 0.350 0.4 例2:修约间隔为1000 (或 103) 拟修约数值 修约值 2500 2X 103 （特定时可写为 2000） 3500 4X 103 （特定时可写为 4000） 例3:将下列数字修约成两位有效位数 拟修约数值 修约值 0.

12、0325 0.032 32500 32 X 103 （特定时可写为 32000） （四）负数修约 先将负数的绝对值按上述方式进行修约，然后在修约值 前面加上负号。 例1:将下列数字修约到 “十”数位 拟修约数值 修约值 -355 -36 X 10 （特定时可写为 -360) -325 -32 X 10 （特定时可写为 -320) 例2:将下列数字修约成两位有效位数 拟修约数 修约值 -365 -36 X 10 （特定时可写为 -360) -0.036 -0.0365 (五)不许连续修约 1、拟修约数值应在确定修约位数后一次修约获得结果， 而不得多次按上述规定连续修约。 例1: 7.35456要

13、求三位有效位数时为 7.35。 不正确的做法： 7.354546 7.35455 7.3546 7.355 7.36。 例2 :修约15.4546，修约间隔为1 正确的做法： 15.4546 15 不正确的做法： 15.4546 15.455 15.46 15.5 16 2、在具体实施中，有时测试部门先将获得数值按指定 的修约位数多一位或几位报出，而后由其他部门判定。为避 免产生连续修约的错误，要求在报出数值最右的非零数字为 5时，应在数值后面加“ (+)”或“(-)”或不加号，以分别 表明已进行过舍、进或未舍未进。 例如：16.50 ( +)表式实际数大于 16.50，经修约舍弃 成为16.

14、50 ; 16.50 (-)表示实际值小于 16.50，经修约进 一成为 16.50。 二、极限数值判定与表示方法 （一）书写极限数值的一般原则 1、标准中规定考核的以数量形式给出的指标或参数 等，应当规定极限数值，它表示符合标准要求的数值范围 的界限。通过给出最小极限值和（或）最大极限值，或给 出基本数值和极限偏差值等方式表达。 2、标准中极限数值的形式及书写位数应该适当。 它的有效位数应全部写出。书写位数表示的精确程度，应 能保证产品或其它标准化对象的应有性能和质量，从而它 也规定了为检验实际产品或其它标准化对象而得到的测 定值或其计算值应具有的相应精确程度。 （二）表达极限数值的基本用语

15、及其涵义 1、 基本用语及其涵义 基本用语 符号 特定情形下的基本用语 涵义 大于A A 多于A 高于A A值不符合要求 小于A v A 少于A 低于A A值不符合要求 大于或等于A A 不小于A不少于A不低于 A A值符合要 求小于或等于A A); “A及以下”，指数值小于或等于 A ( A); “不足A”，指数值小于 A (v A); “至多A”，指数值小于或等于 A ( A)。 3、带有极限偏差的数值及其涵义 某基本数值A带有绝对极限上偏差值+bi和绝对极限偏 差值-b2即A+b1-b2，指从(A- b 2 )到(A+ bi)符合标准要 求。 例：80+2-imm，指从79mm到82mm

16、符合标准要求。 某基本数值A带有相对极限上偏差值 +bi%和相对极限 下偏差-b2%，即A+b1-b2%，指实测值或其计算值 R对于 A的相对偏差值（R-A）/A丨从-b2%到+bi%符合标准要 求。 若某个极限偏差值或B已超出标准要求，则应附加括 号，写成“ B （不含B）”。 例：80+2-imm （不含2），指从79mm到接近但不足 82mm 符合标准要求。 （三）检测结果的判定方法 根据GB/T1250-89极限数值的表示方法和判定方法， 在判定检测数据是否符合标准要求时，应将检验所得的测定 值或其计算值与标准规定的极限数值作比较。比较的方法有 全数值比较法和修约值比较法两种。 1、全

17、数值比较法 标准中各种极限数值（包括带有极限偏差值的数值）未 加说明时，均指采用全数值比较法。 该方法是：将检验所得的测定值或其计算值不经修约处 理（或按GB/T8170作修约处理，但应表明它是经舍、进或 未舍未进而得），而用数值的全部数字与标准规定的极限数 值作比较，只要越出规定的极限数值（不论越出程度大小）， 都判定为不符合标准要求。示例见下表。 极限数值 测疋值或其计算值 修约值 是否符合标准要求 56 X 10 555 56 X 10(-) 不符 559 56 X 10(-) 不符 560 56 X 10 符合 565 56 X 10(+) 符合 97.0 97.01 97.0(+)

18、符合 97.00 97.0 符合 96.98 97.0 (-) 不符 96.94 96.9 (+) 不符 0.300.60 0.299 0.30(-) 不符 0.300 0.30 符合 0.600 0.60 符合 0.601 0.60 (+) 不符 0.300.60 0.605 0.60(+) 不符 2、修约值比较法 凡标准中说采用修约值比较法的，应采用修约值比较 法。 将测定值或其计算值按 GB/T8170进行修约，修 约位数与标准规定的极限数值书写位数一致。 将修约后的数值与标准规定极限数值进行比较， 以判定实际指标或参数是否符合标准要求。 示例见下表 56 X 10 555 56 X 10 符合 554 55 X 10 不符 556 56 X 10 符合 1.0 1.05 1.0 符合 1.06 1.1 不符 0.98 1.0 符合 0.300.60 0.295 0.30 符合 0.294 0.29 不符 0.605 0.60 符合 0.606 0.61 不符 5.0 0.5 4.46 4.5 符合 4.45 4.4 不符 5.54 5.5 符合 极限数值测定值或其计算值 修约值 是否符合标准要求 由此看出，全数值比较法一般比修约值比较法相对严 3、全数值比较法和修约值比较法的选用 GB/T1250-89 于1989年10月1日起实施。由于 GB/T1250发布实施前