数值修约及运算规则.ppt

数值修约及运算规则,主要内容,一、数值修约概念（1）概念；（2）修约规则；（3）其他规定；（4）其他修约的间隔；（5）有效数字概念二、极限数值的表示和判定,（一）概念,1.数值修约：通过省略原数值的最后若干位数字，调整所保留的末位数字，最后所得到的值最接近原数值的过程。注：经数值修约后的数值称为（原数值的）修约值。,2.有效数值：一个数从左边第一个不是零的数字数起一直到最后一位数字（包括零、科学计数法不计10的N次方）称为有效数字。0.01093.1091050.0230,是三位,是三位,是四位,（一）概念,3.修约间隔：修约的最小数值单位。注：修约间隔的数值一经确定，修约值即为该数值的整数倍。如：指定的修约间隔为0.1。修约值应在0.1的整数倍中选取，相当于将数值修约到一位小数。,（一）概念,（二）修约规则,1、确定修约间隔（确定有效位数），0.0356修约到0.01得保留一位有效数字，2、进舍规则：1）拟舍弃数字的最后一位数字小于5，则舍去。保留其余各位数字不变。12.1498修约到“1”，；修约到0.1，得,0.04,0.04,12,12.1,2）拟舍弃数字的最后一位数字大于5.则进一，保留数字的末位数加1。1268修约到“100”位.13102也意味着有效数字为位。1300意味着有效数字为位。,2,4,（二）修约规则,3）拟舍弃数字的最左一位数字是5，且其后有非零数字也进一，保留数字的末位数字加1.10.5002.修约到“1”.得,11,（二）修约规则,4）拟舍弃数字的最后一位数字是5，且其后无数字或为0时，若所保留的数字为奇数（1、3、5、7、9），则进一。即保留数字的末位数字加1.若保留的末位数字为偶数（0、2、4、6、8）则舍去。1.050修约间隔为“0.1”。1010-1（或1.0）有效数字为2位。0.35修约间隔为“0.1”。410-1（或0.4）有效数字为1位。2500修约间隔“1000”。2103（2000）有效数字1、4位。3500修约间隔“1000”。4103（4000）有效数字1、4位。,（二）修约规则,5）口诀四舍五入，逢五看前数，奇入偶不入。6）负数修约，先以负值绝对值按上述修约后，加上负号。-15.456绝对值15.456.修约间隔“0.1”、15.5.加上负号；-15.5。,（二）修约规则,（三）其他规定,1.不允许连续修约：拟修的数字应在确定修约间隔或指定修约数位后一次修约获得结果，不得连续按上述要求修约。正确：97.46修约间隔“1”不允许：97.4697.598,97,（三）其他规定,2.特殊情况：具体实施中，有时测试与计算部先将获得数值按指定的修约数位多一位或几位报出，而后由其他部门判定。为免产生修约的错误，应按下述步骤进行：1）报出数值最右的非零数字为5时，应在数值右上角“+”或“-”，或不加符号，分别表明已进行过舍，进或未进。16.50+表示实际值在修约前大于16.50，经修约舍弃后为16.50；原数值可为：16.501“-”则是小于16.50比如16.499。,（三）其他规定,2）如果修约后的数字为5“+”者进一“-”者舍去,（四）其他修约间隔,还有以0.5和0.2单位修约的，方法如下：0.5单位修约：被修约的数乘以2，进行间隔修约后再除以2，得到修约值。0.2单位修约：被修约的数乘以5，进行间隔修约后再除以5，得到修约值。,（四）其他修约间隔,下列数值修约得到“个位”的0.5单位修约,（四）其他修约间隔,下列数值修约得到“百位”的0.2单位修约,（五）有效数字的运算,1.加减法运算以参与运算的各数中末位的修约间隔最大的数为准。其余的数均比它保留多一位，多余的应按规定修约。计算结果的末位的修约间隔，应与参与运算的数中末位的修约间隔最大的那个数相同。如果是过程计算，则可多保留一位：,（五）有效数字的运算,18.3+1.4546+0.87618.3为末位最大数量级的数，为“0.1”。则以“0.1”增加一位进行修约。18.3+1.45+0.88=20.63修约：如果还要参加下一步运算则取,20.6,20.63,（五）有效数字的运算,2.乘、除（或乘方、开方）运算：以参与运算的各数中有效数字位数最少的那个数为准。其余多保留一位。运算结果的有效数字位数应与参与运算的数中有效数字位数最少的那个数相同。若是过程计算，则可多保留一位