数值修约规则:四舍六入五成双_第1页
数值修约规则:四舍六入五成双_第2页
数值修约规则:四舍六入五成双_第3页
数值修约规则:四舍六入五成双_第4页
数值修约规则:四舍六入五成双_第5页
已阅读5页,还剩3页未读 继续免费阅读

付费下载

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

8/8数值修约规则:四舍六入五成双一、两个重要定义

1.数值修约roundingofffornumericalvalues指通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。注:经数值修约后的数值称为(原数值的)修约值。

2.修约间隔roundinginterval指修约值的最小数值单位。注:修约间隔的数值一经确定,修约值即为该数值的整数倍。例1:如指定修约间隔为0.1,修约值应在。.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约“百”数位。

二、确定修约间隔

确定修约间隔,简单来说就是修约到哪一位。a.指定修约间隔为10-n(10的-n次方,n为正整数),或指明将数值修约到n位小数;b.指定修约间隔为1,或指明将数值修约到个数位;c.指明将数值修约到10n数位(10的n次方,n为正整数),或指明将数值修约到“十”,“百”,“千”……数位。

三、四舍

拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。例1:将12.1498修约到一位小数,得12.1。例2:将12.1498修约成两位有效位数,得12。

四、六入

拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。例1:将1268修约到“百”数位,得13×102(特定时可写为1300)。例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。例3:将10.502修约到个数位,得11。

“特定时”的涵义系指修约间隔或有效位数明确时。

五、刚好等于5

拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。例1:修约间隔为0.1(或10-1)1.150

→1.2

例2:修约间隔为10002500→20003500→4000

例3:将下列数字修约成两位有效位数0.0375→0.03832500→32000

六、负数修约

负数修约时,先将它的绝对值规定进行修约,绝对值修约后,然后在修约值前面加上负号。

例1:将下列数字修约到“十”数位-355

-360

例2:将下列数字修约成两位有效位数-0.0365→-0.036

不允许“连续修约”

1不允许连续修约

拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按规则连续修约。例如:修约15.4546,修约间隔为1正确的做法:15.4546→15

不正确的做法:15.4546→15.455→15.46→15.5→16

2不可避免要连续修约,怎么办?

在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。公众号:实验室ISO17025提醒,为避免产生连续修约的错误,应按下述步骤进行。

报出数值最右的非零数字为5时:应在数值后面加“(+)”或“(-)”或不加符号,以分别表明已进行过舍、进或未舍未进。

如:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一成为16.50。

如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时:数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按第3章规则进行。

例如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。

1两个重要定义

1.数值修约roundingofffornumericalvalues

指通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。注:经数值修约后的数值称为(原数值的)修约值。

2.修约间隔roundinginterval

指修约值的最小数值单位。注:修约间隔的数值一经确定,修约值即为该数值的整数倍。例1:如指定修约间隔为0.1,修约值应在。.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约“百”数位。

2确定修约间隔

确定修约间隔,简单来说就是修约到哪一位。

a.指定修约间隔为10-n(10的-n次方,n为正整数),或指明将数值修约到n位小数;

b.指定修约间隔为1,或指明将数值修约到个数位;

c.指明将数值修约到10n数位(10的n次方,n为正整数),或指明将数值修约到“十”,“百”,“千”……数位。

2四舍

拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

例1:将12.1498修约到一位小数,得12.1。

例2:将12.1498修约成两位有效位数,得12。

3五入

拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。

例1:将1268修约到“百”数位,得13×102(特定时可写为1300)。

例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。

例3:将10.502修约到个数位,得11。

“特定时”的涵义系指修约间隔或有效位数明确时。

4刚好等于5

拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。

例1:修约间隔为0.1(或10-1)1.0501.0

→0.3500.4

例2:修约间隔为10002500→20003500→4000

例3:将下列数字修约成两位有效位数0.0375→0.03832500→32000

5负数修约

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论