检测数据修约处理_第1页
检测数据修约处理_第2页
检测数据修约处理_第3页
检测数据修约处理_第4页
检测数据修约处理_第5页
已阅读5页,还剩22页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

检测数据修约处理GB/T8170-20082015.04.141整理课件目录术语确定修约位数的表达方式进舍规则不连续修约0.5单位修约及0.2单位修约计算法则(参考上海市计量检定人员计量基础知识培训教材)2整理课件术语3整理课件数值修约

通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。注:经数值修约后的数值称为修约值。10.4110.4数值修约原始数值

修约值10.5×4整理课件有效数字该数值从其第一个不是零的数字起到最末一位数的全部数字即为有效数字。

例1:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。

例2:12.490为五位有效位数;10.00为四位有效位数。

例3:1.35cm=13.5mm=0.0135m,这三种表示法完全等效,均为三位有效数字。5整理课件

6整理课件

2200√2203×2210×58600√58611×58670×7整理课件确定修约位数的表达方式8整理课件确定修约位数的表达方式指定数位(指定修约间隔);指定将数值修约成n位有效位数。9整理课件进舍规则10整理课件四舍六入逢五取偶拟舍弃数字最左一位数字小于5,则舍去,保留其余各位数字不变例1:将12.1498修约到个位数(即修约间隔为1),得12;将12.1498修约到1位小数(即修约间隔为0.1),得12.1。拟舍弃数字最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。例2:将1268修约到“百”数位,得1300。例3:将10.502修约到个数位,得11。11整理课件拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,若所保留的末位数字为偶数(2,4,6,8,0)则舍弃。(逢五取偶)例1:1.050修约到1位小数,得1.0。例2:0.35修约到1为小数,得0.4。

12整理课件负数修约时,先将它的绝对值按数字进舍规则(四舍六入逢五取偶)进行修约,然后在修约值前面加上负号。例:将下列数字修约到三位小数拟修约数值修约值

-0.0365

-0.0360.0365绝对值13整理课件不连续修约14整理课件1、拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按进舍规则连续修约。例如:修约15.4546,修约间隔为1

正确的做法:15.4546→15

不正确的做法:15.4546→15.455→15.46→15.5→16

15整理课件2、在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不加符号,以分别表明已进行过舍、进或未舍未进。

例:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一成为16.50。16整理课件如果报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按数字修约规则进行。

例:将下列数字修约到个数位(报出值多留一位到一位小数)。实测值报出值修约值15.454615.5(一)15-15.4546-15.5(一)-1516.520316.5(+)17-17.5000-17.5-18

17整理课件0.5单位修约及0.2单位修约18整理课件0.5单位修约(半个单位修约)指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。修约方法:将拟修约数值乘以2,按指定数位依数字修约规则修约,所得数值再除以2。例:将下列数字修约到个数位的0.5单位拟修约数值X2X2X修约值X修约值60.25120.5012060.060.38120.7612160.560.28120.5612160.5-60.75-121.50-122-61.019整理课件0.2单位修约指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。修约方法:将拟修约数值乘以5,按指定数位依数字修约规则修约,所得数值再除以5。

例:将下列数字修约到“百”数位的0.2单位(或修约间隔为20)拟修约数值X5X

5X修约值(修约间隔为100)X修约值(修约间隔为20)830415042008408424210420084083241604200840-930-4650-4600-92020整理课件计算法则——参考上海市计量检定人员计量基础知识培训教材21整理课件加减运算计算结果的末位数位,应与参加运算数据中的末位数位最大的位数相同。对带小数点的运算,计算结果小数点后保留的位数应与参加运算数据里小数点后末位最左的位数相同。

例:1.5+0.42=1.92=1.9

22整理课件乘除运算计算结果的位数,应与参加运算数据里有效数字最小的位数相同。

例:0.160*2.6=0.4160=0.42

23整理课件平方或开方运算运算结果与原来数据里有效位数相同。

例:1.42=1.96=2.01.233=1.5129=1.51

24整理课件对数运算所取对数位数应与真数有效数字位数相等。例:lg12.3=1.0925整理课件混合运算先开方或乘方,并修约,再乘除,进行修约,最后进行加

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论