检测数据修约处理.ppt

检测数据修约处理 GB T8170 20082015 04 14 目录 术语确定修约位数的表达方式进舍规则不连续修约0 5单位修约及0 2单位修约计算法则 参考上海市计量检定人员计量基础知识培训教材 术语 数值修约通过省略原数值的最后若干位数字 调整所保留的末位数字 使最后所得到的值最接近原数值的过程 注 经数值修约后的数值称为修约值 10 41 10 4 数值修约 原始数值 修约值 10 5 有效数字该数值从其第一个不是零的数字起到最末一位数的全部数字即为有效数字 例1 3 2 0 32 0 032 0 0032均为两位有效位数 0 0320为三位有效位数 例2 12 490为五位有效位数 10 00为四位有效位数 例3 1 35cm 13 5mm 0 0135m 这三种表示法完全等效 均为三位有效数字 2200 2203 2210 58600 58611 58670 确定修约位数的表达方式 确定修约位数的表达方式 指定数位 指定修约间隔 指定将数值修约成n位有效位数 进舍规则 四舍六入逢五取偶 拟舍弃数字最左一位数字小于5 则舍去 保留其余各位数字不变例1 将12 1498修约到个位数 即修约间隔为1 得12 将12 1498修约到1位小数 即修约间隔为0 1 得12 1 拟舍弃数字最左一位数字大于5 或者是5 而其后跟有并非全部为0的数字时 则进一 即保留的末位数字加1 例2 将1268修约到 百 数位 得1300 例3 将10 502修约到个数位 得11 拟舍弃数字的最左一位数字为5 而右面无数字或皆为0时 若所保留的末位数字为奇数 1 3 5 7 9 则进一 若所保留的末位数字为偶数 2 4 6 8 0 则舍弃 逢五取偶 例1 1 050 修约到1位小数 得1 0 例2 0 35修约到1为小数 得0 4 负数修约时 先将它的绝对值按数字进舍规则 四舍六入逢五取偶 进行修约 然后在修约值前面加上负号 例 将下列数字修约到三位小数拟修约数值修约值 0 0365 0 036 0 0365 绝对值 不连续修约 1 拟修约数字应在确定修约位数后一次修约获得结果 而不得多次按进舍规则连续修约 例如 修约15 4546 修约间隔为1正确的做法 15 4546 15不正确的做法 15 4546 15 455 15 46 15 5 16 2 在具体实施中 有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出 而后由其他部门判定 为避免产生连续修约的错误 应按下述步骤进行 报出数值最右的非零数字为5时 应在数值后面加 或 或不加符号 以分别表明已进行过舍 进或未舍未进 例 16 50 表示实际值大于16 50 经修约舍弃成为16 50 16 50 表示实际值小于16 50 经修约进一成为16 50 如果报出值需要进行修约 当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时 数值后面有 号者进一 数值后面有 号者舍去 其他仍按数字修约规则进行 例 将下列数字修约到个数位 报出值多留一位到一位小数 实测值报出值修约值 15 454615 5 一 15 15 4546 15 5 一 1516 520316 5 17 17 5000 17 5 18 0 5单位修约及0 2单位修约 0 5单位修约 半个单位修约 指修约间隔为指定数位的0 5单位 即修约到指定数位的0 5单位 修约方法 将拟修约数值乘以2 按指定数位依数字修约规则修约 所得数值再除以2 例 将下列数字修约到个数位的0 5单位 拟修约数值X2X2X修约值X修约值60 25120 5012060 060 38120 7612160 560 28120 5612160 5 60 75 121 50 122 61 0 0 2单位修约指修约间隔为指定数位的0 2单位 即修约到指定数位的0 2单位 修约方法 将拟修约数值乘以5 按指定数位依数字修约规则修约 所得数值再除以5 例 将下列数字修约到 百 数位的0 2单位 或修约间隔为20 计算法则 参考上海市计量检定人员计量基础知识培训教材 加减运算 计算结果的末位数位 应与参加运算数据中的末位数位最大的位数相同 对带小数点的运算 计算结果小数点后保留的位数应与参加运算数据里小数点后末位最左的位数相同 例 1 5 0 42 1 92 1 9 乘除运算 计算结果的位数 应与参加运算数据里有效数字最小的位数相同 例 0 160 2 6 0 4160 0 42 平方或开方运算 运算结果与原来数据里有效位数相同 例 1 42 1 96 2 01 233 1 5129 1 51 对数运算 所取对数位数应与真数有效数字位数相等 例 lg12 3 1 09 混合运算 先开方或乘方 并修约 再乘除 进行修约 最后进行加减 并对结果进行修约 乘除注 以有效数位数最少的数据为准 其