数据修约规则_PPT

数据修约规则及极限数值的表示和判定在环境监测中的应用 1 数字修约2 极限数值的表示和判定3 环境监测中的应用 GB T8170 2008数据修约规则与极限数值的标示和判定 术语 修约间隔 修约值的最小数值单位 系确定修约保留位数的一种方式 修约间隔的数值一经确定 修约值即应为该数值的整数倍 例1 如指定修约间隔为0 1 修约值即应在0 1的整数倍中选取 相当于将数值修约到一位小数 例2 如指定修约间隔为100 修约值即应在100的整数倍中选取 相当于将数值修约到 百 数位 有效位数 对没有小数位且以若干个零结尾的数值 从非零数字最左一位向右数得到的位数减去无效零 即仅为定位用的零 的个数 对其他十进位数 从非零数字最左一位向右数而得到的位数 就是有效位数 例1 35000 若有两个无效零 则为三位有效位数 应写为350 102 若有三个无效零 则为两位有效位数 应写为35 103 例2 3 2 0 32 0 032 0 0032均为两位有效位数 0 0320为三位有效位数 例3 12 490为五位有效位数 10 00为四位有效位数 0 5单位修约 半个单位修约 指修约间隔为指定数位的0 5单位 即修约到指定数位的0 5单位 修约方法 将拟修约数值乘以2 按指定数位依数字修约规则修约 所得数值再除以2 例1 将60 28修约到个数位的0 5单位 或修约间隔为0 5 得60 5 例2 将60 25修约到个数位的0 5单位 或修约间隔为0 5 得60 0 将下列数字修约到个数位的0 5单位 或修约间隔为0 5 0 2单位修约 指修约间隔为指定数位的0 2单位 即修约到指定数位的0 2单位 将拟修约数值乘以5 按指定数位依数字修约规则修约 所得数值再除以5 例1 将830修约到 百 数位的0 2单位 或修约间隔为20 得840 例 2 将842修约到 百 数位的0 2单位 或修约间隔为20 得840 将下列数字修约到 百 数位的0 2单位 或修约间隔为20 确定修约位数的表达方式 指定数位 指定修约间隔 指定将数值修约成n位有效位数 四舍六入五考虑 五后非零则进一 五后皆零视奇偶 五前为偶应舍去 五前为奇则进一 不论数字多少位 都要一次修约成 进舍规则 拟舍弃数字的最左一位数字小于5时 则舍去 即保留的各位数字不变 例1 将12 1498修约到一位小数 得12 1 例2 将12 1498修约成两位有效位数 得12 拟舍弃数字的最左一位数字大于5 或者是5 而其后跟有并非全部为0的数字时 则进一 即保留的末位数字加1 例1 将1268修约到 百 数位 得13 102 特定时可写为1300 例2 将1268修约成三位有效位数 得127 10 特定时可写为1270 例3 将10 502修约到个数位 得11 拟舍弃数字的最左一位数字为5 而右面无数字或皆为0时 若所保留的末位数字为奇数 1 3 5 7 9 则进一 若所保留的末位数字为偶数 2 4 6 8 0 则舍弃 例1 修约间隔为0 1拟修约数值1 050修约值结果1 0 负数修约时 先将它的绝对值按数字修约规定进行修约 然后在修约值前面加上负号 例1 将下列数字修约到 十 数位拟修约数值修约值 355 36 10 不许连续修约拟修约数字应在确定修约位数后一次修约获得结果 而不得多次按进舍规则连续修约 例如 修约15 4546 修约间隔为1正确的做法 15 4546 15不正确的做法 15 4546 15 455 15 46 15 5 16 在具体实施中 有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出 而后由其他部门判定 为避免产生连续修约的错误 应按下述步骤进行 1 报出数值最右的非零数字为5时 应在数值后面加 或 或不加符号 以分别表明已进行过舍 进或未舍未进 例 16 50 表示实际值大于16 50 经修约舍弃成为16 50 16 50 表示实际值小于16 50 经修约进一成为16 50 2 如果判定报出值需要进行修约 当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时 数值后面有 号者进一 数值后面有 号者舍去 其他仍按数字修约规则进行 例 将下列数字修约到个数位后进行判定 报出值多留一位到一位小数 实测值报出值修约值15 454615 5 一 1516 520316 5 17 17 5000 17 5 18 15 4546 15 5 一 15 计算法则 加减运算 应以各数中有效数字末位数的数位最高者为准 小数即以小数部分位数最少者为准 其余数均比该数向右多保留一位有效数字 例如 5 89 15 2551 5 89 15 255 21 145 乘除运算 应以各数中有效数字位数最少者为准 其余数均多取一位有效数字 所得积或商也多取一位有效数字 例如 2 1 3 124 2 1 3 12 6 55 平方或开方运算 其结果可比原数多保留一位有效数字 例如 1 42 1 961 233 1 861 对数运算 所取对数位数应与真数有效数字位数相等 例如 lg12 3 1 09 特殊实例 非连续型数值 个数 分数 倍数 名义浓度或标示量等是没有欠准数字的 其有效位数可视为无限多位 常数 e和系数2 1 2等数值的有效位数也可视为是无限多位 例如 1 分子式 H2S04 中的 2 和 4 是个数 2 含量测定项下 每1ml的 滴定液 0 1mol L 中的 0 1 为名义浓度 其有效位数均为无限多位 3 规格项下的 0 3g 或 1ml 25mg 中的 0 3 1 和 25 的有效位数也均为无限多位 结论 在计算中 其有效位数应根据其他数值的最少有效位数而定 极限数值的表示和判定 1 书写极限数值的一般原则1 1标准 或其他技术规范 中规定考核的以数量形式给出的指标或参数等 应当规定极限数值 极限数值表示符合该标准要求的数值范围的界限值 它通过给出最小极限值和 或 最大极限值 或给出基本数值与极限偏差值等方式表达 1 2标准中极限数值的表示形式及书写位数应适当 其有效数字应全部写出 书写位数表示的精确程度 应能保证产品或其他标准化对象应有的性能和质量 表达极限数值的基本用语 基本用语符号大于A A小于A A大于或等于A A小于或等于A A 测定值或其计算值与标准规定的极限数值比较方法 1 修约值比较法 2 全数值比较法 1 修约值比较法 将测定值或其计算值进行修约 修约数位应与规定的极限数值数位一致 将修约后的数值与规定的极限数值进行比较 只要超出极限数值规定的范围 不论超出程度大小 都判定为不符合要求 2 全数值比较法 将测试所得测定值或计算值不经修约处理 或虽经修约处理 但应标明它是经舍 进或未进未舍而得 用该数值与规定的极限数值作比较 只要超出极限数值规定的范围 不论超出程度大小 都判定为不符合要求 这两种方法的结论有时不同 例 两种方法的使用和比较 1 当标准或文件中对极限数值无特殊规定时 均应采用全数值比较法 如规定采用修约值比较法 应在标准中加以说明 2 对同样的极限数值 若本身符合要求 则全数值比较法相对较严格 数字修约规则在环境监测中的应用 地表水与污水分析结果的表达 一 摘自HJ T92 地表水与污水分析结果的表达 二 HJ T91 2002地表水和污水监测技术规范 室内空气监测技术规范 HJ T167 2004 1 原始记录有效数字保留位数1 1用空气流量校准器校准流量时 二氧化硫 甲醛 氨等采样器流量记录至小数点后两位 单位 L min PM10 菌落总数等采样泵流量记录到整数 单位 L min 1 2在现场采样记录中 气温记录到小数点后一位 单位 气压记录到小数点后一位 单位 kPa 湿度记录到整数 单位 风速记录到小数点后一位 单位 m s 采样流量记录同校准流量一致 单位 L min 采样时间到整数 单位 min 采样体积及换算标准状态体积记录到小数点后一位 二氧化硫 甲醛 氨等 单位 L PM10等 单位 m3 PM10 重量法 称重记录到小数点后四位 单位 g 分光光度法测定吸光度值记录到小数点后三位 2 校准曲线回归处理与有效数字2 l用具有回归统计功能的计算器进行计算时 把原始数据输入则可直接显示r a b 从而求得一元回归方程 y ax b 回归时应扣除空白值 不扣除空白值 直接回归的曲线 可用来计算空白值的浓度 2 2r取小数点后全部9 但最多取小数点后四位 与第一位非9的修约数字 2 3a的有效数字位数 应与自变量x的有效数字位数相等 或最多比x多保留一位 b的最后一位数 则和因变量y的最后一位数取齐 或最多比y多一位 土壤样品分析结果表达 1 低于方法检出限按照 未检出 报出 参加统计是按照1 2最低检出限参与计算 2 土壤样品测定一般保留3位有效数字 含量较