有效数字修约与运算法则

有效数字修约与运算法则 1 有效数字的基本概念基本概念 1 有效数字是指在检验工作中所能得到有实际意义的数值有效数字是指在检验工作中所能得到有实际意义的数值 其最后一位数字其最后一位数字 欠准是允许的欠准是允许的 这种由可靠数字和最后一位不确定数字组成的数值这种由可靠数字和最后一位不确定数字组成的数值 即为有效即为有效 数字 数字 2 有效数字的定位有效数字的定位 数位数位 是指确定欠准数字的位置是指确定欠准数字的位置 这个位置确定后这个位置确定后 其后面其后面 的数字均为无效数字 的数字均为无效数字 例如 一支 25ml 的滴定管 其最小刻度为 0 1ml 如果滴定管的体积介符于 20 9ml 到 21 0ml 之间 则需估计一位数字 读出 20 97ml 这个 7 就是个欠准的 数字 这个位置确定后 它有效位数就是 4 个 即使其后面还有数字也只是无效 数字 3 在没有小数位且以若干个零结尾的数值中 有效位数系指从非零数字最左 在没有小数位且以若干个零结尾的数值中 有效位数系指从非零数字最左 一位向右数得到的位数减去无效零一位向右数得到的位数减去无效零 即仅为定位用的零即仅为定位用的零 的个数 的个数 例如 35000 若有两个无效零 则为三位有效位数 应写作 350 102或 3 50 104 若有三个无效零 则为两位有效位数 应写作 35 103或 3 5 104 4 在其他在其他 10 进位数中进位数中 有效数字系指从非零数字最左一位向右数而得到的位有效数字系指从非零数字最左一位向右数而得到的位 数数 例如 3 2 0 32 0 032 和 0 0032 均为两位有效位数 0 320 为三位有效 位数 10 00 为四位有效位数 12 490 为五位有效位数 5 非连续型数值非连续型数值 如个数 分数 倍数 是没有欠准数字的 其有效位数 如个数 分数 倍数 是没有欠准数字的 其有效位数 可视为无限多位 可视为无限多位 例如 H2SO4中的 2 和 4 是个数 常数 和系数 等 数值的有效位数可视为无限多位 每 1ml 滴定液 0 1mol L 中的 0 1 为 名义浓度 规格项下的 0 3g 或 1ml 25mg 中的 0 3 1 25 均为标示量 其有 2 效位数 也为无限多位 即在计算中 其有效位数应根据其他数值的最少有效即在计算中 其有效位数应根据其他数值的最少有效 位数而定 位数而定 6 pH 值等对数值值等对数值 其有效位数是由其其有效位数是由其对数小数点后对数小数点后的的位数位数决定的决定的 其整数部其整数部 分只表明其分只表明其真数真数的乘方次数 的乘方次数 或者说真数位数或者说真数位数决定决定对数小数点后位数对数小数点后位数 如 pH 11 26 H 5 5 10 12mol L 其有效数字只有两位 7 有效数字的首位数字为有效数字的首位数字为 8 或或 9 时 其有效位数可以多计一位时 其有效位数可以多计一位 例如 85 与 115 都可以看成是三位有效数字 99 0 与 101 0 都可以看成是四位 有效数字 2 数字的修约及其取舍规则数字的修约及其取舍规则 1 数字修约是指拟修约数值中超出需要保留位数时的舍弃 根据舍弃数来保数字修约是指拟修约数值中超出需要保留位数时的舍弃 根据舍弃数来保 留最后一位数或最后几位数 留最后一位数或最后几位数 2 修约间隔是确定修约保留位数的一种方式修约间隔是确定修约保留位数的一种方式 修约间隔的数值一经确定修约间隔的数值一经确定 修约修约 值即应为该数值的整倍数 值即应为该数值的整倍数 例如 指定修约间隔为 0 1 修约值即应在 0 1 的整 数倍中选取 也就是说 将数值修约到小数点后一位 3 确定修约位数的表达方式 指定数位 指定修约间隔为指定修约间隔为 10 n n 为正整数为正整数 或指明将数值修约到小数点后 或指明将数值修约到小数点后 n 位 位 指定修约间隔为指定修约间隔为 1 或指明将数值约到个数位 或指明将数值约到个数位 指定将数值修约成指定将数值修约成 n 位有效位数位有效位数 n 为正整数为正整数 指定修约间隔为指定修约间隔为 10n n 为正整数为正整数 或指明将数值修约到 或指明将数值修约到 10n数位 或指明修数位 或指明修 约到约到 十十 百百 千千 数位 数位 指定将数值修约成指定将数值修约成 n 位有效位数 位有效位数 n 为正整数 为正整数 在相对标准偏差在相对标准偏差 RSD 的求算中的求算中 其有效数位应为其其有效数位应为其 1 3 值的首位值的首位 非零数字非零数字 故通常为百分位或千分位 故通常为百分位或千分位 进舍原则 拟舍去数字的最左一位数字少于拟舍去数字的最左一位数字少于 5 时时 则舍去 即保留的各位数字不变 则舍去 即保留的各位数字不变 例如 例 1 将 12 1496 修约到一位小数 十分位 得 12 1 例 2 将 12 1496 修约到两位有效位数 得 12 拟舍去数字的最左一位数字大于拟舍去数字的最左一位数字大于 5 时时 或者是或者是 5 而后跟有并非全部为 而后跟有并非全部为 0 的数的数 字 则进一 即在保留的末位数字加字 则进一 即在保留的末位数字加 1 例 1 将 1268 修约到百数位 得 13 102 例 2 将 1268 修约到十数位 即三位有效数字 得 127 10 例 3 将 10 502 修约到个数位 得 11 拟舍去数字的最左一位数字为拟舍去数字的最左一位数字为 5 而右面无数字或皆为而右面无数字或皆为 0 时 若所保留的末位时 若所保留的末位 数为奇数数为奇数 1 3 5 7 9 则进一 为偶数则进一 为偶数 2 4 6 8 0 则舍弃 则舍弃 留双的原则留双的原则 例 1 将 1 050 按间隔为 0 1 10 1 修约 修约值为 1 0 例 2 将 0 350 按间隔为 0 1 10 1 修约 修约值为 0 4 例 3 将 2500 按间隔为 1000 103 修约 修约值为 2 103 例 4 将 3500 按间隔为 1000 103 修约 修约值为 4 103 例 5 将 0 0325 修约成两位有效位数 修约值为 0 032 或 3 2 10 2 例 6 将 32500 修约成两位有效位数 其修约值为 32 103 在相对偏差在相对偏差 RSD 中中 采用采用 只进不舍只进不舍 的原则的原则 如 0 163 如为两个有效位时 宜修约为 0 17 0 52 如为一个有效位时 宜修约为 0 6 不许连续修约不许连续修约 拟修约的数字应在确定修约位数后一次修约获得结果拟修约的数字应在确定修约位数后一次修约获得结果 而不得多次按前面规则连而不得多次按前面规则连 续修约 续修约 例 15 4546 修约间隔 1 正确的做法为 15 4546 15 不正确的做法为 15 4546 15 455 15 46 15 5 16 为了便于记忆 上述规则可归纳成以下口缺 四舍六入五考虑 五后非零则进四舍六入五考虑 五后非零则进 一 五后全零看五前 五前偶舍奇进一 不论数字多少位 都要一次修约成 一 五后全零看五前 五前偶舍奇进一 不论数字多少位 都要一次修约成 在英 美日药典中修约均是按四舍五入进舍的 运算法则运算法则 在进行数学运算时 对加减法和乘除法中有效数字的处理是不同的 许多数值许多数值相加减相加减时时 所得和或差的绝对误差必较任何一个数值的绝对误差大所得和或差的绝对误差必较任何一个数值的绝对误差大 因因 此相加减时应此相加减时应以诸数值中绝对误差最大以诸数值中绝对误差最大 即欠准数字的数位最大即欠准数字的数位最大 的数值为准的数值为准 以确定其他数在运算中保留的数位和决定计算结果的有效数位 以确定其他数在运算中保留的数位和决定计算结果的有效数位 许多数值相许多数值相乘除时乘除时 所得的积或商的相对误差必较任何一个数值的相对误差大所得的积或商的相对误差必较任何一个数值的相对误差大 因此相乘除时应因此相乘除时应以诸数值中相对误差最大以诸数值中相对误差最大 即有效位数最少即有效位数最少 的数值为准的数值为准 确定确定 其它数值在运算中保留的有效位数和决定计算结果的有效数位 其它数值在运算中保留的有效位数和决定计算结果的有效数位 在运算过程中 为减少舍入误差 其他数值的修约可以暂时多保留一位 等在运算过程中 为减少舍入误差 其他数值的修约可以暂时多保留一位 等 运算到结果时 再根据有效位数弃去多余的数字 运算到结果时 再根据有效位数弃去多余的数字 例 1 13 65 0 00823 1 633 小数点后两位最少 本例是数值相加减 在三个数值中 13 65 的绝对误差最大 其最末一位数为 百分位 即小数后二位 因此将其它各数暂先保留至千分位 即把 0 00823 修 约为 0 008 1 633 不变 进行运算 13 65 0 00823 1 633 13 65 0 008 1 633 15 291 然后修约至百 分位 即为 15 29 例 2 14 131 0 07654 0 78 有效数字两位最少 本例是数值相乘除 在三个数值中 0 78 的有效位数最少 仅为二位有效位 数 因此各数值均应暂时保留三位有效位数进行运算 14 131 0 07654 0 78 14 1 0 0765 0 78 1 08 0 78 1 38 再将结果修约为两位有效位数 即 1 4 例 3 计算氧氟沙星 C18H20FN3O4 的分子量 原子数的有效位数可视为无限多位 因此可根据各原子量的有效位数对乘积进 行定位 而在各乘积的相加中 则按中国药典对分子量的数值保留到小数点后 两位 百分位 的规定 因此应先将各元素的乘积修约到千分位 小数点后三位 后进行相加 再将结果修约到百分位 12 051 18 1 00794 20 18 9984032 14 006747 3 15 9994 4 216 20 20 1588 18 9984032 42 020241 63 9976 216 20 20 159 18 998 42 020 63 998 361 375 361 38 注意事项注意事项 正确记录检测所得的数值正确记录检测所得的数值 应根据取样量 量具的精度 检测方法的允许误应根据取样量 量具的精度 检测方法的允许误 差和标准中的限度规定差和标准中的限度规定 确定数字的有效位数确定数字的有效位数 或数位或数位 检测值必须与测量的检测值必须与测量的 准确度相符合准确度相符合 记录全部准确数字和一位欠准数字 记录全部准确数字和一位欠准数字 正确掌握和运用规则进行计算时正确掌握和运用规则进行计算时 应执行进舍规则和运算规则应执行进舍规则和运算规则 如用计算器进行如用计算器进行 计算计算 也应将计算结果经修约后再记录下来 也应将计算结果经修约后再记录下来 要根据取样的要求要根据取样的要求 选择相应的量具 选择相应的量具 精密称定 系指称取重量应准确到所取重量的 0 1 根据不同的取样量而选 用不同精度的天平 如需分别精密称取 5g 500mg 10mg 样品 按 0 1 的精度要求 这三个样品应分别精确到 5mg 0 5mg 和 0 01mg 因此应分别选 用万分之一 感量为 0 1mg 十万分之一 感量为 0 01mg 和百万分之一 感 量为 0 001mg 的天平进行称量 在实际操作中 当取样量 0 1g 时 则按精确至 0 1mg 称量 即应选用感量为 0 1mg 的天平称量 当取样量为 100mg 10mg 时 则按精确至 0 01mg 称量 即应选用感量为 0 01mg 的天平称量 当取样量为 10mg 以下时 则按精确至 0 001mg 称量 即应选用感量为 0 01mg 的天平称量 但在称量基准物质时 要求 0 5g 时 按精确至 0 1mg 称量 0 5g 时 按精确至 0 01mg 称量 要求更高 精密量取 应选用符合国家标准的移液管 必要时应加校正值 称定 或 量取 系指称取的重量 或量取的容量 应准确至所取重量 或容量 的百分之一 千分之一天平 取用量为 约 时 系指取用量不得超过规定量的 100 10 如取约 0 5g 时 可称取 0 45g 0 55g 取用量的精度未作特殊规定时 应根据其数值的有效位数选用与之相应的量具 如规定量取 5ml 5 0ml 5 00ml 时 则应分别选用 5 10ml 的量筒 5 10ml 的刻度吸管或 5ml 的移液管进行量取 在判定药品质量是否符合规定之前 应将全部数据根据有效数字和数值修约 规则进行运算 并根据中国药典 2005 年版二部 凡例 第十四条及国家标准 GB 1250 89 极限数值的表示方法和判定方法 中规定的 修约值比较法 将 计算结果修约到标准中所规定的有效位 而后进行判定 4 可疑数据的舍弃可疑数据的舍弃 在测定结果中有时会有偏离平均值许多的测定值在测定结果中有时会有偏离平均值许多的测定值 被称为可疑数据被称为可疑数据 由于可疑由于可疑 数据的存在数据的存在 会使结果发生不应有的偏移会使结果发生不应有的偏移 故对可疑数据应予以舍弃 舍弃的方法故对可疑数据应予以舍弃 舍弃的方法 常见有三种 常见有三种 四倍法 又称为 4 法或 Chauvenet 法 其处理方法为 除可疑数据外 求出其余数据的平均值 和平均偏差 如果可疑结果与 之差的绝对值大 时 则将此数据弃去 否则保留此数 据 序号12456789103 测定值 i0 7850 7880 7780 7840 7800 7870 782 0 780 0 785 平均值 x0 783 偏差 d 0 002 0 005 0 005 0 001 0 003 0 006 0 001 0 003 0 002 平均偏差 d0 003 0 875 4 4 0 003 0 012 0 875 0 783 0 092 4 0 012 故数据 0 875 应该项舍弃 Q 检验 在 3 10 次的测定中 仅出现一个可疑数据时 Q 检验法是一种较 为合理的方法 其处理方法为 将各测量值由小到大 依次排列 可疑数据将在序列的开头或末尾出现 算出可疑数据与其邻近值之差 若首项为可疑数据 则差为 X2 X1 若末项 为可疑 则差为 Xn Xn 1 算出序列中最大值与最小值之差 极差 即 Xn X1 用可疑数据与其邻近值之差除以极差 所得的商被称为舍弃商 Q 值 若首项为 可疑数据 则舍弃商 Q 为 n XX d n i i 1 X d4 X d d XXi d 1 12 xx xx Q n d 若末项为可疑数据 则舍弃商 Q 为 查 Q90 表 1 2 3 若计算所得的 Q 值大于表中相应的 Q90 临界值 则该可疑数 据要被舍去 否则应被保留 表 1 2 3 Q90 临界值 查 Q90 临界值表 当测定次数 n 为 5 时 Q90 为 0 64 因 Q Q90 所以数据 0 1026 不应被舍去 格鲁布斯 T 检验 适用范围较 Q 检验法广 效果也更好 其处理办法为 将各测量值由小到大 依次排列 可疑数据将在序列的开头或末尾出现 计算舍弃商 T 值 算出可疑数据与均值之差 除以标准差 S 所得的商被称为 舍弃商 T 值 若首位为可疑数据 则 T 值为 若末位为可疑数据 则 T 值为 查舍弃 T90 值表 表 1 2 4 若计算所得的 T 值大于表中相应的舍弃商 T90 值 测定次数 n 345678910 Q90 0 940 760 640 560 510 470 44o 41 例 标定某一标准溶液时得到以 5 个结果 0 1014 0 1012 0 1019 0 1026 和 0 1016 按由小到大排列 得