数值修约规则与极限数值的表示和判定

几个问题 1 误差与偏差 绝对误差与相对误差 精密度与准确度分别有何区别 2 用万分之一天平称取物品的质量为0 0236g 该测量结果的有效数字位数为多少 准确的数字是那些 3 计算12 365 5 1 8 7 3 4525 结果不参与后续运算 4 在钢材物理性能拉伸试验中 测得的断后伸长为74 37mm 则该断后伸长的报出值为 主要内容 一 误差理论的相关概念 二 有效数字的概念及运算规则 三 数值修约的规则及技巧 四 极限数值的表示与判定 一 误差理论的相关概念 1 测量误差的定义 客观真实值 未知 测量误差 测得值 真值 测量所得数据与其相应的真值之差 1 误差 绝对误差 x x x0 2 相对误差 测量的绝对误差与被测量的真值之比 绝对误差很小 表示 百分数 分子分母量纲相同 例 质量G1 50g 误差 1 2g 质量G2 2kg 误差 2 50g G2的测量效果较好 确切反映测量效果 被测量的大小不同 允许的测量误差不同 被测量的量值小 允许的测量绝对误差也越小 1 测量误差的定义 2 误差的分类 按误差来源 装置误差 环境误差 方法误差 人员误差 系统误差 Systemerror 由特定原因引起 具有一定因果关系并按确定规律产生 按掌握程度 已知误差 未知误差 按特性规律 系统误差 随机误差 粗大误差 有规律可循 理论分析 实验验证 原因和规律 减少 消除 随机误差 Randomerror 因许多不确定性因素而随机发生 偶然性 不明确 无规律 概率和统计性处理 无法消除 修正 粗大误差 Abnormalerror 检测系统各组成环节发生异常和故障等引起 按变化速度 静态误差 动态误差 3 精密度与准确度的区别与联系 1 精密度 指多次重复测定同一量时各测定值之间彼此相符合的程度 精密度是指量具能区分出微量的程度 亦即量具能区分之最小距离 此精密度在量具制造时已决定 精密度是表示测量的再现性 是保证准确度的先决条件 但是高的精密度不一定能保证高的准确度 表征测定过程中随机误差的大小 好的精密度是保证获得良好准确度的先决条件 一般说来 测量精密度不好 就不可能有良好的准确度 反之 测量精密度好 准确度不一定好 这种情况表明测定中随机误差小 但系统误差较大 3 精密度与准确度的区别与联系 2 准确度 指在一定实验条件下多次测定的平均值与真值相符合的程度 以误差来表示 它用来表示系统误差的大小 测量仪器的准确度指测量仪器给出接近于真值的响应能力 准确度只是一个定性概念而无定量表达 测量误差的绝对值大 其准确度低 3 二者联系任何测量都要求精确 精确性是评价观测成果优劣的准确度与精密度的总称 准确度是指在对某一个量的多次观测中 观测值对该量真值的偏离程度 观测值偏离真值愈小 则准确度愈高 精密度简称精度 指在某一个量的多次观测中 各观测值之间的离散程度 若观测值非常集中则精度高 反之则低 一个观测列可能精度高而准确度低 也可能精度低而准确度高 3 精密度与准确度的区别与联系 4 偏差 一个值减去其参考值 成为偏差 这里的一个值是指测量得到的值 参考值是指设定值 应有值或标称值 偏差 实际值 标称值 尺寸偏差 实际尺寸 应有参考尺寸 加工一个准确值为1kg的砝码 实际加工的为1 002kg 此时偏差为 0 002kg 如果砝码按1kg使用 则有 0 002kg的示值误差 偏差与误差等值相反 解决偏差问题 需要对砝码进行修正 修正值为 0 002kg 修正值对测量值而言 而偏差是对标称值而言 二 有效数字的概念及运算规律 1 有效数字 把准确数字加上最后一位有实际意义的估计数字总称为有效数字 2 有效位数 测量结果用且只用它的有效数字表示 有效数字的个数叫作有效位数 3 仪器读数规则 1 刻度式仪表 在最小分度值后要估读一位 2 数字显示仪表 直接读取仪表的示值 3 游标类量具 读到游标分度值的整数倍 刻度式仪表 5 737mm 5 500 0 237 数显仪表及有十进步式标度盘的仪表 游标类量具 49 00 0 82 49 82mm 在科学实验中 为了得到准确的测量结果 不仅要准确地测定各种数据 而是还要正确地记录和计算 分析结果的数值不仅表示试样中被测成分含量的多少 而且还反映了测定的准确程度 所以 记录实验数据和计算结果应保留几位数字是一件很重要的事 不能随便增加或减少位数 例如用重量法测定胶中TVOC含量时 若称取试样重为0 2187克 经过一系列处理后 得到固体重0 2132克 则其百分含量为 TVOC 0 0055 0 2187 100 2 1514860539 上述分析结果共有11位数字 从运算来讲 并无错误 但实际上用这样多位数的数字来表示上述分析结果是错误的 它没有反映客观事实 因为所用的分析方法和测量仪器不可能准确到这种程度 那么在分析实验中记录和计算时 究竟要准确到什么程度 才符合客观事实呢 这就必须了解 有效数字 的意义 有效数字是指在分析工作中实际上能测量到的数字 记录数据和计算结果时究竟应该保留几位数字 须根据测定方法和使用仪器的准确程度来决定 在记录数据和计算结果时 所保留的有效数字中 只有最后一位是可疑的数字 1 有效数字的意义及位数 例如 坩埚重18 5734克六位有效数字标准溶液体积24 41毫升四位有效数字由于万分之一的分析天平能称准至 0 0001克 滴定管的读数能读准至 0 01毫升 故上述坩埚重应是18 5734 0 0001克 标准溶液的体积应是24 41 0 01毫升 因此这些数值的最后一位都是可疑的 这一位数字称为 不定数字 在分析工作中应当使测定的数值 只有最后一位是可疑的 1 有效数字的意义及位数 有效数字的位数 直接与测定的相对误差有关 例如称得某物重为0 5180克 它表示该物实际重量是0 5180 0 0001克 其相对误差为 0 0001 0 5180 100 0 02 1 有效数字的意义及位数 如果少取一位有效数字 则表示该物实际重量是0 518 0 001克 其相对误差为 0 001 0 518 100 0 2 1 有效数字的意义及位数 表明测量的准确度后者比前者低10倍 所以在测量准确度的范围内 有效数字位数越多 测量也越准确 但超过测量准确度的范围 过多的位数是毫无意义的 必须指出 如果数据中有 0 时 应分析具体情况 然后才能肯定哪些数据中的 0 是有效数字 哪些数据中的 0 不是有效数字 1 有效数字的意义及位数 例如 1 0005五位有效数字0 5000 31 05 6 023 102四位有效数字0 0540 1 86 10 5三位有效数字0 0054 0 40 两位有效数字0 5 0 002 一位有效数字在1 0005克中的三个 0 0 5000克中的后三个 0 都是有效数字 在0 0054克中的 0 只起定位作用 不是有效数 在0 0540克中 前面的 0 起定位作用 最后一位 0 是有效数字 同样 这些数值的最后一位数字 都是不定数字 1 有效数字的意义及位数 因此 在记录测量数据和计算结果时 应根据所使用的仪器的准确度 必须使所保留的有效数字中 只有最后一位数是 不定数字 例如 用感量为百分之一克的台秤称物体的重量 由于仪器本身能准确称到 0 0l克 所以物体的重量如果是10 4克 就应写成10 40克 不能写成10 4克 分析化学中还经常遇到pH lgK等对数值 其有效数字的位数仅取决于小数部分数字的位数 因整数部分只说明该数的方次 例如 pH 12 68 即 H 2 1 l0 13mol L 其有效数字为两位 而不是四位 2 有效数字的运算规则加减法 例如0 0121 25 64 1 05782 5 2727 0 075 3 7 2 12 2 有效数字的运算规则加减法 当几个数据相加或相减时 它们的和或差的有效数字的保留 应以小数点后位数最少 即绝对误差最大的数据为依据 因此 0 0121应写成0 01 1 05782应写成1 06 三者之和为 0 01 25 64 1 06 26 71在大量数据的运算中 为使误差不迅速积累 对参加运算的所有数据 可以多保留一位可疑数字 多保留的这一位数字叫 安全数字 如计算5 2727 0 075 3 7及2 12的总和时 根据上述规则 只应保留一位小数 但在运算中可以多保留一位 故5 2727应写成5 27 0 075应写成0 08 2 12应写成2 12 因此其和为 5 27 0 08 3 7 2 12 11 17然后 再根据修约规则把11 17整化成11 2 3 有效数字的运算规则乘除法 求0 0121 25 64 1 05782 0 3451 17 9 2 0786 3 有效数字的运算规则乘除法 几个数据相乘除时 积或商的有效数字的保留 应以其中相对误差最大的那个数 即有效数字位数最少的那个数为依据 3 有效数字的运算规则乘除法 设此三数的最后一位数字为可疑数字 且最后一位数字都有 1的绝对误差 则它们的相对误差分别为 0 0121 1 121 1000 8 25 64 1 2564 1000 0 4 1 05782 1 105782 1000 0 009 第一个数是三位有效数字 其相对误差最大 以此数据为依据 确定其他数据的位数 即按规则将各数都保留三位有效数字然后相乘 0 0121 25 6 1 06 0 328若是多保留一位可疑数字时 则0 0121 25 64 1 058 0 3282然后再按 四舍六入五留双 规则 将0 3282 改写成0 328 4 有效数字的运算规则乘方 开方运算 例如 6 54 进行数值乘方或开方时 结果有效数字位数不变 6 54 42 8 2 2 5 几点注意 1 计算公式中的常数如 等都是正确数 在运算中可以根据需要截取其有效位数 2 首位数字为8 9的数字 其有效数字可比实际的位数多一位 如8749可认为其为5为有效数字 923可认为其为4位有效数字 3 为减少数字的舍入误差 对参与运算的各有效数字进行修约时 可比实际需要多保留一位 0 03865 9 4 1 327 若是多保留一位可疑数字时 则0 03865 9 4 1 327 三 数值修约的规则及技巧 1 数值修约规则 1 四舍六入五凑双具体的做法是 1 拟舍弃数字最左一位数字 4时将其舍去 2 拟舍弃数字最左一位数字 6时就进一位 3 如果拟舍弃数字最左一位数字为5而后面的数为0时 如所保留的数字的末位数字为奇数则进一 如所保留的数字的末位数字为偶数则舍去 4 当 5 后面还有不是0的任何数时 都须向前进一位 无论前方是奇还是偶数 0 则以偶数论 1 数值修约规则 0 53664 0 53660 58346 0 583510 2750 10 2816 4050 16 4027 1850 27 1818 06501 18 07 2 修约间隔0 2 0 5 0 5单位修约 将拟修约数值乘以2后正常修约 得到的数再除以2 例 修约到个数位的0 5单位 60 25 60 38 60 756060 561 1 数值修约规则 0 2单位修约 将拟修约数值乘以5后正常修约 得到的数再除以5 例 修约到百位数的0 2单位830 842 930840840920 3 不可连续修约必须注意 进行数字修约时只能一次修约到指定的位数 不能数次修约 否则会得错误的结果 如 97 46修约到1为97 1 数值修约规则 4 特殊数值的表示报出的数值最右的非零数字为5时 应在数值右上角加 或 或不加符号 以分别表明已进行过舍 进或未舍未进 例 实测值报出值修约值 15 4546 15 5 1516 520316 517 2 数值修约方法总结 1 如果为修约间隔整数倍的一系列数中 只有一个数最接近拟修约数 则该数就是修约数 例 将1 150001按0 1间隔进行修约 1 2例 将1 0151修约至十分位的0 2个单位 5 0755 11 02例 将1 2505按 5 间隔修约至十分位 2 如果在修约间隔整数倍的一系列数中 有连续的两个数同等地接近拟修约数 只有为修约间隔偶数倍的那个数才是修约数 例 将1150按100修约间隔修约 1200例 将1 500按0 2修约间隔修约到个数位7 5008 0001 6例 将1 025按 5 间隔修约到三位有效数字 四 极限数值的表示和判定 1 极限数值的表示 带有极限偏差值的数值的表示 表示的含义 从79mm到82mm符合要求 2 极限数值的判定规