有效数字及其运算规则

2 4有效数字及其运算规则 2 4 1有效数字数据位数反映测量的精确程度的数字称为有效数字 分析工作中实际上能测量到的数字 例如 读取滴定管上的体积 甲得到23 43mL 乙得到23 42mL 丙得到23 44mL 误差 E 0 01mL以上读数中前三位是一致的 因它是由具体刻度读出的 是准确的 最后一位不一致 因是估计出来的 人眼的分辨能力不同 故估读数有小的差别 该数称为估计数据 也叫可疑数字 但它并不是臆造出来的 读数时应加以保留 估计值 可疑值 1 实验过程中遇到的两类数字 1 非测量值如测定次数 倍数 系数 分数 常数 有效数字位数可看作无限多位 2 测量值或计算值实际测量得到的数字和按照一定计量关系计算得到的数字 3 可疑数字 有效数字的最后一位数字 通常为估计值 不够准确 故称为可疑值 2 有关有效数字的讨论 1 正确记录实验数据用分析天平与用托盘天平称取试样的不同 2 实验记录的数字不仅表示数量的大小 而且要正确地反映测量的精确程度 3 一般有效数字的最后一位数字有 1个单位的误差 结果绝对偏差相对偏差有效数字位数0 51800 0 00001 0 002 50 5180 0 0001 0 02 40 518 0 001 0 2 3 4 数据中零的作用 数字零在数据中具有双重作用 a 作普通数字用 如0 5180 5 180 10 14位有效数字b 作定位用 如0 0518 5 18 10 23位有效数字 5 注意点a 容量器皿 滴定管 移液管 容量瓶 4位有效数字b 分析天平 万分之一 取4位有效数字c 标准溶液的浓度 用4位有效数字表示 0 1000mol Ld pH 4 34 小数点后的数字位数为有效数字位数 对数值 lgX 2 38 lg 2 4 102 6 运算数字中首位数字 8 有效数字可多记一位 2 4 2修约规则 1 为什么要进行修约 数字位数能正确表达实验的准确度 舍去多余的数字 2 修约规则 四舍六入五留双 1 当多余尾数 4时舍去尾数 6时进位 2 尾数正好是5时分两种情况 a 若5后数字不为0 一律进位 0 1067534b 5后无数或为0 采用5前是奇数则将5进位 5前是偶数则把5舍弃 简称 奇进偶舍 0 43715 0 43725数据修约规则可参阅GB8170 87 3 示例与讨论 1 示例 保留四位有效数字 修约 14 2442 14 2426 4863 26 4915 0250 15 0215 0150 15 0215 0251 15 03 2 一次修约到位 不能连续多次的修约如2 3457修约到两位 应为2 3 如连续修约则为2 3457 2 346 2 35 2 4不对 2 4 3运算规则 1 加减法运算结果的位数取决于绝对误差最大的数据的位数例 0 0121绝对误差 0 000125 640 011 0570 001 26 7091 2 乘除法运算 有效数字的位数取决于相对误差最大的数据的位数 例 0 0325 5 103 60 0 139 8 0 071179184 0 07120 0325 0 0001 0 0325 100 0 3 5 103 0 001 5 103 100 0 02 60 06 0 01 60 06 100 0 02 139 8 0 1 139 8 100 0 07 先修约再运算 先运算再修约 结果数值有时不一样 将参与运算的各数的有效数字位数修约到