数据估读与修约规则总结.ppt

数值估读与修约规则 2013年8月 测量结果的数据处理是测量过程的最后环节 而测量结果含有测量误差 因此 测量结果的有效位数应保留适宜 太多会使人误认为测量精度很高 同时也会带来计算上的繁琐 太少则会损失测量准确度 有效数字的位数反映了测量结果的精确度 它直接与测量的精密度有关 因此 在科学实验和生产活动中正确记录有效数字 往往成为计量认证考核的重要内容 有效数字的重要性 以某科研项目年初采购的传感器为例 倾角传感器在 5 可保证精度0 005 厂家为了体现其高分别率 输出的数据全部取位到0 0001 举例 存在两个问题一 精度为0 005 是否应该要像常规的读数一样估读到精度位数的下一位 二 不需要的位数应该如何舍入 解决办法精度为0 005 的仪器读数有效位数跟精度位数相同 不再显示下一位 多余位数将其按一定原则舍入 以下将做详细介绍 可知仪器的取位问题不是越多越好 更不是无章可循 作为计量认证工作的重点考察项目 其具有系统和规范的要求 拟从以下两个方面叙述 一 量测结果有效位数的规定二 多余位数如何修约 一 量测结果有效位数的确定 1 测量 测量结果 测量是以确定量值为目的的一组操作 量值是由一个数 值 乘以测量单位所表示的特定量的大小 测量不可避免的存在误差 测量读数由准确数字和可疑数字组成 仪器的精度和最小刻画所标识的数字均为可准确测度数据的最小数字 比此数字小的均为可疑数字 2 有效数字 有效数字指在分析和测量中所能得到的有实际意义的数字 测量结果是由有效数字组成的 前后定位用的 0 除外 有效数字的前几位都是准确数字 只有最后一位是可疑数字 其由准确数字和可疑数字组成 如1 1080 前几位数字1 1 0 8都是称量读到的准确数字 而最后一位数字0则是在没有刻度的情况下估读出来的 是不准确的或者说可疑的 有效数字是处于表示测量结果的数值的不同数位上 所有有效数字所占有的数位个数称为有效数字位数 例如数值3 5 有两个有效数字 占有个位 十分位两个数位 因而有效数字位数为两位 而3 501有四个有效数字 占有个位 十分位 百分位等四个数位 因而是四位有效数字 测量结果的数字 其有效位数反映了测量结果的精确度 它直接与测量的精密度有关 这也是有效数字实际意义的体现 是非常重要的体现 例如前述例子中 若测量结果为1 1080g 则表示测量值的误差在10 4量级上 天平的精度为万分之一 若测量结果为1 108g 则表示测量值的误差在10 3量级上 天平的精度为千分之一 在确定有效数字位数时应遵循下列原则 1 数值中数字1 9都是有效数字 2 数字 0 在数值中所处的位置不同 起的作用也不同 可能是有效数字 也可能不是有效数字 判定如下 1 0 在数字前 仅起定位作用 不是有效数字 如 0 0257中 2 前面的两个 0 均非有效数字 0 123 0 0123 0 00123中 1 前面的 0 也均非有效数字 2 数值末尾的 0 属于有效数字 如0 5000中 5 后面的三个 0 均为有效数字 0 5000中 5 后面的一个 0 也是有效数字 3 数值中夹在数字中间的 0 是有效数字 如数值1 008中的两个 0 是均是有效数字 数值8 01中间的 0 也是有效数字 4 以 0 结尾的正整数 0 是不是有效数字不确定 应根据测试结果的准确度确定 如3600 后面的两个 0 如果不指明测量准确度就不能确定是不是有效数字 测量中遇到这种情况 最好根据实际测试结果的精确度确定有效数字的位数 有效数字用小数表示 把 0 用10的乘方表示 如将3600写成3 6 103表示此数有两位有效数字 写成3 60 103表示此数有三位有效数字 写成3 600 103表示此数有四位有效数字 试看下面各数据的有效数字位数 1 000843383五位有效数字0 500020 76 四位有效数字0 0257154 10 10三位有效数字530 0070二位有效数字0 022 10 10一位有效数字3600100有效数字位数不定 3 直接量测结果位数规定 凡是用测量仪器直接测量的结果 读数一般要求在读出仪器最小刻度所在位的数值 可靠数字 后 再向下估读一位 不可靠数字 这里不受有效数字位数的限制 总则 细则 1 最小刻度值 精度 是1 0 1 0 01 的应读到最小刻度值 精度 的下一位 2 最小刻度值 精度 是2 0 2 0 02 5 0 5 0 05 的应读到最小刻度值 精度 的同一位 同一位分别按二分之一或五分之一估读 不足半小格的舍去 超过半小格的按一个格估读 3 游标卡尺不需估读 小数点位与其精度小数点位数相当 4 秒表读数时不需估读 单位 秒 一位小数 例1 刻度尺的读数 读数 1 62cm 16 2mm 读数 2 00cm 20 0mm 例2 螺旋测微器的读数注意点 1 进行固定尺读数时要注意半毫米刻度线是否已露出 2 进行可动尺读数时要估读一位3 测量值以毫米为单位应有3位小数 读数 7 981mm 0 7981cm 例3 电表的读数注意点 1 量程2 要估读一位 采用3v量程 2 15v 采用15v量程 10 8 例4 游标卡尺的读数 1 分度数 精确度的确定 2 读数步骤 方法 测量值 主尺读数 n 精确度 注意 测量值小数点位数应与精度小数点位数相当 读数为 23 7mm 读数为 61 30mm 读数为 53 50mm 例5 秒表的读数 读数为 96 4s 例6 天平的读数 天平平衡时 右盘中有26g砝码 游码在图中所示位置 则被测物体质量为 答案 26 32g 最小刻度为0 02g 不是10分度 因此只读到0 02g这一位 二 数值如何修约 数值修约 一 数值修约的概念及意义 二 数值修约的基础知识 三 数值修约规则及注意事项 四 数值运算修约规则 1 数值修约的概念对某一表示测量结果的数值 拟修约数 根据保留位数的要求 将多余的数字进行取舍 按照一定的规则 选取一个近似数 修约数 来代替原来的数 这一过程称为数值修约 一 数值修约的概念及意义 2 数值修约的意义a 出于准确表达测量结果的需要 测量结果大都是通过间接测量得到的 间接测量的结果通常是通过计算得出的 其组成数字往往较多 但具体测量的精度是确定的 最终提供的测量结果应合理反映这一点 故此 通过对计算方法和直接测量得到的数据的分析 得到合理的保留位数 以得到合理反映测量精度的测量结果就非常必要 另外 即使采用直接测量 有时在提供测量程序要求的但高于实际测量精度的测量结果时也需要进行合理的数值修约 b 在进行具体的数值计算前 对参加计算的数值进行修约 可简化计算 降低计算出错的机会 例如 4 78961 2 13 102 4387926 若不先进行数值修约就直接计算 繁琐且容易出错 若在计算前先按数值修约规则进行修约 舍去多余参与计算的数值之中没有意义的数字 则计算会简单得多 计算也就不容易出错 a 修约间隔 修约间隔 修约值的最小数值单位 又称修约区间或化整间隔 系确定修约保留位数的一种方式 修约间隔一般以k 10n k 1 2 5 n为整数 的形式表示 将同一k值的修约间隔 简称为 k 间隔 修约间隔的数值一经确定 修约值即应为该数值的整数倍 例1 如指定修约间隔为0 1 修约值即应在0 1的整数倍中选取 相当于将数值修约到一位小数 例2 如指定修约间隔为100 修约值即应在100的整数倍中选取 相当于将数值修约到 百 数位 二 数值修约的基础知识 b 修约数位及确定修约位数的表达方式 修约时拟将拟修约数的哪一位数位后部分按修约规则舍去 则该数位就是修约数位 数值修约时需要先明确修约数位 确定修约位数的表达方式如下 1 指明具体的修约间隔 如指明将某数按0 2 2 10 1 修约间隔修约 100 1 102 修约间隔修约等 2 指定将拟修约数修约至某数位的0 1 0 2或0 5个单位 3 指明按 k 间隔将拟修约数修约为几位有效数字 或修约至某数位 这时 1 间隔可不必指明 但 2 间隔和 5 间隔必须指明 三 数值修约相关规定 1 gb8170 87 数值修约规则 2 通用修约方法 1 gb8170 87 数值修约规则 规定的修约规则如下 1 拟舍弃数字的最左一位数字小于5时 则舍去 即保留的各位数字不变 例1 将12 1498修约到一位小数 得12 1 例2 将12 1498修约成两位有效位数 得12 2 拟舍弃数字的最左一位数字大于5 或者是5 而其后跟有并非全部为0的数字时 则进一 即保留的末位数字加1 例1 将1268修约到 百 数位 得13 102 特定时可写为1300 例2 将1268修约成三位有效位数 得127 10 特定时可写为1270 例3 将10 502修约到个数位 得11 注 特定时 的涵义系指修约间隔或有效位数明确时 3 拟舍弃数字的最左一位数字为5 而右面无数字或皆为0时 若所保留的末位数字为奇数 1 3 5 7 9 则进一 为偶数 2 4 6 8 0 则舍弃 例1 修约间隔为0 1 或10 1 拟修约数修约值1 0501 00 3500 4例2 修约间隔为1000 或103 拟修约数修约值25002 103 特定时可写为2000 35004 103 特定时可写为4000 例3 将下列数字修约成两位有效位数拟修约数修约值0 03250 0323250032 103 特定时可写为32000 4 负数修约时 先将它的绝对值按上述1 3 规定进行修约 然后在修约值前面加上负号 例1 将下列数修约到 十 数位拟修约数修约值 355 36 10 特定时可写为 360 325 32 10 特定时可写为 320 例2 将下列数修约成两位有效位数拟修约数修约值 365 36 10 特定时可写为 360 0 0365 0 036注 以上4条为修约间隔为 1 时的修约规则 5 0 5单位修约与0 2单位修约必要时 可采用0 5单位修约和0 2单位修约 a 0 5单位修约将拟修约数乘以2 按指定数位依1 4 规则修约 所得数再除以2 例如 将下列数修约到个数位的0 5单位 或修约间隔为0 5 拟修约数乘22a修约值a修约值 a 2a 修约间隔为1 修约间隔为0 5 60 25120 5012060 060 38120 7612160 5 60 75 121 50 122 61 0 b 0 2单位修约将拟修约数乘以5 按指定数位依1 4 规则修约 所得数值再除以5 例如 将下列数修约到 百 数位的0 2单位 或修约间隔为20 拟修约数乘55a修约值a修约值 a 5a 修约间隔为100 修约间隔为20 8304150420084084242104200840 930 4650 4600 920 2 通用数值修约方法 gb8710 87 数值修约规则 分别规定了 1 2 和 5 间隔的修约规则 但计算比较繁琐 对 2 和 5 间隔的的修约还需进行计算 这里介绍一种适用于所有修约间隔的修约方法 只需直观判断简单易行 该方法如下所述 如果为修约间隔整数培的一系列数中 只有一个数最接近于拟修约数 则该数就是修约数 例如 将1 150001按0 1修约间隔进行修约 此时 与拟修约数1 150001邻近的为修约间隔整数倍的数有1 1和1 2 分别为修约间隔的11倍和12倍 然而只有1 2最接近于拟修约数 因此1 2就是修约数 将1 015修约至十分位的0 2单位 修约间隔为0 02 1 00和1 02中 1 2最接近于拟修约数 因此1 02是修约数 为修约间隔的51培 将1 2505按 5 间隔修约至十分位 修约间隔为0 5 1 0和1 5中 1 5是修约数 为修约间隔的3培 如果为修约间隔整数培的一系列数中 有连续两个数同等接近于拟修约数 则这两个数中 为修约间隔偶数培的数就是修约数 例如 将1150按100修约间隔行修约 此时 与拟修约数1150邻近的为修约间隔整数倍的数有1100和1200 分别为修约间隔的11倍和12倍 这两个数同等接近于拟修约数 然而1200为修约间隔的偶数培 12倍 因此1200就是修约数 将1 500按0 2修约间隔修约 结果为1 6 将1 025按 5 间隔修约三位有效数字 结果为1 00 需要指出的是 一个数据的修约只能进行一次 不能分次修约 例如 修约15 4546 修约间隔为1 正确的做法 15 4546 15不正确的做法 15 4546 15 455 15 46 15 5 16 四 运算过程中的修约规则 在一个具体的测量过程中 一般都要经过多个测量的环节 而每个测量的环节都有具体的测量数据 如砂子表观密度测定时称量比重瓶与水 试样的总质量 倾出试样后称量瓶与水的质量 滴定试验时滴定前滴定管的初始读数与滴定至终点时 溶液体积的读数等 这些测量所得的数据 在参与测量结果计算的过程中 若要修约应怎么修约 计算得到的结果怎么修约就是运算法则所要解决的问题 1 加减运算2 乘除运算3 乘方和开方4 对数和反对数5 平均值6 方差和标准偏差 1 加减运算几个数相加减的结果 经修约后保留有效数字的位数 取决于绝对误差最大的数值 计算结果应以绝对误差最大 即小数点后位数最少 的数据为基准 来决定计算结果数据的位数 在实际运算过程中 各数值保留的位数比各数值中小数点后位数最少者多保留一位小数 而计算结果有效数字的位数应与效数最少的一数相同 例如 29 2 36 582 3 0281 按上述规测计算如下 29 2 36 582 3 0281 29 2 36 58 3 03 62 75最后计算结果保留一位小数 为62 8 2 乘除运算几个数据的乘除运算以相对误差最大 即有效数字位数最少 的数值为基准来决定结果数据的位数 在实际运算中 先将各数值修约至比有效数字位数最少者多保留一位有效数字运算 计算结果的有效数字的位数与有效数字位数最少的数值相同 与小数点位置无关 例如 0 235438 28 6 61 8911 0 2354 28 6 61 89 414 6707116三个参与运算的数值的有效数字位数分别为六位 三位 六位 所以最终计算结果用三位有效数字表示 为415或4 15 102 3 乘方和开方乘方或开方时 原数值有几位有效数字 计算结果就可以保留几位有效数字 若计算结果还要参与运算 则乘方或开方所得结果可比原数值多保留一位有效数字 例如 3 582 12 8614运算结果保留三位有效数字 为12 9 运算结果保留三位有效数字为2 51 若原结果还要参与进一步运算 则先保留为2 506 4 对数运算在数值对数计算时 所取对数的小数点后的位数 不包括首数 应与真数的有效数字位数相同 换言之 对数有效数字的位数 只计小数点以后的数字的位数 而不计对数的整数部分 例如 log 100 44 log 1 0044 102 2 0019067 最后结果应为2 00191 结果的有效数字位数是五位 小数后位数 而不是六位 整数位数加小数位数 因整数部分只说明该数的10的方次 5 平均值计算几个数值的平均值时 先将计算结果修约至比要求的位数多一位 再按数值修约规则处理 例如 修约后平均值计算结果为6 39 6 方差和标准偏差方差和标准偏差在运算过程中对中间结果不做修约 只将最后结果修约至要求的位数 注意 在所有计算式中 常数 e等 以及非检测所得的计算因子 倍数或分数 的有效数字位数 可视为无限 需要几位就取几位 使用计算器 或电脑 进行计算时 一般不对中间每一步骤的计算结果进行修约 仅对最后的结果进行修约 使其符合事先所确定的位数 四舍六入五考虑 五后非零则进一 五后皆零视奇偶 五前为偶应舍去 五前为奇则进一 不论数字多