有效数字及其运算规则_第1页
有效数字及其运算规则_第2页
有效数字及其运算规则_第3页
有效数字及其运算规则_第4页
有效数字及其运算规则_第5页
已阅读5页,还剩11页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、 有效数字及计算规则有效数字及计算规则一一. 有效数字有效数字 有效数字有效数字: 是在分析工作中实际测量到是在分析工作中实际测量到的数字的数字,除最后一位是可疑的外除最后一位是可疑的外,其余的数其余的数字都是确定的。它一方面反映了数量的字都是确定的。它一方面反映了数量的大小大小,同时也反映了测量的精密程度。同时也反映了测量的精密程度。 例如例如, 用分析天平称用分析天平称NaCl1.2007g,可能可能有有0.0001g的误差的误差;用台秤称用台秤称1.20g,可能可能有有0.01g的误差。的误差。注意注意: 数字数字0可以是测量得到的有效数可以是测量得到的有效数字字,但当但当0只用来定位时

2、只用来定位时,就不能是有效就不能是有效数字数字,并且有效数字的位数与小数点的并且有效数字的位数与小数点的位置无关。位置无关。例如:例如: 1.2007g (五位)五位) 0.0012007g(五(五位)位)物体质量物体质量 有效数字位数有效数字位数 使用仪器使用仪器16.5g 3 台天平台天平16.651g 5 普通摇摆天平普通摇摆天平16.6514g 6 分析天平分析天平1.1.关于关于“0”0”的有效问题的有效问题. .当当“0”0”在数字中间或末尾时有在数字中间或末尾时有效效如:如:cm.041225020m.A.0001、等中的等中的0均有效。均有效。注意注意:不能在数字的末尾随便加不

3、能在数字的末尾随便加“0”0”或减或减“0”0”8500. 2850. 285. 2数学上:数学上:物理上:物理上:8500. 2850. 285. 2. .小数点前面的小数点前面的“0”0”和紧接和紧接小数点后面的小数点后面的“0”0”不算作有效不算作有效数字数字如:如:0.0123dm、0.123cm、0.00123m均是均是3位有效数字。位有效数字。注意:注意:进行单位换算时,有进行单位换算时,有效数字的位数不变。效数字的位数不变。3.3.有效数字与仪器的关系有效数字与仪器的关系有效数字的位数有效数字的位数 测量值本身的大小、仪器的准确度测量值本身的大小、仪器的准确度 2020分度游标卡

4、尺分度游标卡尺 L=2.525cmL=2.525cm (四位有效数字)四位有效数字) 螺旋测微计螺旋测微计 L=2.5153cmL=2.5153cm (五位有效数字)五位有效数字)米尺米尺 L=2.52cm L=2.52cm (三位有效数字)三位有效数字)三三. 数字修约数字修约 各测量值有效数字位数可能不同各测量值有效数字位数可能不同,因因 此计算前要先对各测量值进行修约。此计算前要先对各测量值进行修约。 应保留的有效数字位数确定之后应保留的有效数字位数确定之后,其其 余尾数一律舍弃的过程称为修约。余尾数一律舍弃的过程称为修约。 修约应一次到位修约应一次到位,不得连续多次修约。不得连续多次修

5、约。修约规则修约规则:为四舍六入五成双(尾留双),被修约为四舍六入五成双(尾留双),被修约4,舍弃,被修约数,舍弃,被修约数6则进位,若是则进位,若是5将有将有两种情况:前面是奇数则进位为偶数,若前面两种情况:前面是奇数则进位为偶数,若前面是偶数则舍弃,若是偶数则舍弃,若5后面还有不为后面还有不为0的数,则不的数,则不管前面数字奇偶一律进位。管前面数字奇偶一律进位。例如例如,将下列数据修约为两位有效数字将下列数据修约为两位有效数字四四. 有效数字的计算规则有效数字的计算规则 (1) 加减法;以加减法;以 小数点后位数小数点后位数最少的为准最少的为准先修约后加减,结果位数也按点后位数先修约后加减

6、,结果位数也按点后位数最少的算。最少的算。 例如例如, 0.0121+12.56+7.8432 可先修约后计算可先修约后计算,即即 0.01+12.56+7.84=20.41 (2) 乘除法;结果保留位数应与乘除法;结果保留位数应与 有效数字位有效数字位数最少者相同。数最少者相同。 例如例如, (0.014224.43305.84)/28.67 可先修约后计算可先修约后计算, (0.014224.4306)/28.7=3.69。(3) 乘方或开方;乘方或开方;, 结果有结果有 效数字位数不变。效数字位数不变。 例如例如, 6.542=42.8 75. 256. 7(4) 对数计算;对数尾数的位

7、数应对数计算;对数尾数的位数应 与真数的有效数字位数相同。与真数的有效数字位数相同。 例如:例如:20.10pHmol/L103 . 6H11(5) 表示分析结果的精密度和准确度表示分析结果的精密度和准确度 时时, 误差和偏差等只取一位或两误差和偏差等只取一位或两 位有效数字。位有效数字。例如:例如:E=0.123%表示为:表示为:0.1%或或0.12%(6) 计算中涉及到常数计算中涉及到常数 以及非测量以及非测量 值值,如自然数、分数时如自然数、分数时,不考虑其有不考虑其有 效数字的位数效数字的位数,视为准确数值。视为准确数值。e ,(7) 为提高计算的准确性为提高计算的准确性, 在计算过程在计算过程 中可暂时多保留一位有效数字中可暂时多保留一位有效数字, 计计 算完后再修约算完后再修约.运用电子计算器运运用电子计算器运 算时算时, 要对其运算结果进行修约要对其运算结果进行修约, 保保 留适当的位数留适当的位数,不可将显示的全部不可将显示的全部 数字

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论