有效数字与运算规则20140512_第1页
有效数字与运算规则20140512_第2页
有效数字与运算规则20140512_第3页
有效数字与运算规则20140512_第4页
有效数字与运算规则20140512_第5页
全文预览已结束

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、有效数据定义、运算及其修约规则一、有效数据1.1有效数字定义有效数字是指实际能测量到的数值,在该数值中只有最后一位是可疑数字,其余的均为可靠数字。1.2实际意义有效数字能反映出测量时的准确程度。例如,用最小刻度为0.1cm的直尺量出某物体的长度为11.23cm,显然这个数值的前3位数是准确的,而最后一位数字就不是那么可靠,如测得物体的长度可能是11.24cm,亦可能是11.22cm,测量的结果有±0.01cm的误差。我们把这个数值的前面3位可靠数字和最后一位可疑数字称为有效数字。这个数值就是四位有效数字。在确定有效数字位数时,特别需要指出的是数字“0”来表示实际测量结果时,它便是有效

2、数字。例如,分析天平称得的物体质量为7.1560g,滴定时滴定管读数为20.05mL,这两个数值中的“0”都是有效数字。在0.006g中的“0”只起到定位作用,不是有效数字。(1)容量器皿;滴定管;移液管;容量瓶;4位有效数字(2)分析天平(万分之一)取4位有效数字(3)标准溶液的浓度,用4位有效数字表示: 0.1000 mol/L(4)pH 4.34 ,小数点后的数字位数为有效数字位数 对数值,lgX =2.38;lg(2.4´102) 1.3有效数字中0的意义0在有效数字中有两种意义:一种是作为数字定值,另一种是有效数字例如在分析天平上称量物质,得到如下质量:物质称量瓶Na2CO

3、3H2C2O4·2H2O称量纸质量()10.07801.20560.20440.0120有效数字位数6位5位4位3位 以上数据中“0”所起的作用是不同的。“0”是有效数字:10.0780,6位有效数字。1.2056中,5位有效数字。“0”作为数字定值: 0.2044中,小数前面的“0”是定值用的,不是有效数字;0.0120中,“1”前面的两个“0”都是定值用的,而在末尾的“0”是有效数字,所以它有3位有效数字。 称量精确至0.0002g; 15000m 和10000g很难肯定其中的0 是否是有效数字还是数字定值,写为1.5×104m,则表示有效

4、数字是二位;如果把它写为1.50×104m则表示有效数字是三位。综上所述,数字中间的“0”和末尾的“0”都是有效数字,而数字前面所有的“0”只起定值作用。以“0”结尾的正整数,有效数字的位数不确定。二、数字修约规则我国科学技术委员会正式颁布的数字修约规则,通常称为“四舍六进五成双”法则。四舍六进五考虑,即当尾数4时舍往,尾数为6时进位。当尾数4舍为5时,则应是末位数是奇数还是偶数,5前为偶数应将5舍往,5前为奇数应将5进位。大(于)5进,小(于)5舍,是5看奇偶,奇进偶不进。这一法则的具体运用如下:a. 将22.125和22.155处理成4位有效数字,则分别为22.12和22.16。

5、b. 若被舍弃的第一位数字大于5,则其前一位数字加1,例如18.2645处理成3为有效数字时,其被舍往后的第一位数字为6,大于5,则有效数字应为18.3。c. 若被舍其的第一位数字即是5,而其后数字全部为零时,则是被保存末位数字为奇数或偶数(零视为偶),而定进或舍,末位数是奇数时进1,末位数为偶数时还进1,例如18.350、18.250、18.050处理成3位有效数字时,分别为18.4、18.2、18.0。d. 若被舍弃的第一位数字为5,而其后的数字并非全部为零时,则进1,例如18.2501,只取3位有效数字时,成为18.3。e. 若被舍弃的数字包括几位数字时,不得对该数字进行连续修约,而应根

6、据以上各条作一次处理。如35.454546 ,只取4位有效数字时,应为35.45,二不得按下法连续修约为35.46:35.45454635.4545535.454635.45535.46三、有效数字运算规则在分析计算中,有效数字的保存更为重要,下面仅就加减法和乘除法的运算规则加以讨论。3.1 加减法在加减法运算中,保存有效数字的以小数点后位数最少的为准,即以绝对误差最大的为准,例如:0.0121+25.64+1.05782=?正确计算             不正确计算0.0

7、1                   0.0121   绝对误差 0.000125.64                  25.64 0.01+    1.06    

8、;            +      1.05782 0.00001                            26.71    

9、60;              26.70992          上例相加3个数字中,25.64中的“4”已是可疑数字,因此最后结果有效数字的保存应以此数为准,即保存有效数字的位数到小数点后面第二位。3.2 乘除法乘除运算中,保存有效数字的位数以位数最少的数为准,即以相对误差最大的为准。例如:0.0121×25.64×1.05782=以上3个数的乘积应为

10、:不正确计算:0.0121×25.64×1.05782=0.3281823正确计算:0.0121×25.6×1.06=0.328在这个计算中3个数的相对误差分别为:        E%=(±0.0001)/0.0121×100=±8        E%=(±0.01)/25.64×100=±0.04     

11、   E%=(±0.00001)/1.05782×100=±0.0009 有效数字的位数取决于相对误差最大的数据的位数。 ±0.1 /139.8 ´ 100% =±0.07% 例:(0.0325 ´ 5.103 ´ 60.0)/ 139.8 = 0.0712(0.071179184) 0.0325 ±0.0001/0.0325 ´ 100%=±0.3% 5.103 ±0.001 /5.103 ´ 100%=±0.02% 60.06 &#

12、177; 0.01 /60.06 ´ 100%=±0.02% 139.8 ±0.1 /139.8 ´ 100% =±0.07%(0.0325 ´ 5.10 ´ 60.0)/ 140=0.0710 ±0.0002 /0.0710´ 100% =±0.28%显然第一个数的相对误差最大(有效数字为3位),应以它为准,将其他数字根占有效数字修约原则,保存3位有效数字,然后相乘即可。3.3自然数在分析化学中,有时会碰到一些倍数和分数的关系,化学计量关系中的分数和倍数,这些数不是测量所得,它们的有效数字位数可视为无限多位;如:        H3PO4的相对分子量/3=98.00/3=32.67水的相对分子量=2×1.008+16.00=18.02在这里分母“3”和“2×1.008”中的“2”由于它们是非丈量所得到的数,是自然数,其有效数字位数可视为无穷的。关于pH、pK和lgK等对数值,其有效数字的位数仅取决于小数部分的位数,因为整数部分只与该真数中的10的方次有关。例如,pH=13

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论