23 有效数字与运算规则.ppt_第1页
23 有效数字与运算规则.ppt_第2页
23 有效数字与运算规则.ppt_第3页
23 有效数字与运算规则.ppt_第4页
23 有效数字与运算规则.ppt_第5页
已阅读5页,还剩5页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、2020/8/10,第二章 定量分析中的误差与数据评价,第三节 有效数字及其运算规则,2.3.1 有效数字 2.3.2 有效数字的运算规则 2.3.3 数字修约规则,2020/8/10,2.3.1 有效数字,1实验过程中常遇到的两类数字 (1)非测定值:如测定次数;倍数;系数;分数等。 (2)测量或计算值。数据的位数与测定准确度有关。 记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度。,结果 绝对偏差 相对偏差 有效数字位数 0.51800 0.00001 0.002% 5 0.5180 0.0001 0.02% 4 0.518 0.001 0.2% 3,2020/8/10,2数据

2、中零的作用,数字零在数据中具有双重作用: (1)作普通数字用,如 0.5180 4位有效数字 5.18010-1 (2)作定位用:如 0.0518 3位有效数字 5.1810-2,2020/8/10,3改变单位,不改变有效数字的位数,如: 24.01mL, 24.0110-3 L 4注意点 (1)容量器皿;滴定管;移液管;容量瓶;4位有效数字 (2)分析天平(万分之一)取4位有效数字 0.1012 g (3)标准溶液的浓度,用4位有效数字表示: 0.1000 molL-1 (4)pH 4.34 ,小数点后的数字位数为有效数字位数 对数值:lg x = 2.38; lg(2.4102) = 2

3、+ 0.38,2020/8/10,2.3.2 有效数字的运算规则,1. 加减运算 结果的位数取决于绝对误差最大的数据的位数 例: 0.0121 绝对误差:0.0001 25.64 0.01 1.057 0.001,26.7091,2020/8/10,2. 乘除运算,有效数字的位数取决于相对误差最大的数据的位数。 例:(0.0325 5.103 60.0)/ 139.8 = 0.071179184 0.0325 (0.0001/0.0325) 100%=0.3% 5.103 (0.001 /5.103) 100%=0.02% 60.06 ( 0.01 /60.06) 100%=0.02% 139

4、.8 (0.1 /139.8) 100% =0.07%,混合运算时,加减和乘除分别按规则取有效数字位数。,2020/8/10,3. 对数和反对数运算,在对数与反对数运算中,对数的小数点后位数与真数的有效数字位数相同(对数的整数部分不计入有效数字位数)。如: 5.610-13 mol-1 pH=12.25 lgKa = -9.24 a5.810-10,2020/8/10,4. 注意点,(1) 分数、比例系数、实验次数等不记位数; (2) 第一位数字大于8时,多取一位, 如:8.48,可按4位算; (3) 四舍六入五留双; 0.24335 = 0.2434;0.24345 = 0.2434 (4)

5、 注意pH计算,H+ = 5.0210 -3 , pH = 2.299; 有效数字按小数点后的位数计算。,2020/8/10,2.3.3 数字修约规则,“四舍五入”数字修约规则,出现正误差。 国家标准规定的“四舍六入五留双”数字修约规则。 【例2-7】 将下面数据修约为4位有效数字 1.362491.362 26.486326.49 1.00351.004 2.004502.004 1.0245011.025 1.0235011.024 数字修约时,只允许对原始数据进行一次修约,而不能对该数据进行连续修约。 如将15.46修约到2位有效数字,必须将其一次修约到15,而不能连续修约为15.4615.516。,2020/8/10,内容选择:,结束,2

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论