版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、2022-5-7第一章第一章第一章第一章第一章第一章 误差和分析数误差和分析数误差和分析数误差和分析数误差和分析数误差和分析数据的处理据的处理据的处理据的处理据的处理据的处理第二节第二节第二节第二节第二节第二节 有效数字及其有效数字及其有效数字及其有效数字及其有效数字及其有效数字及其运算规则运算规则运算规则运算规则运算规则运算规则一、有效数字一、有效数字 二、有效数字运算规则二、有效数字运算规则2022-5-71.2.1 有效数字:有效数字: 指在分析工作中实际能够测量得到的数字。指在分析工作中实际能够测量得到的数字。在保留的有效数字中,只有最后一位数字是可疑在保留的有效数字中,只有最后一位数
2、字是可疑的(有的(有 的误差),其余数字都是准确的。的误差),其余数字都是准确的。 2.1 1.0 2.1 1.0 两位有效数字两位有效数字 1.98 0.0382 1.98 0.0382 三位有效数字三位有效数字 18.79% 0.7200 18.79% 0.7200 四位有效数字四位有效数字 43219 1.0008 43219 1.0008 五位有效数字五位有效数字 4.204.2010-6 三三位有效数字位有效数字 pH=3.02; pH=0.02 pH=3.02; pH=0.02 二二位有效数字位有效数字 3600 100 3600 100 有效数字位数不确定有效数字位数不确定 1.
3、2 1.2 1.2 1.2 1.2 1.2 有效数字及其运算规则有效数字及其运算规则有效数字及其运算规则有效数字及其运算规则有效数字及其运算规则有效数字及其运算规则12022-5-7 1 1实验过程中常遇到的实验过程中常遇到的两类数字两类数字 (1)数目:如测定次数;倍数;系数;分数 (2)测量值或计算值,数据的位数与测定准确度有关。记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度。 结果 绝对误差 相对误差 有效数字位数 0.51800 0.00001 0.002% 5 0.5180 0.0001 0.02% 4 0.518 0.001 0.2% 32022-5-72 2 2 2
4、 2 2数据中零的作用数据中零的作用数据中零的作用数据中零的作用数据中零的作用数据中零的作用数字零在数据中具有双重作用双重作用: (1)作普通数字用,如 0.5180 4位有效数字 5.180101 (2)作定位用:如 0.0518 3位有效数字 5.181022022-5-73 3 3 3 3 3改变单位,不改变有效数字的位数改变单位,不改变有效数字的位数改变单位,不改变有效数字的位数改变单位,不改变有效数字的位数改变单位,不改变有效数字的位数改变单位,不改变有效数字的位数如: 24.01mL 24.01103 L 4 4注意点注意点(1)容量器皿;滴定管;移液管;容量瓶;4位有效数字(2)
5、分析天平(万分之一)取4位有效数字(3)标准溶液的浓度,用4位有效数字表示: 0.1000 mol/L(4)pH=4.34 ,小数点后的数字位数为有效数字位数 对数值,lgX =2.38;lg(2.4102)2022-5-71.2.2 1.2.2 1.2.2 1.2.2 1.2.2 1.2.2 有效数字修约规则有效数字修约规则有效数字修约规则有效数字修约规则有效数字修约规则有效数字修约规则 在处理数据过程中,涉及到的各测量值的有在处理数据过程中,涉及到的各测量值的有效数字位数可能不同,因此需要按下面所述的效数字位数可能不同,因此需要按下面所述的计算规则确定各测量值的有效数字位数。计算规则确定各
6、测量值的有效数字位数。 可归纳如下口决:可归纳如下口决:“四舍六入五成双;五四舍六入五成双;五后非零就进一,五后皆零视奇偶,五前为偶应后非零就进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一舍去,五前为奇则进一”。 2022-5-7典型例题典型例题典型例题典型例题典型例题典型例题 将下列数据修约到保留将下列数据修约到保留两位两位有效数字:有效数字:1.434261.43426、1.46311.4631、1.4501.4500707、1.45001.4500、1.35001.3500解(解(1 1)1.434261.43426修约为修约为1.41.4 (2 2)1.46311.4631修约为
7、修约为1.51.5 (3 3)1.4501.4500707修约为修约为1.51.5 第三位为第三位为5 5,但其后面并非全部为,但其后面并非全部为0 0应进应进1 1。 (4 4)1.45001.4500修约为修约为1.41.4;1.35001.3500修约为修约为1.41.4 第三位为第三位为5 5,并且后面数字皆为零,则视其左,并且后面数字皆为零,则视其左面一位,若为偶数则舍去,若为奇数则进面一位,若为偶数则舍去,若为奇数则进1 1。 2022-5-7二、运算规则二、运算规则二、运算规则二、运算规则二、运算规则二、运算规则1. 1. 加减运算加减运算 结果的位数取决于绝对误差最大的数据的位
8、数(即以运算式中小数点后位数最少的数据为依据) 例: 0.0121 绝对误差:0.0001 25.64 0.01 1.057 0.001 26.709126.712022-5-72. 2. 2. 2. 2. 2. 乘除运算时乘除运算时乘除运算时乘除运算时乘除运算时乘除运算时 有效数字的位数取决于相对误差最大的数据的位有效数字的位数取决于相对误差最大的数据的位数数(即以运算式中有效数字位数最少的数据为依据) 例:例:(0.0325 (0.0325 5.103 5.103 60.0)/ 139.8 = 0.07117918460.0)/ 139.8 = 0.071179184 0.0325 0.0
9、325 0.0001/0.0325 0.0001/0.0325 100%=100%=0.3% 0.3% 5.103 5.103 0.001 /5.103 0.001 /5.103 100%=100%=0.02% 0.02% 60.06 60.06 0.01 /60.06 0.01 /60.06 100%=100%=0.02%0.02% 139.8 139.8 0.1 /139.8 0.1 /139.8 100% =100% =0.07%0.07%0.07122022-5-73. 3. 3. 3. 3. 3. 注意点注意点注意点注意点注意点注意点(1 1) 分数、比例系数、实验次数等不记位数;分
10、数、比例系数、实验次数等不记位数;(2 2)在乘除运算过程中)在乘除运算过程中 首位数为首位数为“8”“8”或或“9”“9”的数据,有效的数据,有效数字位数可以多取一位。数字位数可以多取一位。 如:如:8.488.48,按,按4 4位算;位算;(3 3) ;(4 4) 注意注意pHpH计算计算,H H+ +=5.02=5.02 10 -3-3 ; pH = 2.299 pH = 2.299; 有效数字按小数点后的位数计算。有效数字按小数点后的位数计算。(5)表示分析方法的精密度和准确度时,大多数取表示分析方法的精密度和准确度时,大多数取1212位有位有效数字。效数字。2022-5-74 4 4
11、 4 4 4 有效数字运算规则在分析测试中的应用有效数字运算规则在分析测试中的应用有效数字运算规则在分析测试中的应用有效数字运算规则在分析测试中的应用有效数字运算规则在分析测试中的应用有效数字运算规则在分析测试中的应用 1 1记录测定结果时,只应保留一位可疑数字。记录测定结果时,只应保留一位可疑数字。 2 2有效数字位数确定以后,按有效数字位数确定以后,按“四舍六入五成双四舍六入五成双”规规则进行修约。则进行修约。 3 3几个数相加减时,以绝对误差最大的数为标准,使几个数相加减时,以绝对误差最大的数为标准,使所得数只有一位可疑数字。所得数只有一位可疑数字。 4 4对于高含量组分(例如对于高含量
12、组分(例如10%10%)的测定,一般要求分)的测定,一般要求分析结果有析结果有4 4位有效数字;对于中含量组分(例如位有效数字;对于中含量组分(例如1 110%10%),一般要求),一般要求3 3位有效数字;对于微量组分(位有效数字;对于微量组分(1%1%),),一般只要求一般只要求2 2位有效数字。通常以此为标准,报出分析位有效数字。通常以此为标准,报出分析结果。结果。 5.5.当涉及到各种常数时,一般视为准确的,不考虑其当涉及到各种常数时,一般视为准确的,不考虑其有效数字的位数。有效数字的位数。 有效数字处理实例有效数字处理实例有效数字处理实例有效数字处理实例有效数字处理实例有效数字处理实
13、例;,03. 4. 46 .136005164. 062.5082. 9. 300814. 00326. 0106 . 9854. 0187. 2 . 210002000. 00 .1022150. 501950. 000.3002000. 0. 12的浓度求HpH;103 . 9 ; 7 .704;97. 1 ;1256. 051.3.3 1.3.3 1.3.3 置信度置信度置信度置信度置信度置信度( ( ( ( ( (置信水平置信水平置信水平置信水平置信水平置信水平) ) ) ) ) )与平均值的置信区间与平均值的置信区间与平均值的置信区间与平均值的置信区间与平均值的置信区间与平均值的置信区间 (1) (1) 置信度置信度( (置信水平置信水平,P),P) : :真实值真实值( (测定结果的平均值测定结果的平均值) )落在落在 区间内的概率区间内的概率. . 一般一般P=90%P=90%或或95%.95%. (2) (2) 平均值的置信区间平均值的置信区间: :在一定置信度下在一定置信度下, ,以平均值为以平均值为中心中心, ,包括总体平均值包括总体平均值 的置信区间的置信区
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 房缺微创封堵术围手术期护理
- 妇产科护理跨学科合作
- 妊娠糖尿病患者与营养师的协作护理
- 泌尿系统结石的紧急护理要点
- 管廊运维员操作强化考核试卷含答案
- 纺织印花制版工安全应急强化考核试卷含答案
- 人造板制胶工安全技能评优考核试卷含答案
- 岩矿鉴定员岗前实操知识实践考核试卷含答案
- 酱油制作工安全意识强化测试考核试卷含答案
- 井下特种装备操作工安全生产规范模拟考核试卷含答案
- DB31∕T 1598-2025 城市轨道交通车辆寿命评估通 用要求
- 埋石混凝土挡墙监理实施细则
- 《化工企业可燃液体常压储罐区安全管理规范》解读课件
- 高层建筑外墙广告牌吊篮施工方案
- 2026届高考考前信息必刷数学卷(新高考Ⅰ卷)(原卷及解析)
- 十年(2016-2025)高考数学真题分类汇编16三角函数与解三角形解答题综合(六大考点65题)
- 资产重组在制造业中的应用与前景研究报告
- 《中华人民共和国水法》解读培训
- 膝过伸的原因
- DB33∕T 1398-2024 惠民型商业补充医疗保险服务规范
- 某铅锌矿开采设计毕业设计
评论
0/150
提交评论