定量分析的误差和数据处理课件_第1页
定量分析的误差和数据处理课件_第2页
定量分析的误差和数据处理课件_第3页
定量分析的误差和数据处理课件_第4页
定量分析的误差和数据处理课件_第5页
已阅读5页,还剩96页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、 定量分析的误差 和数据处理分析化学电子教案 本章学习的主要内容准确度和精密度误差来源和误差分类随机误差的分布规律和有限数据的统计处理提高分析准确度的方法有效数字及运算规则1.1.1 准确度(Accuracy)及其表示误差1.1 准确度与精密度 定量分析所得数据的优劣,通常用准确度和精密度表示。准确度: 测定结果与真值接近的程度,用误差衡量。 E = x - xT误差绝对误差: 测量值与真值间的差值, 用 E表示相对误差: 绝对误差占真值的百分比,用Er表示Er =E/xT = x - xT /xT100 真值T (True value) 某一物理量本身具有的客观存在的真实值。真值是未知的、客

2、观存在的量。在特定情况下认为 是已知的:1、理论真值(如化合物的理论组成)(如,NaCl中Cl的含量)2、计量学约定真值(如国际计量大会确定的长度、质量、物质的量单位等等)3、相对真值(如高一级精度的测量值相对于低一级精度的测量值)(例如,标准样品的标准值)误差越小,分析结果越接近真实值,准确度也越高。误差有正有负,x 为负误差,说明测定结果偏低,反之亦然。相对误差反映出误差在真实值中所占的比例,衡量分析结果的准确度更为确切。例1.1:测定含铁样品中w(Fe), 比较结果的准确度。A.铁矿中, T=62.38%, = 62.40%Ea = T= 0.02%B. Li2CO3试样中, T=0.

3、42%, =0. 44%Ea = T=0.02%=0.02/62.38= 0.03%=0.02/0. 42=5% 如果分析天平的称量误差为0.2mg,拟分别称取试样0.1g和1g左右, 称量的相对误差各为多少? 这些结果说明了什么问题?可得解:因分析天平的称量误差为故读数的绝对误差 根据 这说明,两物体称量的绝对误差相等,但他们的相对误差并不相同。也就是说,当被测定的量较大时,相对误差就比较小,测定的准确程度也就比较高。 例:滴定管的读数误差为0.02mL。 (1)如果滴定中用去标准溶液的体积分别为2mL和20mL左右,读数的相对误差各是多少? (2)从相对误差的大小说明了什么问题? 此题与本

4、章的思考练习题中1.4相似。 因滴定管的读数误差为, 故读数的绝对误差 根据可得 这说明,量取两溶液的绝对误差相等,但他们的相对误差并不相同。也就是说,当被测定的量较大时,测量的相对误差较小,测定的准确程度也就较高。 解:滴定的体积误差和称量的质量误差VEaEr20.00 mL0.02 mL0.1% 2.00 mL0.02 mL1.0%mEaEr1.0000 g 0.2 mg0. 02%0.1000 g0.2 mg0. 2% 例:标定浓度约为0.1molL-1的NaOH,欲消耗NaOH溶液20mL左右, (1)应称取基准物质H2C2O42H2O多少克? (2)其称量的相对误差能否达到0. 1%

5、? (3)若不能,可以用什么方法予以改善? (4)若改用邻苯二甲酸氢钾为基准物,结果又如何? 根据方程2NaOH+H2C2O4H2O=Na2C2O4+4H2O可知, 需的H2C2O4H2O质量m1为: 相对误差为 相对误差大于0.1% ,不能用H2C2O4H2O标定0.1molL-1的NaOH ,可以选用相对分子质量大的作为基准物来标定。 若改用KHC8H4O4为基准物时,则有: KHC8H4O4+ NaOH= KNaC8H4O4+H2O需KHC8H4O4的质量为m2 ,则 相对误差小于0.1% ,可以用于标定NaOH。1.1.2 精密度(Precision)及其表示偏差精密度: 平行测定结果

6、相互靠近的程度,用偏差衡量。 偏差: 测量值与平均值的差值,用 d表示d = x - xdi = 0偏差(deviation): 表示精密度高低的量。偏差小,精密度高。偏差的表示有:极差标准偏差相对标准偏差(变异系数)平均偏差绝对偏差绝对偏差-单次测定结果与平均值之差。相对偏差-绝对偏差与平均值之比。不能反映一组平行测定结果的精密度。只能反映某次测定结果的精密度1、绝对偏差与相对偏差平均偏差-各单次测定结果偏差绝对值的平均值。相对平均偏差-平均偏差与平均值之比。2、平均偏差与相对平均偏差一组平行测定结果间接近或者离散程度。一般分析工作中,结果以相对平均偏差表示。 例1-2 下列为两组平行测定的

7、数据中各次测定结果的绝对偏差,计算平均偏差。1:0.1, 0.4, 0.0, -0.3, 0.2, -0.3, 0.2, -0.2, -0.4, 0.3;2: -0.1 , -0.2, 0.9, 0.0, 0.1, 0.1, 0.0, 0.1, -0.7 , -0.2。例1-2 下列为两组平行测定的数据中各次测定结果的绝对偏差,计算平均偏差。1:0.1, 0.4, 0.0,-0.3,0.2,-0.3,0.2,-0.2,-0.4,0.3;2: -0.1 ,-0.2,0.9, 0.0,0.1,0.1,0.0,0.1, -0.7 ,-0.2。第二组的精密度差,极大值偏差很大的占多数,大的偏差得不到反

8、应。3 总体标准偏差和标准偏差总体标准偏差标准偏差无限次测量,对总体平均值的离散有限次测量对平均值的离散自由度计算一组数据分散度的独立偏差数相对标准偏差变异系数在例1.2中,两组数据的平均偏差相同,但s1=0.3, s2=0.4例1-2 下列为两组平行测定的数据中各次测定结果的绝对偏差,计算平均偏差。1:0.1, 0.4, 0.0,-0.3,0.2,-0.3,0.2,-0.2,-0.4,0.3;2: -0.1 ,-0.2,0.9, 0.0,0.1,0.1,0.0,0.1, -0.7 ,-0.2。标准偏差对极值反应灵敏,用其表示精密度比用平均偏差科学。 例:某铁矿石中铁的质量分数为39.19%,

9、若:甲的测定结果(%)是:39.12,39.15,39.18;乙的测定结果(%)为:39.19,39.24,39.28。 试比较甲乙两人测定结果的准确度和精密度 (精密度以标准偏差和相对标准偏差表示之)。解:甲: 乙: 由上面|Ea1|Ea2|可知甲的准确度比乙高。 S1S2Sr1Sr2 可知甲的精密度比乙高。综上所述,甲测定结果的准确度和精密度均比乙高。极差R相对极差R相差相对相差少数测定结果的离散程度。4、相差与极差 例:测定铁矿石中铁的质量分数(以表示),5次结果分别为:67.48%,67.37%,67.47%,67.43%和67.40%。 计算:(1)平均偏差(2)相对平均偏差 (3)

10、标准偏差;(4)相对标准偏差;(5)极差。 此题与本章的思考练习题中1.5相似。 解:(1) (2) (3)(4)(5)极差=X大-X小=67.48%-67.37%=0.11% 1.1.准确度与精密度的关系真实值12341精密度和准确度都高,结果可靠 2精密度高而准确度低,存在系统误差 3精密度和准确度均不高,结果自然不可靠 4精密度非常差,尽管正、负误差恰好相互抵消而使平均值接近真实值,但只是偶然的巧合,并不可靠 以打靶为例也能说明精度与准确度的关系。(1) 的精度很高,准确度也高; (2)的精度很高,但准确度不高;(3)的精度不高,准确度就更不用说了。评价定量分析优劣,应从精密度和准确度两

11、个方面衡量:精密度是保证准确度的先决条件,精密度差说明测定结果的重现性差,所得结果不可靠(3、4);精密度高准确度才可能高但是精密度高的不一定准确度也高(2);只有在消除了系统误差之后,精密度越高,准确度才越高(1)。准确度与精密度的关系结论:1、精密度是保证准确度的前提。2、精密度高,不一定准确度就高。补充题:测定某元素: 平均值 标准偏差 甲测定结果 6.96% 0.03 乙测定结果 7.06% 0.03 若多次测定的总体平均值为7.02%,试比较甲乙测定结果的优劣.解: 甲 乙准确度(误差) Ea= x -0.06% 0.04% 精密度(相对标准偏差) 0.43% 0.42% 较好定量分

12、析对精密度的要求: 当方法直接、操作比较简单时,一般要求相对平均偏差在0.1%0.2%左右。 定量分析对准确度的要求:不同的测量对象对准确度要求不同。组分质量分数 /% 100 10 1 0.1 0.010.0001相对误差 RE/% 0.10.3 1 12 5 101.2 误差的来源和分类系统误差(Systematic error)某种固定的因素造成的误差(重复性、单向性) 方法误差、仪器误差、试剂误差、操作误差随机误差(Random error)不定的因素造成的误差 仪器误差、操作误差误差的来源(Sources of error) 系统误差 systematic error 由固定的原因造

13、成的,使测定结果系统偏高或偏低,重复出现,其大小可测,具有“单向性”。可用校正法消除。根据其产生的原因分为以下4种。* 方法误差(method error):分析方法本身不完善而引起的。* 仪器和试剂误差(instrument and reagent error):仪器本身不够精确,试剂不纯引起误差。* 操作误差(operational error):分析人员本身主观因素引起的.随机误差- random error由一些随机偶然原因造成的、可变的、无法避免,符合“正态分布”。仪器误差、操作误差过失如果操作人员粗枝大叶,违反操作规程,发生溶液溅失、加错试剂、沉淀传滤等现象,对结果产生影响,这些统

14、称为过失,属于错误。过失应该绝对避免发生,如有发生,所测定的结果应该弃去。随机误差与系统误差 例:A、B、C、D 四个分析工作者对同一铁标样(WFe= 37.40%) 中的铁含量进行测量,得结果如图示,比较其准确度与精密度。36.00 36.50 37.00 37.50 38.00测量点平均值真值DCBA随机误差太大,不可靠随机误差和系统误差都小随机误差低,系统误差较高随机误差和系统误差都大(不可靠)系统误差与随机误差的比较项目系统误差随机误差产生原因固定因素,有时不存在不定因素,总是存在分类方法误差、仪器与试剂误差、操作误差仪器误差、操作误差(环境的变化因素、主观的变化因素等)性质重现性、单

15、向性(或周期性)、可测性服从概率统计规律、不可测性影响准确度精密度消除或减小的方法校正增加测定的次数统计学方法处理例:指出在下列情况下,各会引起哪种误差?如果是系统误差,应该采用什么方法减免?(1) 砝码被腐蚀;(2) 天平的两臂不等长;(3) 容量瓶和移液管不配套;(4) 试剂中含有微量的被测组分;(5) 天平的零点有微小变动;(6) 读取滴定体积时最后一位数字估计不准;(7) 滴定时不慎从锥形瓶中溅出一滴溶液;(8) 标定HCl溶液用的NaOH标准溶液中吸收了CO2。此题与本章的思考练习题中1.2相似。 答:(1)系统误差中的仪器误差。减免的方法:校准仪器或更换仪器。(2)系统误差中的仪器

16、误差。减免的方法:校准仪器或更换仪器。(3)系统误差中的仪器误差。减免的方法:校准仪器或更换仪器。(4)系统误差中的试剂误差。减免的方法:做空白实验。(5)随机误差。(6)系统误差中的操作误差。减免的方法:多读几次取平均值。(7)过失。(8)系统误差中的试剂误差。减免的方法:做空白实验。1.3 随机误差的分布规律和有限数据的统计处理1.3.1 随机误差的分布规律1.3.2 有限数据的统计处理1.3.3 可疑值得取舍2.2.1频率分布No分组频数(ni)频率(ni/n)频率密度(ni/ns)115.8410.0050.17215.8710.0050.17315.9030.0150.51415.9

17、380.0401.35515.96180.0913.03615.99340.1725.72716.02550.2789.26816.06400.2026.73916.09200.1013.371016.12110.0561.851116.1550.0250.841216.1820.0100.341316.2100.0000.00某大学的学生对海水中的卤素进行测定,得到:74.24%88.38%数据集中与分散的趋势海水中卤素测定值频率密度直方图海水中卤素测定值频率密度分布图问题测量次数趋近于无穷大时的频率分布?测量次数少时的频率分布?某段频率分布曲线下的面积具有什么意义?测量值与随机误差的正态分

18、布 总体平均值,表示无限次测量值集中的趋势。 总体标准偏差,表示无限次测量分散的程度。1=0.047 2=0.023 x0 x-y 概率密度x 个别测量值x- 随机误差测量值的正态分布随机误差的正态分布测量值和随机误差的正态分布体现了随机误差的概率统计规律1、小误差出现的概率大,大误差出现的概率小;特别大的误差出现的概率极小。2、正误差出现的概率与负误差出现的概率相等。3、x = 时,y 值最大,体现了测量值的集中趋势。集中的 程度与 有关。平均值结论:增加平行测量次数可有效减小随机误差。x总体标准偏差 相同,总体平均值不同总体平均值相同,总体标准偏差不同原因:1、总体不同2、同一总体,存在系

19、统误差原因:同一总体,精密度不同1.3.2 有限数据的统计处理样本容量n: 样本所含的个体数 总体样本数据抽样观测统计置信区间与置信概率 目的:在无真实值的情况下,如何评价测定结果的可靠性?需要在测量值附近估计出真实值可能存在的范围以及这一范围估计正确与否的概率,由此引出置信区间与置信概率的问题。 1、 置信区间 :在一定置信度下,以测定结果 为中心的、包括总体平均值在内的可靠性范围。 2、置信概率p:测定值在置信区间内出现的概率(也称置信度)。一般分析化学选90%或95%。置信区间 计算公式: 根据随机误差的正态分布规律,有限次测定的总体平均值与测定的平均值 和标准偏差S及校正系数 t 有如

20、下关系: 即:总体平均值将包括在 的区间内,因此称此区间为置信区间 。 校正系数 t与置信概率p、测定次数n(或f)有关,可查表1-3 t 值分布表。 表示置信概率为95%(显著性水平a=1-p)、测定11次的t 值。 p增大 t增大置信区间增大。 由上式知,若评价测定值 是否可靠?可在一定置信度下由 、 S、 t 求出 的置信区间 ;置信区间越小,说 明测定值与总体平均值(真实值)越接近,故测定值越可靠。 例1 某铵盐含氮量的测定结果为 =21.30%; S=0.06%;n=4。求置信概率分别为95%和99%时平均值的置信区间。若测10次(设 、S不变),置信概率为99%时平均值的置信区间为

21、多少?结果说明什么?解:当n=4, =3,P=95%时,查表3-2,t=3.18,所以 结果 当n=4,P=99%时,查表9-2, 当n=10,P=99%时,查表9-2, 1.n=4有95%的把握认为,铵盐的含氮量在21.2021.40%2.n=4有99%的把握认为,铵盐的含氮量在21.1221.48%3.n=10有99%的把握认为,铵盐的含氮量在21.2421.36%注意: 结果说明 置信概率的高低反映测定值的可靠程度。置信概率并非越高越好! 因为p增大 t增大置信区间增大,测定值的精度降低;置信概率也不可太低!因为虽然p减小会使置信区间减小,但测定值的可靠程度降低.不可靠的高精度同样无意义

22、!置信区间的大小反映测定值的精度。相同置信概率时,n大,置信区间减小,分析结果的精度将提高。比较多个测定值的准确程度,应在同一置信概率下进行。否则没有可比性。 例:对其未知试样中Cl-的质量分数进行测定,4次结果为47.64%,47.69%,47.52%,47.55%。 计算置信度为90%,95%和99%时,总体平均值的置信区间。例题分析铁矿中的铁的质量分数,得到如下数据:37.45,37.20,37.50,37.30,37.25(%)。(1)计算此结果的平均值、中位值、极差、平均偏差、标准偏差、变异系数。(2)求置信度分别为95%和99%的置信区间。解(1)分析结果:例题 解(1)例题 续解

23、(1)分析结果:解(2) 求置信度分别为95%和99%的置信区间置信度为95%,即1- = 0.95, = 0.05,查表t 0.05, 4 = 2.78 的95%置信区间:(1)的结果置信度为99%,即1- = 0.99, = 0.01,查表t 0.01,4= 4.60 的99%置信区间结论结 论置信度高,置信区间大区间的大小反映估计的精度置信度的高低说明估计的把握程度。 测定钢中铬的质量分数,5次测定结果的平均值为1.13%,标准偏差为0.022%。计算: 如使的置信区间为1.13% 0.01%,问至少应平行测定多少次?置信度均为0.95。1.3.3 可疑值的取舍 Outlier reje

24、ction 可疑值也称离群值,是指对同一样品进行多次重复测定时,常有个别值比其它同组测定值明显地偏大或偏小。若确实由于实验技术上的过失或实际过程中的失误所致,则应将该值舍去;否则不能随意地剔除或保留,必须通过统计检验决定可疑值的取舍,再求平均值。数学基础:小概率事件的原则异常值的检验方法:1. 4d法(1)在一组数据中除去可疑值后,计算平均值和平均偏差。(2)计算可疑值与平均值之差(应取绝对值)。(3)如果大于等于4倍的平均偏差,则可疑值应该省去。当4d法与其他检验法矛盾时,以其他法则为准。 在实验中得到一组数据,个别数据离群较远,这一数据称为异常值、可疑值或极端值。若是过失造成的,则这一数据

25、必须舍去。异常值不能随意取舍,特别是当测量数据较少时。例1-4 某分析工作,5次平行测定结果分别为:20.18%, 20.16%, 20.10%, 20.20%, 20.18%,用4d法判断20.10%是否应当舍去。例1-4 某分析工作,5次平行测定结果分别为:20.18%, 20.16%, 20.10%, 20.20%, 20.18%,用4d法判断20.10%是否应当舍去。2. Q 检验法 Dixons Q-test(1)将测量的数据按大小顺序排列。(2)计算测定值的极差R 。(3)计算可疑值与相邻值之差(应取绝对值)d。(4)计算Q值:(5)比较:舍弃。舍弃商Q值测定次数n34567891

26、0Q 0.900.940.760.640.560.510.470.440.41Q 0.950.970.840.730.640.590.540.510.49Q值越大,说明xn离群越远。Q称为“舍弃商”。测定碱灰总碱量(%Na2O)得到6个数据,按其大小顺序排列为40.02,40.12,40.16,40.18,40.18,40.20。第一个数据可疑,判断是否应舍弃?(置性度为90%)。解查表 n = 6 , Q表 = 0.56 = Q计算 舍弃例题1-5:1 选择合适的分析方法(1) 根据试样的中待测组分的含量选择分析方法。高含量组分用滴定分析或重量分析法;低含量用仪器分析法。(2) 充分考虑试样

27、中共存组分对测定的干扰, 采用适当的掩蔽或分离方法。(3) 对于痕量组分,分析方法的灵敏度不能满足分析的要求,可先定量富集后再进行测定.1.4 提高测定准确度的措施2 减小测量误差 称量:分析天平的称量误差为0.0002g,为了使测量时的相对误差在0.1%以下,试样质量必须在0.2 g以上。 滴定管读数常有0.0l mL的误差,在一次滴定中,读数两次,可能造成0.02 mL的误差。为使测量时的相对误差小于0.1%,消耗滴定剂的体积必须在20 mL以上,最好使体积在25 mL左右,一般在20至30mL之间。微量组分的光度测定中,可将称量的准确度提高约一个数量级。3 减小随机误差 在消除系统误差的

28、前提下,平行测定次数愈多,平均值愈接近真实值。因此,增加测定次数,可以提高平均值精密度。在化学分析中,对于同一试样,通常要求平行测定(parallel determination)24次。 由于系统误差是由某种固定的原因造成的, 因而找出这一原因,就可以找出系统误差并且除系统误差的来源。找出系统误差-对照试验消除系统误差空白试验- blank test校准仪器 -calibration instrument分析结果的校正-correction result4 消除系统误差对照试验-contrast test与标准试样的标准结果进行对照; 标准试样、管理样、合成样、加入回收法。与其它成熟的分析方

29、法进行对照; 国家标准分析方法或公认的经典分析方法。由不同分析人员,不同实验室来进行对照试验。 内检、外检。(1) 空白试验空白实验:在不加待测组分的情况下,按照试样分析同样的操作手续和条件进行实验,所测定的结果为空白值,从试样测定结果中扣除空白值,来校正分析结果。消除由试剂、蒸馏水、实验器皿和环境带入的杂质引起的系统误差,但空白值不可太大。(2)校准仪器 仪器不准确引起的系统误差,通过校准仪器来减小其影响。例如砝码、移液管和滴定管等,在精确的分析中,必须进行校准,并在计算结果时采用校正值。(3)分析结果的校正 校正分析过程的方法误差,例用重量法测定试样中高含量的SiO2,因硅酸盐沉淀不完全而

30、使测定结果偏低,可用光度法测定滤液中少量的硅,而后将分析结果相加。1.5 有效数字及运算规则 m 台秤(称至0.1g): 12.8g(3), 0.5g(1), 1.0g(2) 分析天平(称至0.1mg): 12.8218g(6),0.5024g(4), 0.0500g(3)V 滴定管(量至0.01mL):26.32mL(4), 3.97mL(3) 容量瓶:100.0mL(4),250.0mL (4) 移液管:25.00mL(4); 量筒(量至1mL或0.1mL):26mL(2), 4.0mL(2)包括全部可靠数字及一位不确定数字在内有效数字位数由仪器准确度决定,它直接影响测定的相对误差.1.5

31、.1 有效数字-实际能测量到的数字 定义:在实验中仪器能测得的有实际意义的数字。 组成:由准确数字加一位欠准确数字组成。几项规定(有效数字位数的确定)数字前0不计,数字后计入 : 0.02450g(4) 245.0mg(4)数字后的0含义不清楚时, 最好用指数形式表示1000 ( 1.0103 ,1.00103 ,1.000 103 )自然数可看成具有无限多位数(如倍数关系、分数关系);常数亦可看成具有无限多位数,如数据的第一位数大于等于8的,可看作多一位有效数字,如 9.45104, 95.2%, 9.61(4)对数与指数的有效数字位数按尾数计,如:pH pM pK pH=11.02, 则H

32、+=9.510-12误差只需保留12位;化学平衡计算中,结果一般为两位有效数字(由于K值一般为两位有效数字);常量分析法一般为4位有效数字(Er0.1%),微量分析为23位。 2 有效数字的修约规则 “四舍六入五成双”规则:当测量值中修约的那个数字等于或小于4时,该数字舍去;等于或大于6时,进位;等于5时(5后面无数据或是0时),如进位后末位数为偶数则进位,舍去后末位数位偶数则舍去。5后面有数时,进位。修约数字时,只允许对原测量值一次修约到所需要的位数,不能分次修约。 “四舍六入五成双”; 将下列数字修约为两位 3.249 3.2 “四舍”8.361 8.4 “六入”6.550 6.6 “五成

33、双”6.250 6.2 “五成双”6.2501 6.3 “五后有数需进位”只可保留最后一位欠准确数字;一次修约 例 将5.5491修约为2位有效数字。 修约为5.5。 修约为5.549-5.55-5.6四舍六入五成双: 0.32554 0.3255 0.36236 0.3624 10.2150 10.22 150.65 150.6 75.5 76 16.0851 16.09下列数据各包括了几位有效数字?(1)0.0330 (2) 10.030 (3) 0.01020 (4) 8.710-5 (5) pKa=4.74 (6) pH=10.00答: (1)三位有效数字 (2)五位有效数字 (3)四

34、位有效数字 (4) 三位有效数字 (5) 两位有效数字 (6)两位有效数字 将0.089g Mg2P2O7沉淀换算为MgO的质量,问计算时在下列换算因数(2MgO/Mg2P2O7)中哪个数值较为合适:0.3623, 0.362, 0.36?计算结果应以几位有效数字报出。 答:0.36 应以两位有效数字报出。 用加热挥发法测定BaCl22H2O中结晶水的质量分数时,使用万分之一的分析天平称样0.5000g,问测定结果应以几位有效数字报出?答: 应以四位有效数字报出。有两位学生使用相同的分析仪器标定某溶液的浓度(molL-1),结果如下:甲:0.12, 0.12, 0.12(相对平均偏差0.00%

35、);乙:0.1243, 0.1237, 0.1240(相对平均偏差0.16%)。你如何评价他们的实验结果的准确度和精密度?答:乙的准确度和精密度都高。因为从两人的数据可知,他们是用分析天平取样。所以有效数字应取四位,而甲只取了两位。因此从表面上看甲的精密度高,但从分析结果考虑,应该是乙的实验结果的准确度和精密度都高。 两位分析者同时测定某一试样中硫的质量分数,称取试样均为3.5g,分别报告结果如下:甲:0.042%,0.041%;乙:0.04099%,0.04201%。问哪一份报告是合理的,为什么?答:甲的报告合理。因为在称样时取了两位有效数字,所以计算结果应和称样时相同,都取两位有效数字。1

36、.5.2 有效数字的运算和修约规则 加减法:结果的绝对误差应不小于各项中绝对误差最大的数.(与小数点后位数最少的数一致) 50.1 50.1 1.46 1.5 + 0.5812 + 0.6 52.1412 52.2 52.1有效数字运算规则 (*先计算后修约)(1)加减法 几个数据相加或相减时,它们的和或差的有效数字的保留,应以小数点后位数最少的数据为根据,即取决于绝对误差最大的那个数据。 3.72+10.6355=? 3 .7 2 + 1 0 . 6 3 5 5 . 1 4 . 3 5 5 5 14.36(2)乘除法 几个数据相乘除,所得结果的有效数字的位数取决于各数中有效数字位数最少、相对误差最大的那个数据。 0.1415.2525 =? 0.1415.2525 1 5 . 2 5 2 5 0 . 1 4 6 1 0 1 0 0 1 5 2 5 2 5 . 2.1 3 5 3 5 0 2.

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论