第二章 分析数据处理.ppt

1、第二章 分析数据处理,2.1 分析数据的位数 2.2 可疑数据的取舍 2.3 显著性检验 2.4 标准曲线的相关性检验,2.1 分析数据的位数,一、有效数字 有效数字构成：由全部准确数字和一位不确定数字构成。 有效数字的位数反映了测量的准确度。,记录实验数据和计算测定结果应根据分析方法和分析仪器的准确度来确定有效数字的位数，其位数不能任意增减。,（1）它是否是有效数字，取决于它处在近似数中的位置； （2）小数点以后的零反映了近似数的误差，不能随意取舍； （3）在第一个有效数字之前的零与误差无关，起定位作用， 与测量的准确度无关，不是有效数字。,数字“0”对有效数字的影响。 （见教材P18 ）,

2、二、有效数字的位数 例如：23.51为几位有效数字？,四位，两位小数,0.235为几位有效数字？,三位，三位小数,1.0008 42678 0.1000 25.52% 0.0204 1.9810-5 12 0.0020 0.08 2105 5600 100,五位有效数字,四位,三位,两位,一位,位数不确定 5.6103 , 5.60103,pH=2.48,两位,四要舍，六要上，五字看单双； 单数在前进一位，双数在前五舍先； 五后有数五进一，连续进位不应当。,1、基本修约规则,如：修约为四位有效数字,1.327465,1.327,正确修约为：,三、数字的修约,修约间隔是确定修约保留位数的一种方式

3、，修约间隔 的量一经确定，修约值即为该量值的整数倍。 修约间隔的量值指定为10 m（m可为负整数、零、正数） 的形式。 （）当m为负整数时，表明将数值修约到m位小数。 如m 1，相当于将数值修约到一位小数；十分位 如m2，相当于将数值修约到二位小数；百分位 （）当m0，相当于将数值修约到个位； （）当m为正整数时，表明将数值修约到10 m数位。 如m2，相当于将数值修约到“百”位,2、修约间隔,3、舍入误差 设 a 为待修约的数，b 为修约后的近似数，则修约引起的舍入误差：,ba ,由修约规则可见，舍入误差的绝对值不超过近似数末位的半个单位，即,为修约间隔, 3.133.1346 0.0046

4、,例2：a 3.1450，m 2，则 b 3.14,例1：a 3.1346，m 2，则修约到二位小数，修约为b3.13，舍入误差的绝对值为：, ba = 3.143.1450 0.005 ,例3：将数8750按100间隔修约，要求m 2，并求舍入误差。（相当于修约到百位）,则8750 ,舍入误差880087505010m/2,8800（5前为单数，应进）,四、记数规则 1、记录测量数据时，只保留一位可疑数字； 2、表示精密度（标准偏差和不确定度）时，通常只取一位到两位有效数字。 3、在数值计算中，当有效数字位数确定后，其余数字应按修约规则进或舍。 4、在数值计算中，某些倍数、分数、某些物理量的

5、有效数字的位数可视为无限。如、测定次数n、自由度。,5、测定结果的有效数字位数不能低于方法检出限的有效数字位数。 6、测定结果的有效数字位数应与分析方法的精密度或不确定度相适应。 7、测定结果的有效数字位数与待测组分在试样中的相对含量有关。高含量组分测定（10%）保留四位有效数字；中含量组分测定（1%10%）保留三位；微量组分测定（1%）保留两位。,五、有效数字的运算规则（教材P1819） 1、加减运算：计算结果小数位应与其中小数点后位数最少的数相同。(即绝对误差最大的数的位数),例1：求1648.0+13.65+0.0082+1.63286.825.135+316.34+0.545？ 上述数

6、中小数位最少的为一位，因此它们的和必须保留一位小数。 1648.0+13.65+0.0082+1.63286.825.135 +316.34+0.5452072.13,2072.1,2、乘除运算：计算结果有效数字位数应与各乘、除数中有效数字位数最少的数相同。(即相对误差最大的数的位数),例1：1.3640.00260.0035464,0.0035,注意：当舍去的多余位数为整数位时，被保留的有效数字必须保持它原来的数位不变。,例2：18673.80.48,90102,8963.424,3、乘方和开方运算：计算结果有效数字位数应与其 底数的有效数字位数相同。 例1：（1.52）2 2.3104,2

7、.31, 1.7788,例2：,1.778847941,4、对数运算：计算结果有效数字位数与其真数位数相同。,5、在计算4个以上数的平均值时，其有效数字可增 加一位。,（1）在运用计算器等计算工具时，可适当多保 留有效数字或小数位数； （2）测量误差和测量不确定度一般只保留一至 两位有效数字，其余按规则舍入； （3）提高精密度，依靠增加测定次数，降低随 机误差，增加结果有效数字位数。,注意：,一、技术性取舍,2.2 可疑数据的取舍（异常值检验）,二、统计检验取舍 统计检验可疑数据的法则：“4d”检验法、莱因达检验法、格鲁布斯（Grubbs）检验法、狄克逊（Dixon）检验法和科克伦（Cochr

8、an）检验法等。,过失误差（操作人员的主观因素）：如样品溅失、加错试剂、计算差错等,外界测定条件突然变化 （外界条件的客观因素）：,仪器失常、环境突然影响等原因,可疑数据，作技术性剔除，否则应保留。,（3）计算标准偏差,或,（5）给定显著性水平（ = 1-P）, = 0.05 （6）比较计算值G1 （或 Gn ）与G（, n）临界值，若 G1 （或Gn） G（, n），则该可疑值应剔除，否则 保留。G（, n）值见教材P223附表5,检验程序如下： （1）将数据由小到大排列： X1，X2，X3Xn,（2）计算此组数据的平均值,（4）计算统计量G1或Gn,1、Grubbs检验法（格鲁布斯法）,G

9、, n值表,查G（, n）临界值表n = 5， = 0.05时，（附录表5教材P223） G（0.05，5）= 1.67，G1 G（0.05，5） 判断可疑值30.02%应保留。 5个值都应参与均值，不应剔除。,例：测定某铁矿石中Fe2O3（%）得到5个分析数据，按其大小排列为30.02、30.12 、30.16 、30.18、30.18，第一个数据30.02可疑，试判断是否应舍去（P = 0.95）？ 解：,教材P16例1-13,（）如果可疑值有两个，而且都在X1、X2、X3 Xn-1、Xn同 一侧，若X1 、X2为可疑值，先检验X2，测定次数应作少一次，计算G2检验X2的取舍。如X2舍去，

10、则X1舍去。注意，检验内侧数据时计算 平均值X和S不应包括外侧数据。,（）对一组数据中偏高或偏低的可疑值进行检验，一般作一 次检验。,（）如果可疑值有两个，而且分配在X1、X2、X3 Xn-1、Xn的两侧，若X1 、Xn为可疑值，分别检验X1 、Xn是否应舍去。如有一个数据决定舍去，再检验另一个数据时，测定次数应作少一次处理。,注意：,检验程序如下：单侧情形 （1）将一组数据由小到大顺序排列： 8n10 X1，X2，X3 Xn-1，Xn（异常值出现在两端） （2）根据测定次数n，选择相应的D统计量计算D值。 教材P17 表1-3,2、Dixon检验法 （D检验法）,该法比较简单，不需要计算平均

11、值和标准偏差，可进行多次检验，根据分析数据由小到大排列后的顺序及测定次数，以统计量来判断最小、最大可疑数据的取舍。,（检验最小值，第一个数据）,（检验最大值，最后数据）,（3）给定显著性水平和测定次数n （4）查Dixon检验单侧临界值D（, n）（教材P223附录表6） （5）比较D计算值与D（, n）：若D计 D（, n），则判断该可疑值应弃去，否则保留。,例：一组测定值（%）按由小到大顺序排列为14.65，14.90，14.90，14.92，14.95，14.96，15.00，15.00，15.01，15.02，检验最小值14.65是否该舍去?（显著性水平= 0.05 ）,解：n = 1

12、0，计算统计量D,检最大值X n ：,检最小值X1 ：,X1 = 14.65%，X2 = 14.90%，Xn-1 = 15.01%,由= 0.05，n = 10 查Dixon检验单侧临界值D（, n）附录表6： D（, n）= D（0.05 , 10）= 0.477,代入,D计 D临,最小值14.65%应剔除。,当再检验下一个数时，已检验并应剔除的数应先删除，再进行检验，此时n = n-1。, 3n 7 、 8n10 、 11n13统计量D计算式有所不同。 见教材P17表1-3,、 3 n7，采用统计量D计算式：,检最大值X n ：,检最小值X1 ：,2、 8n10 ，采用统计量D计算式：,检

13、最大值X n ：,检最小值X1 ：,教材P17：例1-14；例1-15,（1）根据表1-3，选择相应的D统计量计算D1和Dn； X1，X2，X3 Xn-1，Xn （2）给定显著性水平和测定次数n，查双侧临界值 （教材P223附录表6）； （3）当DnD1，Dn ，判断Xn 为异常值；当D1Dn， D1 ，判断X1 为异常值；应弃去，否则保留。,检验程序如下：双侧情形,3、Cochran最大方差检验法,用于剔除多组测定值中精密度较差的一组数据，也用于多组测定值的方差一致性检验，即等精度检验。,检验程序如下： （1）将m组测定值，每组n次测定，按其标准偏差大小顺序排列，S1，S2， Sm，其中最大

14、标准偏差为Smax，最大方差Smax2。,（3）给定显著性水平，测定值组数m，每组测定次数n，自由度。 （4）查表得科克伦最大方差检验临界值C（, m , ）。,（2）计算统计量,（5）若计算值C计 临界值C（, m, ），则可疑方差为离群方差，即该组数据精密度过低，应该剔除；若计算值C计临界值C（, m, ），则判断该可疑方差为正常方差，应予保留。,蔡明招主编的“实用工业分析”P15 表1-6 “科克伦检验临界值表（显著性水平 = 0.05 ）”,计算值C计临界值C（, m, ），故 2.17 2 为正常方差，即6个实验室的测定为等精度，应予保留。克服了各实验室之间的系统误差。,例：6个实验

15、室分析同一样品，各测定5次，其标准偏差0.84，1.30，1.48，1.67，1.79，2.17，检验6个实验室的测定是否等精密度。 解：其中最大标准偏差为2.17 = 0.05，m = 6，n = 6，=5，查表得C（, m, ）= 0.4447,对可疑数据总的处理步骤：,（）检验可疑数据：从原始数据到操作方法、条件等，如可疑数据确定是由过失误差或外界客观原因引起的，应舍去该数据。否则必须用统计检验方法进行检验判断后确定取舍。,一般仅存一个不能充分肯定的可疑值，应以Grubbs检验法判别其取舍；如同时存在两个可疑值，应以Dixon检验法单侧或双侧检验最低、最高值。,（）Grubbs检验和 D

16、ixon检验时，应将数据由小到大排序后，逐一检验可疑数据，偏差最大的先检验。,（ 4 ）完成可疑数据取舍后计算测定结果的平均值、标准偏差以及其他数理统计工作。,（ 3 ） 检验剔除一个数后，如要检验下一个数，则应注意试验数据的总数 n 已变化，各试验数据的大小顺序、 都随之改变，相应的统计量值需重新计算。,2.3 显著性检验,问题：是由随机误差引起，或存在系统误差？,显著性检验,适用判断： （1）测定值平均值与给定值（标准值或约定值）之间有无显著性差异； （2）同一操作者使用不同的方法、或用两台不同的仪器、或两个不同的实验室或不同操作者测定相同的样品时，需要判断这些测量值平均值之间有无显著性差

17、异。,一、系统误差的检验, t 检验 当样本数较少，测定结果的分布不完全是正态分布，而服从 t 分布。按统计量计算 t 值与在一定置信水平时t（ ，n-1）值比较，可以判断：,1、以给定值（标准物质测定值或约定值）判定系统误差是否显著,假设不存在系统误差，那么,是由随机误差引起的，测量误差应满足 t 分布，,t 检验法,即,假定分析过程不存在系统误差因素，t 检验可以判定分析方法或测量仪器有无系统误差； 假定分析方法正确，测量仪器已校验，t 检验可以判定分析过程有无引起系统误差的因素存在； 考查某一批样品，某一人或某一实验室的系统误差是否显著，可以通过插入的标准物质测定值，以 t 检验判定。,

18、 t 检验的程序如下： （1）计算测定值的平均值；,（2）计算测定值的标准偏差；,适用：,（4）选定显著性水平及自由度 = n-1，查t 分布单侧临界值 表 t（/2 ，）及 t（， ） （见教材P221附表3） （5）比较 t 计与临界值 t（/2 ， ） 、t（， ）,“双侧检验和单侧检验图示”教材P10,双侧检验：如 t（/2 ， ） ，则平均值与给定值（标准值或约定值）无显著性差异，即在误差范围内，无显著性差异，即无系统误差。,单侧检验： 如 左侧检验： 0， t（， ） ，则平均值与给定值（标准值）无显著性减小，否则有显著减小。,如右侧检验： 0， t（， ） ，则平均值与给定值（标

19、准值）无显著性增大，否则有显著增大。,适用于对所研究的问题只需判断有无显著性差异。,适用于判断某个参数是否比某个值偏大或偏小。若判断有无显著减小，采用左侧检验；若判断有无显著增大，采用右侧检验。,解：平均值 = 96. 910-6 标准偏差 S = 1. 910-6,例：用新制定的某分析方法平行六次测定某标准物质（标准值为97.410-6）得：94.1，95.7，96.5，97.8，98.2，99.110-6，问此分析方法的系统误差是否显著？（新方法是否有系统误差）属双侧检验,选定 = 0.05，自由度 = n -1 = 6-1 =5，查教材附表3得 t（0.025，5）= 2.57 由于 t

20、 计 t（0.025，5） 所以平均值与标准值无显著差异，即新方法无系统误差，系统误差不显著。,教材P12例1-8,2、配对数据的比较（配对检验） 适用：试验数据成对出现，用于新方法与实验室原方法；使用两种仪器的分析结果比较；现场分析方法与标准方法的分析结果有无显著性差异；两个分析人员水平比较；不同实验室分析结果比较等。, t 检验程序如下：,（2）计算各对数据差值的标准偏差,（1）计算各对数据的差值 Di 及其平均值 D,（3）确定 t 统计量， 计算 t 值,（4）给定显著性水平 ，自由度 f = n 1，查附表3临界值 t（/2, f ） ，与计算值 比较。 若 t（/2, f ） ，则

21、差异显著，假设不成立，即两组分析数据存在系统误差；若 t（/2 ， f ），成对数据之间不存在显著的系统误差。,配对数据之差 Di 作为研究的变量。假设两组分析数据没有明显系统误差，即 Di 仍属随机误差。按误差呈正态分布的原理， Di 有正也有负值，如果数据足够多n = 时，,，D = 0,D可取零或给定值，是成对测定值之差的算术平均值,例：用A法和B法各平行测定10次水样中的氨氮（以mg/L 计），结果列于下表，问A法和B法测定结果有无显著性差 异（是否存在系统误差）？=0.05,t 计 t（0.025 ，9）,A法和B法测定结果无显著性差异 (即A法和B法之间不存在系统误差),查附表3：

22、 t（0.025 ，9）= 2.26,解：依,=0.05 ， f = 9,教材P14例1-10,3、两个样本平均值的比较,两个实验室或两种分析方法或两个分析人员对同一试样进行分析，得到：,和,（1）假设不存在系统误差，认为两组数据来自同一总体，且两组数据的方差无显著差异，那么：,应满足自由度 f = n1 + n2 2 的 t 分布。,两组数据都服从正态分布，根据两组数据的方差是否存在显著差异，分两种情况讨论：,t 统计量：,适用：两种不同的分析方法，或两个不同的实验室，或两个不同的分析人员测定同一样品；所得的平均值总会存在差异，采用 t 检验法判断差异是否显著，从而判断分析结果或分析方法之间

23、是否存在系统误差。,计算两样本的平均值,计算两样本的标准偏差,t 检验程序如下：,计算两样本的总的标准偏差（合并标准偏差）,计算两样本平均值之差的标准偏差,根据显著性水平和自由度 f = n1 + n2 2，查附表3 t 分布单侧临界值表得 t（/2 , f ）和 t（ ， f ） 。,确定 t 统计量，计算 t 值,比较判别：,双侧检验：如 t（/2 ， f ） ，则判断两样本平均值无显著性差异，否则有显著性差异。,单侧检验： 如 左侧检验： 0， t（， f ） ，则判断平均值 较平均值 无显著性减小，否则有显著减小。,如右侧检验： 0， t（， f ） ，则判断平均值 较平均值 无显著性

24、增大，否则有显著增大。,（2）两组数据的精密度或方差有显著差异，那么：,t 统计量：,服从自由度 f 的 t 分布：,例：用两种方法测定某样中铁的含量，测定值列于下表，假设两组数据的方差无显著差异，试判断两种方法有无显著性差异。 =0.05,解：两组测定值的平均值： x1 =1.97， x2 = 1.92 两组测定值的标准偏差： S1 = 0.083，S2 = 0.035 两组测定值的总的标准偏差：Sp = 0.066,给定显著性水平= 0.025，自由度 = n1+ n 2- 2 = 6+5-2 = 9 查表 t（0.025 ，9）= 2.26,t 计 t（0.025 ，9）,两方法测定结果

25、无显著性差异。,两组测定值平均值之差的标准偏差：,2检验（卡方检验） 适用：一个总体方差的检验。即试验数据的总体方差2已知，对试验数据的随机误差或精密度进行检验。,设一组数据的总体服从正态分布N（，2），其样本容量为n，样本方差为 S2 。,2 统计量：,二、随机误差的检验, 2 检验程序如下： （1）计算样本的标准偏差,（2）计算 2 值,（3）根据显著性水平 、自由度 n - 1 ，,查2 临界值：（教材 P215 附表2 ）,（4）比较 2 计算值与 2 临界值。,双侧检验：如 ，则判断该组数据的方差与原总体方差(或精密度)无显著性差异，否则有显著差异。,单侧检验： 如 左侧检验： 2

26、计 ，2 计 ，则判断该组数据的方差与原总体方差无显著性减小，否则有显著减小。,如右侧检验： 2 计 ，2 计 ，则判断该组数据的方差与原总体方差无显著性增大，否则有显著增大。,教材P10 例1-5，1-6,F 检验 （两个方差的比较） 适用：两组数据的等精度统计检验。比较在不同条件下（不同地点、不同时间、不同分析方法、不同分析人员等）测定的两组数据精密度有无显著性差异，采用 F 检验比较两个方差的一致性。,设两组数据的总体分别服从正态分布N1（1，12）和N2（ 1 ，22），其样本容量分别为n1 和n 2，样本方差分别为 S12 和 S22 。,F 统计量：, F 检验程序如下： （1）计

27、算两样本的标准偏差,（2）计算 F 值,较大的方差S12为分子，较小方差S22为分母,（3）根据显著性水平 、自由度 1=n1 -1，2=n2-1,（4）比较F 计算值与F 临界值。,查F 临界值（教材 P216 附表2）,双侧检验：如，则判断两组数据精密度无显著性差异，否则有显著差异。,单侧检验： 如 左侧检验：F计1，且F计 ，则判断方差1比方差2无显著性减小，即数据组1比数据组2精密度没有显著提高。否则有显著减小。,如右侧检验：F计1，且F计 ，则判断方差1比方差2无显著性增大，否则有显著增大。,置信度95%时部分F 值,教材P216附表2,例：一瓶盐酸标准溶液经两人标定， 甲：0.10

28、15，0.1013，0.1014，0.1015，0.1016mol/L； 乙：0.1012，0.1013，0.1014，0.1013 mol/L 试判断这两组测定值精密度有无显著性差异？ =0.05,解：S12 = 1.310 8，S22 = 6.710 9 S1 = 1.110 4 ，S2 = 8.210 5,F计 = 1.95,= 0.05，1= n1 -1 = 4 ， 2 = n2-1 =3 采用F双侧检验，查F 分布表的 F 临界值： F（0.025，4，3）= 15.10， F（0.975，4，3）= 0.100 （教材P216附表2）,两组测定数据的精密度无显著性差异。,F（0.9

29、75，4，3） F计 F（0.025，4，3）,F计 = 1.95,教材P13例1-9 问：试检验两种方法之间是否存在系统误差？,教材P11例1-7,两组数据平均值的比较方法,1、F 检验法检验两组数据的精密度 S1 和 S2 之间有无显著性差异：,查 F 临界值表,精密度无显著差异，两组数据来自同一总体。,2、t 检验确定两组平均值之间有无显著性差异,3、查表：给定，,4、比较：双侧检验,，非显著性差异，, t（/2 ，）,无系统误差,小结： 对于定量分析测定中所获得的测定数据进行评价步骤： 1、首先评价可疑数据的取舍； 2、其次利用显著性检验评价测定数据的精密度 （F 检验、2检验精密度检

30、验），评价测定数据是否存在系统误差（ t 检验准确度检验）； 3、最后正确表示分析结果的可靠性 。,2.4 标准曲线的相关性检验,标准曲线的线性关系，对分析结果影响极大，在光度法、 原子吸收法、极谱分析法等相对分析方法中显得很重要。 （1）分析方法：如显色体系，有色配合物的性质、显色酸度、温度、稳定时间等； （2）仪器：性能是否保持出厂时的水平，或经检验是否合格； （3）操作者：操作是否规范，分液、定容、光度测量是否有误。,问题：,1、每个测量值都有误差，标准曲线应怎样作才合理？,2、应怎样估计线性的好坏？,线性回归（最佳拟合直线）,、标准曲线应怎样作才合理？,最小二乘法准则,设对y 作n 次

31、独立的观测，得到一系列观测值。,一元线性回归方程表示为,根据最小二乘法的原理，最佳的回归线应是各观测值 yi 与相对应的落在回归线上的值之差的平方和（Q离差平方和）为最小。,a，b是待定的回归系数,其中,解得：,令,简化的离差平方和：,由给定的观测点（工作点）数值计算回归方程：,计算,确定线性回归方程,相关系数,（1）相关系数 统计量：,2、应怎样估计线性的好坏？,判断一元回归线是否有意义，需对回归线的线性相关性作显著性检验，可用相关系数来检验。,（2）相关系数的意义,3、当 的绝对值在 0 与 1 之间时，可根据测量的次数及 置信水平与查表相关系数临界值（教材P224附录7）比较，绝对值大于

32、临界值时，则认为这种线性关系是有意义的。,1、当所有的 yi 值都在回归线上时， = 1。,2、当 y 与 x 之间不存在直线关系时， = 0。,标准曲线的线性关系，用相关系数 来衡量。 一般要求： 相关系数 0.999 理想状态 = 1.0 计算方法： （1）列表计算（按计算公式手计法） （2）计算器计算（二变量计算器，备有回归计算功能，通常有“”标识）,例1：做了一条工作曲线，测量次数 n = 5， = 0.920， 因变量与自变量之间有无相关性（置信度95%）？,解：,f = 5 2 = 3， = 0.05，查表 0 = 0.878，, 0 有相关性,相关系数的临界值表（部分）,例2：用分光光度法测定某元素，标准曲线如下：,解：用计算器计算得 = 0.9998 如用列表计算： b = 0.181 a = 0