第二章 监测数据的处理.doc

第二章 监测数据的统计处理和结果表述 2.1基本概念2.1.1误差和偏差2.1.1.1真值:在某一时刻和某一位置或状态下，某量的效应体现出客观值或实际值。理论真值真值包括 约定真值标准器的相对真值2.1.1.2误差及其分类1、由于被测量的数据形式通常不能以有限为数表示，同时由于认识能力和科学技术水平的限制，使测量值与真挚不一致，这种矛盾在数值上表现即为误差。2、 差按其性质和产生原因可分为：l 系统误差（可测误差、恒定误差、偏倚）：指测量值的总体均值与真值之间的差别，是由测量过程中某些恒定因素造成的，在一定条件下具有重现性，并不因增加测量次数而减少系统误差，他的产生可以是方法、仪器、试剂、恒定的操作人员或恒定的环境等所造成。l 随机误差（偶然误差、不可测误差）：是由测量过程中各种随机因素的共同作用所造成的，其遵从正态分布规律。l 过失误差：是由测量过程中犯下不应有的错误所造成，它明显的歪曲了测量结果，因而一经发现必须及时改正。3、 误差的表示方法绝对误差：测量值（x）与真值（xt）之比。 绝对误差=x-xt相对误差：指绝对误差与真值之比。 相对误差=100%4、偏差：个别测量值与多次测量均值之偏离。分 绝对偏差（d）：测量值与均值(x)之差。 di=xi-x相对偏差：绝对偏差与均值之比。 相对偏差=100%平均偏差：是绝对偏差绝对值之和的平均值。 d=( ) 标准偏差和相对标准偏差l 差方和（S）：指绝对值的平方之和。 S=l 样本方差（s2或V） s2=Sl 样本标准偏差（s或sD） s=l 样本相对标准偏差（变异系数）：样本标准偏差在样本均值中所占的百分数 Cv=100%l 总体方差和总体标准偏差分别以2和表示2= = 式中：N总体容量 总体均值l 级差（R）：一组测量值中最大值与最小值之差，表示误差的范围. R=xmax-xmin5、总体、样本和平均数l 总体和个体研究对象的全体称总体，其中一个单位叫个体。l （2）样本和样本容量总体中的一部分叫样本，样本中含有个体的数目叫此样本的样本容量。l (3)平均数：平均数代表一组变量的平均水平或集中趋势，样本观测中大多数测量值靠近平均数。算术均数：样本均数x= 总体均数= n几何均数:当变量呈等比关系,常需用几何均数.xg=( x1x2xn)1/nl 中位数：将各数据按大小顺序排列，位于中间的数据。若为偶数取中间两数的平均值。l 众数：一组数据中出现次数最多的一个数据。例题：有一氯化物的标准水样，浓度为110mg/l，以银量法测定5次其值为：112、115、14、113、15mg/l，求算术均数、几何均数、中位数、绝对误差、相对偏差、平均偏差、极差、样本的差方和、方差、标准偏差和相对标准偏差。解：算术平均数 xg=（112+115+114+113+115）/5=13.8mg/l几何均数 xg=（112115114113115）1/5=13.8mg/l中位数 114mg/l绝对误差 xi-xt=112-110=2 mg/l(以xi为112 mg/l，xt为112 mg/l为例)相对误差 2/110=1.8%绝对偏差 di=xi-x=112-113.8=-1.8mg/l平均偏差 d=1.04 mg/l极差 R=115-12=3 mg/l样本差方和 S=(-1.8)2+1.22+1.22+(-0.8) 2+1.22=6.8 mg/l样本方差 s2=S=1.70mg/l样本标准偏差 s=1.3mg/l样本相对标准偏差 Cv=100%=1.1%2.1.3 数据的处理和结果表述2.1.3.1 数据修约规则计算的数据需要修约时，应遵守下列规则：四舍六入五考虑，五后非零则进一，五后皆零视寄偶，五前为偶应舍去，五前为寄则进一。例题：将下列数据修约到只保留一位小数 修约前： 14.3426 14.2631 14.2501 14.2500 14.0500 14.1500 修越后： 14.3 14.3 14.3 14.2 14.0 14.2 2.1.3.2可疑数据的取舍离群数据：与正常数据不是来自同一分布总体，明显歪曲试验结果的测量数据。可疑数据：可能会歪曲试验结果，但尚未经验证断定其实离群数据的测量数据。测量中发现明显的系统误差和过失误差，由此而产生的数据应随时剔除，而可疑数据的舍取应采用统计方法判别，即离群数据的统计检验。常用的检验方法（1）狄克逊（Dixon）检验法适用于一组测量值的一致性检验和剔除离群值。l 将一组测量数据从小到大顺序排列为x1、x2xn，x1和xn分别为最小可疑值和最大可疑值。l 按下表计算式求Q值l 根据给定的显著性水平（）和样本容量（n），从临界值表中查得临界值。l 若QQ0.05则可疑值为正常值。 若Q0.05QQ0.01则可疑值为偏离值。 若QQ0.01则可疑值为离群值。狄克逊检验统计量Q计算公式n值范围可疑数据为最小值x1时可疑数据为最大值xn时n值范围可疑数据为最小值x1时可疑数据为最大值xn时37810Q=Q=Q=Q=11131425Q=Q=Q=Q=例题：一组测量值从小到大顺序排列为：14.65、14.90、14.90、14.92、14.95、14.96、15.00、15.01、15.01、15.02，检验最小值14.65和最大值15.02是否为离群值。 解：检验最小值x1=14.65，n=10，x2=14.90，xn-1=15.01 Q=0.69 查临界值表知，当n=10，给定显著性水平=0.01时，Q0.01=0.597QQ0.01，故最小值14.65为离群值，应予以剔除。检验最大值xn=15.02Q=0.083查临界值表知，当n=10，给定显著性水平=0.05时，Q0.05=0.477QQ0.05，故最大值15.02为正常值（2）格鲁勃斯（Grubbs）检验法是用于检验多组测量值的一致性和剔除多组测量值中离群均值。l 有l组测定值，每组n个测定值的均值分别为x1、x2xixl，其中最大均值记为xmax，最小均值记为xmin。l 由l个均值计算总均值x和标准偏差sx x= sx=l 可疑均值为最大值（xmax）时，按下式计算统计量（T） T=l 根据测定值组数和给定的显著性水平从表中查的临界值。l 若TT0.05 则可疑均值为正常均值。 若T0.05TT0.01 则可疑均值为偏离均值。 若TT0.01 则可疑均值为离群均值。例题：p3012.1.4监测结果的表述1、 用算术均数（x）代表集中趋势2、 用算术均数和标准偏差表示测定结果的精密度（xs）3、 用(xs,Cv)表示结果4、 均数置信区和t值2.1.5 直线相关和回归2.1.6 方差分析2.1.7 模糊聚类分析 2.2 实验室质量保证2.2 .1有关术语1、 准确度：是用一个特定的分析程序所获得的分析结果与假定的或公认的真值之间符合程度的度量。反映分析方法或测量系统存在的系统误差和随机误差两个的综合指标，并决定其分析结果的可靠性。用绝对误差和相对误差来表示。 评价准确度的方法有两种 用某一方法分析标准物质，测定其回收率，据其结果确定准确度。加标回收法：即在样品中加入标准物质，测定其回收率，以确定准确度。计算式为： 回收率=100%2、 精密度：用一特定的分析程序在受控条件下重复分析均一样品所得测定值得一致程度。它反映分析方法或测量系统所存在随机误差的大小。3、 平行性：同一实验室中，当分析人员、分析设备和分析时间都相同时，用同一分析方法对同一样品进行双份或多份平行样测定结果之间的符合程度。4、 重复性：在同一实验室内，当分析人员、分析设备和分析时间三因素中至少有一项不相同时，用同一分析方法对同一样品进行两次或两次以上独立测定结果之间的符合程度。5、 再现性：在不同实验室（分析人员、分析设备、甚至分析时间都不相同），用同一分析方法对同一样品进行多次测定结果之间的符合程度。6、 灵敏度：指该方法对单位浓度或单位量的待测物质的变化所引起的响应量变化的程度。7、 空白试验：是用蒸馏水代替试样的测定。其所加试剂和操作与试验测定完全相同，空白试验应与试样测定同时进行，试样分析时仪器的响应值不仅是试样中待测物质的分析响应值，还包括所有其他因素，如试剂种杂志，环境及操作进程的玷污等的响应值。8、 校准曲线：用于描述待测物质的浓度或量与相应的测量仪器的相应值或其他指标之间的定量关系的曲线。9、 检测限：某一分析方法在给定的可靠程度内可以从样品中检测待测物质的最小浓度或最小量。10、 测定限：分测定上限和测定下限。2.2.2、实验室内质量控制1、