环境监测数据处理及不确定度评定

1、 辐射环境监测数据处理及不确定度评定 沙连茂（中国辐射防护研究院）2010年12月目录1 数据的修约和样本特征数的计算1.1 有效数字和修约规则1.2 反映数据集中位置的特征数1.3反映数据离散程度的特征数2 放射性测量数据的处理2.1 放射性测量数据的统计涨落2.2 放射性衰变的泊松分布特性2.3 误差传递2.4 有本底存在时计数误差的控制2.5 测量结果非随机误差的检验3探测限附近测量数据的处理3.1探测限的基本概念3.2 处理和表述低于探测限数据时存在的问题3.3 处理探测限附近数据的基本考虑4 测量结果不确定度的评定和报告4.1 测量不确定度的基本概念4.2 测量不确定度的评定过程和方

2、法4.3 测量不确定度的报告4.4 测量不确定度评定的实例环境监测数据处理及不确定度评定 沙连茂（中国辐射防护研究院）一切测量结果都有误差。误差又都不能完全确知，只能合理地估计、有效地控制和准确地描述。对待含有随机误差的数据，只能应用以随机变量的定量规律为基础的、由局部观察估计总体的数理统计方法进行处理。被大量随机变化的相关因素干扰的监测数据，可藉助统计方法有效地提取出来，进行科学的分析、解释和推断。所以数理统计是数据处理中必要的重要手段。环境监测中数据处理的主要目的是：(1)准确地简化和显示数据。使其既便于分析解释，又便于评价和应用。(2)科学地分析和解释环境监测中获得的资料，以给出合理的推

3、断。(3)分析误差的来源及其相对大小，为合理安排监测计划提供依据。1 数据的修约和样本特征数的计算1.1 有效数字和修约规则 一个量值的绝对误差小于或等于其末位上单位的1/2时，这个数值从第一个非零字起到最末一位数字上的全部数字为有效数字。一个由有效数字组成的数值除末位数字是不准确的外，其余数字都是准确的。在记录测量结果时，一般只应保留一位不准确的数字。一个量值的有效数字的位数是其准确程度的粗略反映，一个有n位有效数字的量值，它的相对误差限的范围在5×10-n5×10-（n+1）之间。 运算中有效数字的修约规则都是为了简化计算而又使结果能满足有效数字位数与相对误差限关系的要

4、求而确定的。随着计算机的普遍应用，计算过程的简化已显得不太重要，但需注意遵守以下的原则： 在计算过程中拟多留几位数字，不必拘泥于过去惯用的修约规则，只是在最终报告结果的有效位数应限制在合理的范围内，或至多保留12位有效数字，但计算显著性检验的统计量t中的s除外。由于计算过程中误差的传播和积累，应注意几种可能使有效数字增多或减少很多的特殊情况。例如x值很小的指数函数ex，其有效数字位数远比x的多。当x=0.003=3×10-4时，只有一位有效数字，而ex=e0.003=1.0003，绝不能取1位，修约成1。因为ex的相对误差限为5×10-5，应取5位有效数字。其次，两个十分相

5、近数之差f=x1-x2，其有效数字位数将大大减少。几个准确度相同的近似值的平均值，当n较大时，其有效数字位数可比单个量值多取1位1.2 反映数据集中位置的特征数算术平均值、几何平均值、中位数和众数都可作为一定程度上反映一组数据集中趋势的特征量。它们的数值都可根据这些量的定义由样本数据计算而得。1.2.1算术平均值设有n个变量值x1，x2,.xn,则算术平均值 （1-1） 算术平均值是最常用的表明数据集中位置的数值,反映数据的平均水平,但易受数据中特大特小值的影响，对于不对称(偏态)分布的数据。它并不反映数据的典型水平。1.2.2 中位数 将变量由小到大排列以后,居于中间位置的变量值就是中位数M

6、e 。 当样本容量为奇数时， （1-2）当n为偶数时， （1-3） 中位数的特点是将全部变量值一分为二，大于或小于中位数的变量值各占一半。它不受数据中特大特小值的影响。在偏态分布中，它比算术平均值更能反映数据的典型水平。1.2.3 众数众数是数据中出现频数最多的变量值。用符号Mo表示。由大数量分组数据可得到众数的近似殖，但它在进一步统计分析中应用不广。1.2.4几何平均值n个变量值x1，x2,.xn,则几何平均值G等于它们的连乘积的n次方根，即 （1-4）式中为连乘符号。实际上，通常用下式计算： （1-5）查lgG的反对数，得到所求的几何平均值。 环境介质中有不少物质浓度数据的分布近似对数正态

7、分布，这时计算和应用几何均数有重要意义。1.3反映数据离散程度的特征数标准差(均方根误差)、极差和变异系数等都是在一定程度上反映一组样本数据离散程度的特征量，用于评价和估计相应总体中个体与个体间的离散程度，而应用最广的是标准差,其平方称为方差。1.3.1标准差标准差基本上可分为单次测量标准差(常简称为标准差)和平均值标准差。对后者，在有些数理统计书刊上，既有称均值标准误、计数率标准误、回归系数标准误等；又有称多次测量平均值标准差、某段时间内平均计数率标准差和回归系数标准差等；存在着名称术语上的不统一，名称是次要的，关键是要搞清它的定义和概念。而力求名称的含义正确和统一，也主要是为利于不混淆其概

8、念。所有标准差或标准误都与由特定条件或概念所定义的总体相对应，并反映这个总体内个体与个体间的离散程度。从这个意义上讲，所有标准误都可称为标准差。只要说清楚它相应总体的个体是什么。个体，有的是一个样品(单次测量标准差Sx)；有的是容量为n的样本，它既可来自简单的随机抽样(n次测量平均值的标准差)；也可来自分层抽样(按各层样品容量为权的加权均值标准差)；样本中每个样品可以是1个变量(x)，也可以是1对变量(x,y)。从这个角度，把均值标准误、计数率标准误、回归系数标准误、加权均值标准误，分别称为多次测量平均值标准差、某段时间内平均计数率标准差、回归系数标准差和加权均值的标准差等不仅是可以的而且是合

9、理的。(1)单次测量的标准差Sx和xSx是由容量为n的样本数据按下式算得的标准差，它反映了样本中个体与个体间的差异，它是相应总体标准x的估计量。Sx= n>1 （1-6）式中，xi和分别为第i个样品的测量值和样本的算术均值。(.2) 多次测量平均值的标准差和 = (1-7)表示一组数据的离散程度，用单次测量标准差Sx；估计总体均值的置信区间或在显著性检验中所用的统计量t中，都用多次测量平均值的标准差。由于标准误不能明确说明是哪个层次上的平均值的标准差，即难以明确标准差所对应总体中的个体是什么，所以是一个含混的名称，应该用相应的平均值的标准差取而代之。在数据显示中，为了区分Sx和，表示均值

10、和离散程度时，宜分别给出，不用±Sx形式，而表示置信区间时，采用±t的形式。1.3.2 极差R一组数据的极差R，就是该组数据中最大值与最小值之差，它亦可反映一组数据的离散程度，但是它未充分利用一组数据的全部信息。在满足正态分布、n较小时，应用极差还是很有效、很简便的。当n10时，可以由R和n由下式来估计标准差：=R/dn （1-8）dn值列于表（1-1）。表1-1 不同样本容量的dn值n2345678910dn1.411.912.242.482.672.832.983.063.18当n10时，可将数据分成若干组(总计k组，每组n相同)，先求出每组的极差Ri，再求出k个组的平

11、均极差，再由和相对于k组的dn值由上式估计。用极差反映离散程度，还另有一实际意义。因为虽然理论上的正态分布、对数正态分布的个体测量值可以达到无限大，而实际上是不会达到无限大的，某些量还不会出现负值，所以实际的分布是截尾的。给出R，可在一定程度上预示总体中个体值出现的范围。但是给出极差，必须同时给出n才有意义。显然n小的极差亦小些。1.3.3几何标准差g由于g本身不是标准差，即不是一个反映个体与个体间离散程度的量，但却采用了“标准差”的名称，故若不从概念上深入地了解它，常会犯这样那样的错误。(1) 几何标准差g是由lng= Slnx = (1-9)定义的，这与数据是否满足对数正态分布或其它分布无

12、关，和Slnx分别是lnx的平均值和单次测量标准差。(2)几何标准差g不是某个待测量的标准差，更不是几何均值G的标准差，不是反映样本中个体与个体间离散程度的特征量；g的对数lng(=Slnx)是lnx的标准差，反映随机样本中各个lnx(个体)之间的离散程度。因此，Slnx受误差的有效数字只取12位的限制，而g不受这个限制，在有效数字一节中已推得：当Slnx=0.0003(有1位有效数字)时，g=eSlnx=1.0003(有5位有效数字)。(3)g是无量纲量，不具有与几何均值相同的单位；g1(因为Slnx是标准差，必然0)。这些与x是否服从对数正态分布或其它分布无关。1.3.4 变异系数 为表明

13、分布的相对离散程度，有时计算标准差与算术平均值的百分比值这一无量纲的数值，并称之为变异系数，并用C.V.表示。 （1-10） 在环境监测工作中，为比较不同介质或不同核素的监测数据的离散程度，可考虑应用变异系数这一相对量度。2 放射性测量数据的处理2.1 放射性测量数据的统计涨落 放射性原子的衰变是一种随机事件，在观测时间t内衰变也许发生，也许不发生，纯属偶然。在某一段时间内衰变的概率表征该种放射性原子的不稳定性程度。放射性原子数目的改变是不均匀的，在相同单位时间内发生衰变的原子数有所谓涨落现象。表2-1给出的用计数器测量一个“稳定”源得到的数据，说明了这种涨落现象。在相同条件下，重复n次测量，

14、用相对频率与测得值作图，当n趋于无限大时将得到一条对称的钟形曲线，这就是著名的高斯或正态分布曲线（图2-1）。表2-1 放射性重复测量结果次数计数/分ii2189-101002120+21441391-5254110+111215105+6366108+981785-14196883-162569101+241095-416 987 0 1276表示平均计数与每次计数x的差，即。图2-1 正态頻率曲线我们可用两个参数来说明该曲线的形状：（1）m次测量的平均值，（2）用来测定变量值围绕平均值的离散程度的标准偏差，如式（1-6）所述，定义为 （2-1）式中， 平均计数率，min-1； xi第i次测

15、量的计数率，min-1； n测量次数； i1，2，3, m; x测量值的标准偏差。标准偏差的重要性在于，用它可描述具有随机误差的实验结果围绕平均值的离散程度。例如，平均说来测量值的68.27%落在±1之间，95.45%落在±2之间，99.70%落在±3之间。表2-1中计数率的x=11.9。平均值是真值的最好估计量，如式（1-1）定义为 （2-2）表2-1中计数率的平均值=987/10=98.7。 平均值的标准偏差用于估计平均值的离散程度度，定义为 （2-3）表2-1中，=3.76 测量值的标准偏差的含义是，如果在同样条件下再重复测量一次，则该测量值约有68.3%的

16、概率落在±1之间。而平均值的标准偏差意指，若在相同条件下重复测量n次，得到一个新的平均值，这个平均值落在±之间的概率为68.3%。 2.2 放射性衰变的泊松分布特性 放射性核素的衰变以随机形式出现，其特征可用泊松分布说明。泊松分布是在N0很大、概率p很小(p1)的条件下，二项式分布在数学上的直接简化，是二项式分布的一种极限情况。泊松分布总体方差2、标准差与期望值µN之间有如下关系：2 =µN 或 = （2-4）放射性测量的离散程度可用表示泊松分布特性的大数事件N的标准偏差来估计： (N)= （2-5） 当计数20时，通常对遵循泊松分布的数据可使用正态分布

17、作近似处理，该正态分布的平均值为N，标准偏差为。 如果是多次测量，标准偏差为 （2-6） 同样测量值约有68.3%的概率落在±1N之间。但是应当注意，仍有约1/3次的测量值（31.7%的概率）会落在该范围之外，约有4.5%的概率会落在±2N之外，在400个测量值中会有1次落在±3N之外。 由于计数测量往往只进行1次或少量的几次，计数的平均值常常是未知的。而且通常也比N小，所以可用(N)=代替并不会产生太大的误差。表2-2列出几个按式（2-5）估计的计数测量标准差的数值。 表2-2 几个计数测量误差的数值总计数，（N）标准偏差，相对标准差，%（68.3% 置信度）1

18、001010100031.63.210,0001001.0100,0003160.321,000,0001,0000.10 从表2-2看出，随着总计数的增加，标准偏差也增加，但是相对标准偏差减少。平均值的标准偏差为 （2-6） 通常关心的不是计数的标准偏差，而是计数率的标准偏差 （2-7）式中 ，I计数率的标准偏差； t测量时间； N=It， I为单位时间内的计数。因此，当我们抽取一个容量为n的样本进行独立重复测量后，所得结果可以用正态分布理论处理，也可以用泊松分布理论来处理。例如表2-1的结果： 每分钟计数的平均值：987/10 = 98.7如按正态分布处理，依式（2-1）计算单次测量标准差

19、： = =11.9平均值的标准差 3.76 如按泊松分布处理，1分钟内计数的期望值µ未知，可用每分钟计数的平均值98.7来作为它的估计值，则x=9.93， 3.14 两者结果相差不大。放射性测量常常用泊松分布方法处理测量结果，因为它方便。2.3 误差传递 在具体计算时，常常碰到两个或多个独立测量数相加减或相乘除的情况。在此情况下，误差的演算应按照下列方法进行。设两个独立测量值na±a和nb±b， (1) 相加时为 （na+nb）± （2-8） (2)相减时为 （na-nb）± （2-9） (3)相乘时为 （2-10） (4)相除时为 （2-11

20、）例如, (100±3)+ (6±4)= (106±5); (100±3)(105±4)= -(5±5); (100±3)×(6±4)=600±600= 600±400; =10±5。2.4 有本底存在时计数误差的控制在时间tB内测得本底计数NB，则本底计数率B=NB/tB的标准差为 B = 在时间tG内测得总计数（加本底）NG，则总计数率R=NG/tG的标准差：G =根据误差传递原理样品净计数率S=R-B的标准偏差为 （2-12）样品净计数率的相对标准差： E = （2-1

21、3）由该式看出：降低计数器本底计数，延长测量样品的时间，可以提高测量的精密度。但过长的测量时间也并不太适宜，因此选择合适的测量时间是应考虑的问题。设总测量时间T=tG+tB将tB=T-tG代入（2-13）得E2 = R/tG + B/(T-tG)/（R-B）2E2极小的条件为dE2/dtG = 0,由此求得 tG/tB = （2-14）因此，按上式分配T于tG和tB时最小标准差为 (2-15) (2-16)公式中的R、B是对样品、本底事先预测得到的计数率。例2-1 假定总测量时间T=30min，初步预测本底计数率B=20cpm，总计数率R=80cpm，问样品和本底各测多少时间时净计数率的相对标

22、准差最小？这个最小值是多少？解：T=30min, R/B=80/20=4 代入（2-14）式得：tG = 20min, tB = 30-20=10min依式（2-16）得 Emin = 在常规工作中，可以绘制成便于查阅的相关曲线图。究竟需要选用多长的总测量时间，则要根据对测量精密度的要求而定。将式（2-16）对T求解，即得到相对标准偏差为E时的最短测量时间（又称最佳组合时间）为 Tmin = （2-17）此式在“优质因子”的估算中会用到，必须理解。例2-2 初步测得样品总计数率为40cpm，本底计数率为20cpm，要求样品净计数率相对标准差不大于4%，问最短测量时间需多长？本底、样品各测多少时

23、间？解：已知R=40，B=20，R/B =2，E=4%，则最短总测量时间为 Tmin = 样品测量时间 tG = tB = T-tG = 182.2-106.7 = 75.5min或 将本例与上例比较： T R/B 本例 182 2 上例 30 4本例总计数时间为上例的6倍。其原因是上例的净计数率高，总计数率为本底的4倍，而本例R/B =2。说明当总计数率趋于本底时，为达到相同的计数误差，所需的总计数时间迅速增加。例2-3 如果样品计数率为本底计数率（20cpm）的一半，为达到4%的相对标准差，求最短组合时间是多少？Tmin = 约为例5-1的21倍！而 所以在预定的相对误差下，测量样品和测量

24、本低的时间随着R和B的接近而趋于相等。所以，在测量低水平放射性样品时，为达到一定的相对误差总是取为最佳计数时间。这一结论从（2-14）式也可推得，假定样品中活度很低时，净计数率SB，或S/B 1，即RB2.5 测量结果非随机误差的检验常常需要确定离散的计数是否存在非随机误差，为此已提出不少检验方法。它们的主要思路是检查实际测量结果和理论计算之间的一致性。作为例子，这里只介绍U检验法、t检验法和2检验法。但必须记住，在进行任何这类检验时，数据越少，测量的时间越短，检验的有效性就越差。同时还要认识到，各种数理统计方法都是根据概率论的原理构造的特定数学模型推导出来的，都隐含某些假设和以一定近似程度适

25、用于某类总体。如果检验结果样本数据与原假设没有显著的矛盾，只能说不足以否定原假设。但这并不意味着“证明”了原假设的正确性。因为还有一定的犯错误的风险。但是一旦否定了原假设，则问题就较大了，因为它发生的概率较大，等于（1-）。所以，否定原假设往往比肯定原假设的意义更大。（1） U检验法放射性测量中两个计数率之间的显著性检验，也可以作为两个平均值之间的显著性检验。而且，由于测量时间“t”可以任意分得很细，相当于n，这时用U检验和t检验都会得出相同的结论。在讨论正态分布时常用变量U表示以为单位的离均差这一变量，即令 U = （2-18）称U为标准正态变量，它使正态分布标准化。为此可以利用标准正态分布

26、表求随机样本落在某个区间中的概率。表2-3列出常用的U值。表2-3 U值分布表置信限， U较大误差出现概率，较小误差出现概率，1-0.670.5000.5001.000.31740.68261.960.0500.9502.000.04540.95462.580.0100.9903.000.00270.99733.090.0020.998U统计量可应用于总体均值和已知（标准样品），预测或估计测量值x出现在附近的给定区间内的概率是多少。在这里我们用它来判断两次测量是否来自同一正态总体，总体标准差允许用样本值代替，且各样本值的标准差S1和S2都和没有显著差别，两次测量时间相等，即t1=t2。于是S(

27、x1-x2)= U = （2-19）例2-1 用一个计数装置测量长寿命放射源，每次均测16min，第一次得1128计数，平均计数率为70.5cpm；第二次得1040，平均计数率为65.0cpm，现在要在=0.05的水平上检验两次计数率是否有显著性差异？解：S(x1-x2)= U = (70.5-65.0)/2.01 = 1.80 U < U0.05/2=1.96, 差异不显著。同理，如果某次读数与很多次读数的平均值之差大于单次测量结果标准差的1.96倍，即，则表明该结果可能不是来自同一个总体，即该结果可能存在非随机误差。（2） t检验法统计量t是一个随机变量，服从一定的分布定律，其概率密

28、度函数的数学表达式十分复杂，曲线f(t)是对称的，当自由度很大时趋于正态曲线。在实际应用时，对于给定的自由度和概率值，可在现成的数学表查出，无需进行计算。表2-4列出部分数值。 表2-4 不同自由度和概率下的t统计量（自由度）概率，0.100.050.0116.31412.70663.65742.1322.7764.60491.8832.2623.250191.7292.0932.861291.6992.0452.7561001.6611.9822.6251.6451.9602.576比如，若事先指定=0.05，可从表中找出t/2，值，使得随机变量落在（-t/2， ，t/2，）以外的概率为。其

29、次，根据样本数据算出样本t值，如果tt/2，则我们就在“显著性水平”上拒绝原假设。 这一方法的意思是：随机变量t的值随样本而异，但是tt/2，的概率只有小概率（比如=0.05）。在一个样本中竟然遇到这样大的t值是不大可能的（当然不是绝对不可能）。因此，我们在“0.05的显著性水平”上拒绝原假设。就是说，作出这样的决定有5%的机会犯错误。我们的结论是：样本数据与原假设有“显著”的差异。统计工作者习惯上把显著性分为三等： 0.05 差异不显著； 0.05>0.01 差异显著； 0.01 差异非常显著。当样本数据给出的tt/2，时，即对应的0.05，则可认为是属于正常统计涨落范围。差异“显著”

30、或“非常显著”只是指当原假设（H0）为真而错判的概率大小程度而言，并不意味着差别所具有的实际重要性的大小。 用两个平均计数率之差作为随机变量，即 （2-20）式中是的数学期望,如果原假设 （2-21）提出原假设H0:=0,即两次平均计数率的数学期望相同,对应于=0.05,查出t0.05/2=1.96（自由度=）。根据样本数据计算 （2-22）例2-2 按照例2-1的数据，计算在=0.05的水平上检验两次计数率是否有显著性差异？解：将样本数据代入（2-22）式，得 检验结果和上例一样，即不足以否定原假设。顺便指出，1.96×2.91=5.7cpm，所以两次测得的计数率之差要>5.

31、7cpm，才能认为差异显著。此外，若式（2-22）的不用计数率，而用计数表示，且t1=t2时，可变为 （2-23）统计量也可用计数表示，计算起来更简便。按本例得到例2-3 若第一次测10分，得10100计数，第二次10分，得10690计数，计算在=0.05的水平上检验两次计数率和计数是否有显著性差异？解：按计数率算： 按计数算：所得t值一致。对应于=0.05，t0.05/2=1.96；对应于=0.01,t0.01/2=2.58；对应于=0.001,t0.001/2=3.3。现在tt0.001/2，故差异非常显著，否定原假设。可能存在除随机误差外的因素影响测量结果，如计数装置可能有问题，或在第二

32、次测量时可能有污染。（3） 2检验法 统计量可以用来检验总体的某一参数，也可以用来检验样本数据所呈现的分布与原假设是否吻合，即吻合度检验。在放射测量中，如果仪器工作正常，则在同一条件下测得的一批计数应遵从泊松分布，能显示出这种随机涨落的特点。对一批数量较少的数据，为检验其是否遵从泊松分布，可计算泊松离散指标。设对同一放射源在相同条件下进行了n次测量，测量时间为t，计数分别为x1,x2,.,xn.于是 当足够大（ 10），按下式求的变量值遵从分布： （2-24）若测量结果用计数率i=xi/t 表示，上式可改写为 （2-25）上两式中的称为泊松离散指标。 通常采用双侧检验，当/2或（1-/2）时，

33、按显著性水平捨弃遵从泊松分布的假设，应对测量仪器做进一步的检查。当=0.05,计算得到的值为 0.975,df<<0.025,df即 0.975 > p > 0.025时，实测数据遵从泊松分布的假设不被否定，可认为测量装置工作正常。例2-4 用盖格计数器测量长寿命放射性样品，得到每5分钟的计数，共测7次，结果如表5-4。现要检验在显著性水平=0.05下测量数据是否符合泊松分布（实际目的是要检验仪器工作是否正常）。解：原假设（相当于说，计数服从泊松分布）。备择假设：表2-5 用盖格计数器测量长寿命放射性样品的结果Noxi（计数/5分）xi- (xi-)21209-1832

34、42217-1010032482144142358645224-396223-4167233636xi=1589(xi-)=0(xi-)2=990依表2-5的数据得：=1589/7 = 227按（2-24）式算出 这里，在求时用去了1个自由度，所以自由度df=7-1=6，指定=0.05,从数理统计表（如高玉堂主编：环境监测常用统计方法附表2）上查出:0.975,6=1.237, 0.025,6= 14.45,现在样本值（=4.36）在0.975,6（=1.237）与0.025,6（= 14.45）之间，差异不显著，不足以否定“计数服从泊松分布”的原假设，也就是有理由认为仪器工作正常。例5 有一

35、台仪器，测量6次5分钟计数，结果见表2-6。 表2-6 某台仪器6次5分钟计数结果Noxi（计数/5分）xi- (xi-)21242-242241-3932495254246245236-864625063614640142解： 仿上法 =1464 / 6 = 244= 142/244 = 0.58当=0.05时，查得（1-/2），df，即0.975,5=0.8312；由于 = 0.58小于 0.8312，否定原假设H0，接受备择假设H2，即仪器工作不正常。在正常情况下，测得计数应围绕平均值有相当幅度的波动，因而值也有相当的波动，而0.58的概率是很小的，大约只有1%，现在竟然遇到这样小的波动

36、，使我们有理由怀疑原假设而予以拒绝。 值得注意的是，粗看起来这台仪器的重复性很好，每次测得的计数没有较大的波动，实际上反而是不正常的。3探测限附近测量数据的处理当人们用一定的方法对物质中的某一特征量（活度、质量或浓度等）进行测量时，根据所用测量方法的能力，通常可以把待测特征量的量或浓度分成四个等级范围：（1） LLD（最小探测限）； （2） LLD至LQ （定量测定限）； （3） LQ至LOL （线性限）；（4）> LOL，这时待测量（或浓度）超过工作曲线范围，无法定量测定。测量方法的有效范围应当是在LQ与LOL之间。如果取LQ值为空白测量值标准差的10倍，估计在95%置信水平下，这段范

37、围的相对不确定度应小于±30%。有人把上述之（1）称为检出不确定区，（2）为定性检出区，（3）为定量测定区。在环境放射性监测过程中，人们会获得大量Ld附近、甚至小于Ld的数据。美国能源部设施环境放射性监督导则中认为这类环境监测数据的特征是：“不对称和混合分布，连同极端值和低于探测限值的存在是环境放射性监督数据的通常特征。具有这种特征的监督数据的分析和随后的报告是不容易的，或者说是不能按常规处理的。”在田湾核电站申请装料许可证阶段环境辐射本底调查中，获得了不少低于探测限的数据。低于探测限的数据约占总数据量的60%。究竟应当如何表达和处理这些数据？我们曾对此提出了初步意见，并提交2002

38、年5月在北京召开的探测限附近测量数据处理方法专家研讨会上进行审查，形成了更具体的、可操作的方法，在田湾核电站环境辐射本底调查中实施。下面拟在理解探测限基本概念的基础上，结合环境辐射本底调查中处理探测限附近数据的情况，就几个问题进行讨论。3.1 探测限的基本概念有不少文献对探测限都对探测限的基本概念、定义、公式和使用都有过严格的论述，从探测限的定义和公式看，探测限是在判断限的基础上建立起来的，或者说它是与判断限有关的一个估计量。因此，在讨论探测限的基本概念之前应当理解判断限的基本概念。3.1.1 探测限与灵敏度的区别探测限，又称检测限、探测下限或最小可测限，是分析测量的一个重要指标。它容易和灵敏

39、度一词相互混用，给方法评价与技术交流带来诸多不便。灵敏度一般是指仪器的响应大小与被测量大小的比值： （3-1）如果用不同活度（dpm）的一系列放射源在计数器上测定，就会获得不同的计数值(cpm)，进而绘制出一条反映dpm-cpm函数关系的工作曲线（又称刻度曲线）。这条工作曲线（直线）的斜率就是该计数器的灵敏度。探测限指的是能可靠地与空白试样区别开来所需要的待测组分的量QL或浓度QL。它们是从仪器的最小可测响应值XL推导出来的： （3-2）式中，空白测量的平均值；Sb空白测量的标准差；K根据所要求的置信水平而选定的置信因子。式（3-2）若变为仪器的净响应值，即 设方法的灵敏度为s, 则最小可测浓

40、度或量为 （3-3）s为刻度曲线的斜率 通过测量足够数量（如大于20）的空白样品来确定。可见，灵敏度和探测限是两个不同的概念，具有不同的定义和不同的量纲。对测量工作来说，总是希望灵敏度越高越好，而探测限则越低越好。3.1.2判断限与探测限的基本概念和作用判断限(Limit of decision)又称判断水平(Decision level or Critical level),简称Lc、Dc或DL)，是统计学上允许发生第一类错误的概率为时判断样品有放射性存在的样品净计数最小测量值。人们测得样品净计数N=NG-NB后，必须判断此测量值仅是由本底计数的统计涨落引起的呢，还是说明样品含有放射放性，即

41、N（净计数的真值）是否大于零。这类问题可由N与N=0的差别显著性检验来判断。见图3-1.图3-1 判断限、探测限与两类错误选定Lc后，当N> Lc，判N>0；当N<Lc, 判N=0。这时有两类错判的可能：1类：判N>0，但实际上N=0；犯第一类错误，用表示（去真）。2类：判N=0，实际上N>0，犯第二类错误，用表示（存伪）。探测限是测量装量所能发现的最小期望放射性水平，即测量中当NLc 时以（1-）的把握度推断样品中含有的最小期望放射性水平。探测限Ld 由判断限Lc 、允许发生第二类错误的概率和正态分布N（N=Ld，D2）的标准差来确定，即Ld = LC + U&

42、#183;D （3-4）U为标准正态变量。显然，Ld 是和的函数。式（3-1）的含义是：用这一测量装置预期能探测到最小净计数期望值N= Ld 的把握度为1-，称1-为检验规则的功效，为了以预定的功效判定放射性的存在，要求样品的活度N至少必须等于探测限Ld 。有人试图指定LC为探测限，但是从式（3-4）可知，当Ld = LC时，U=0，=0.5，即能探测到最小净计数期望值N= Ld= LC 的把握度仅为1-=0.5。通常取=0.05，这时,如果样品的放射性期望值达到了Ld，那么我们可以（事先）断言：若采用该测量装置，样品的计数结果会有95%的概率Lc （注意：并不是有95%的概率LLDN），而L

43、c的概率大约5%。把上述两个概念应用于报警仪器，并定报警阈为Lc ，则当样品不含放射性时，假报警的概率不大于，而当样品放射性等于或大于Ld 时，漏报警的概率不大于。把判断限Lc和探测限Ld的概念应用于核设施的环境监测时，从业主方面考虑，最怕犯第一类错误，希望越小越好；但是，从环保部门考虑，却最怕犯第二类错误，希望越小越好。从判断限和探测限的定义可知，当样品净计数的标准差确定以后，Lc和Ld由、决定。它们的作用是不同的，Lc通常用于检验测量结果是否在统计上与本底有显著性差异，而Ld则反映一种特定测量（包括仪器、方法和样品特征等）的技术指标，用于评价一种测量的检测能力，它们均不应用于表述测量结果。

44、有人11认为，Ld是“事前”（制定监测方案时）预定的，而Lc则是在获得测量结果的“事后”用于对测量结果做出判断,对于低水平放射性的常规计数来说，感兴趣的是Lc。3.1.2 使用简化后LLDn公式的重要条件通常采用下式作为计数率的探测下限： (3-5)式中nb是tb时间内平均本底计数率；需要注意其在推导过程中的假设条件：(1)本底计数和样品的总计数满足或近似满足正态分布；分别用NB、NG和NG-NB近似作为本底期望值mNB、总计数期望值mNG和样品净计数期望值mN。一般情况下，NB不应当只是仪器的本底计数，而应当是由合适的空白样品获得的计数。(2) a=b=0.05(3) 样品的净计数比本底计数

45、小得多，而使样品总计数标准差SG等于本底计数标准差Sb 。否则，以本底计数形式推导LLDN过程中，严格地说，应当 LLDN = 4.65 Sb + 2.7057 (3-6)在技术规范中由于有上述假设，把上式右边的数值2.7057忽略了。近年起草的ISO文件9中，它被近似为3。实际上，当a=b，它等于Ua2；当a=b=0.05，Ua2=2.7057。 (4) 样品和本底成对测量，且样品测量时间tG和本底测量时间tb相等。在低水平放射性测量中，tb>tG时的探测限至多比tb=tG情况下降低1/21/2。据此，取tb=tG是适宜的。当tb>>tG，Sb®0，可以认为本底准

46、确已知，这时的探测限比tb=tG时降低1/21/2。(5) 样品测量时间与本底测量时间足够长，即本底计数（nb´tb）足够大，使其泊松概率分布可分别由正态分布N（mNG，s2NG）和N（mNB，s2NB）来近似。样品净计数N=NG NB的概率分布也近似正态分布N（mN = mNG - mNB，s2N = s2NG-s2NB）。当本底计数较小时，两个泊松变量之差N=NG NB的概率分布相当复杂，不宜采用正态近似。究竟NB应当大到多少？根据推导过程中的假设条件：（Ua+Ub）/（NB）1/2<< 1，当a=b=0.05，可以估计NB>>11。3.1.3 探测限的其

47、它表达方式最小可探测计数（或计数率）是最重要和最基本的探测限的表达方式，在实际使用时，还有如下两种扩展形式：（1）最小可探测量（minimum detectable amount,简称MDA）,它表示在第一类误判概率为a，第二类误判概率为b条件下能被探测到的样品中一种被测对象的最小量（活度或质量）。（2）最小可探测浓度（minimum detectable concentration,简称MDC），它表示在第一类误判概率为a，第二类误判概率为b条件下能被探测到的样品中一种被测对象的最小浓度。使用过程中应严格区分所用的探测限的名称是什么，不要混淆。名称不同，其概念、条件或包括的因素也有所不同。最

48、小可探测计数（或计数率）LLDN只与仪器或空白样品的本底及测量时间有关；最小可探测活度除了与LLDN有关的因素外，还与仪器的效率、分支份额、射线的发射几率以及待测核素的衰变因子与生长因子等有关；最小可探测浓度除了与MDA有关的因素外，还与样品量有关。在放射性本底调查中，所遇到的基本上是MDC，其单位是活度浓度。一般在确定方法（或方案）的MDC时，相关因素也确定了。因此，在提供方法的探测限时，不能只给出其数值，同时要给出它的定义和有关参数。在此后的实际监测过程中，人们获得的是实际测量条件下的MDC，它与方案的MDC比较，小量的变动是难免的，如果引起较大的变化，尤其是其数值从小变大时，应当引起高度

49、的重视。根据合同的要求制定的环境放射性监测大纲中各监测项目的MDC，应当看成是对任务发包方的承诺。如果在实施中MDC值明显变大，说明承包方花力气不够，没有兑现其承诺。3.1.4 MDC的检验为了检验MDC的估计是否恰当，可以分析n个均匀的、其活度浓度等于MDC的掺标样品。如果MDC的确定是合适的（原假设），则对每个样品来说，未能测出待测核素的概率最多等于。在试验中未能测出结果的数量可以认为是参数n和的二项分布。设在实际分析中有k次未能测出结果，则可按下式计算累积二项式概率： (3-7)如果检验结果P值小于试验所选择的显著性水平，则抛弃原假设，即MDC的确定不合适。进行这种检验的重要条件是应当保证所用试验样品的物理化学特性（包括潜在的干扰）与实际中的实验室分析样品具有代表性。例如，采用控制样品进行检验，其活度浓度为XD，与MDC近似，取=0.05，如果分析了10个控制样品有3个未能测出结果，则在2%的显著性水平下MDC值是否低估了