EL-5100计算相对标准偏差(RSD)

1、使用SHARP EL-5100计算相对标准偏差（RSD）、标准工作曲线、相关系数（r）和农药降解动态方程示例注意：本计算器部分数码管失灵，可通过调整小数点位数读出。具体是按左侧TAB键，然后按3，保留3位，按4保留4位。1 计算相对标准偏差（RSD）、标准工作曲线、相关系数（r）示例1.1计算相对标准偏差（RSD）分析测试结果的精密度通常用相对标准偏差（RSD）表示，过去也有用变异系数（CV）表示的。目前，我国相关标准中规定精密度用相对标准偏差（RSD）表示。以下列一组测试数据为例计算相对标准偏差（RSD）。表1 一组测定数据的统计值重复12345678平均值（）标准偏差（Sx）相对标准偏差（

2、RSD）测定值20.521.319.620.120.821.021.719.920.60.72190.035打开计算器电源ON ,将右下角的开关拨至统计档STAT ，按黄色的2ndF 和红色的CL 清空内存。输入数据20.5，按蓝色的M+显示1.0000., 依次输入21.3，按蓝色的M+显示2.0000., 直至8组数据输入完毕。按黄色的2ndF，按4提取；按黄色的2ndF，按5提取Sx; 用Sx/100= RSD 在常量和痕量分析中，对RSD有不同的要求，将测定值的RSD同标准中规定的RSD相比，判断是否超差。超差则说明测定方法有问题。分析测定方法中的准确度通常用回收率表示，即测定值与添加

3、值的比值。常量分析为99101%；痕量分析（如农药残留分析）通常为80120%。添加通常采用“半量”添加的方法，比如原溶液中测定有50ng组分，再添入50ng组分。农药残留的添加回收通常是在空白对照样品中添加。1.2 标准工作曲线、相关系数（r）示例表2 标准工作曲线数据统计进样量（ng）X轴10203040506070峰面积Y轴1020204030604090511060907150直线回归方程Y = 2.8571+101.92X相关系数（r）0.9999打开计算器电源ON ,将右下角的开关拨至统计档STAT ，按黄色的2ndF 和红色的CL 清空内存。输入数据10，按M后出现逗号，然后输入

4、数据1020，按M+显示1.0000., 依次输入20，输入数据2040，按蓝色的M+显示2.0000., 直至7组数据输入完毕。按2ndF，按 提取截距a; 按2ndF，按+ 提取斜率b ; 按2ndF，按（ 提取相关系数（r）。将得到的r同表5比较。本组n=5, 若线性相关（水平0.01，即100次试验，有99次应这样），r = 0.874，而本试验计算得r = 0.9999，说明成极好的线性回归关系；反之则不然。本计算器的直线回归方程为Y = a+bX。 有时对进样量、峰面积取单对数或双对数时，二者才能呈线性关系。这与检测器特性有关。2 计算农药降解动态方程示例当X与Y在单对数坐标系上画

5、图呈直线时,表明函数属于Y=debx的变量关系,即In Y=bX+Ind, 令Y=InY, B=Ind, M=b, 则化为直线式： Y=MX+B此时, 截距 斜率 大多数农药降解动态可用方程Ct = C0 e-Kt来具体表达，即通常所说的化学一级反应动力学方程。Ct=Y，d=C0，b=K=M，X=t。由于农药在环境中的浓度通常是较低的，因此我们可以用下式来表达： （）将（1）式积分得： Ct = C0 e-kt（2）式中，K为降解速率常数；C为农药的初始浓度；也叫原始沉积量；Ct为t时刻农药的浓度。对（2）式取对数得：（3）（4）当施用的农药降解50%，即Ct=1/2C时，所需时间叫降解半衰期

6、，以T1/2表示时： （）式（5）说明T1/2与降解速率常数K成反比，与农药初始浓度无关。同理T 0.99即农药降解99%所需时间可按下式计算：（）式（3）（5）推算细节： 令Ct =1/2C0 （7）大多数农药在农作物上和环境中的残留量（浓度），随施药后的时间（天）变化以近似负指数函数递减的规律变化。以甲基毒死蜱在甘蓝及土壤上的消解动态数据为例，具体介绍求降解动态方程实例。表3 甲基毒死蜱在甘蓝及土壤上的消解动态施药剂量g/ha(a.i.)取样间隔时 间(d)施药1次甘蓝土壤平均残留量(mg/kg)消解率( % )平均残留量(mg/kg)消解率( % )7201/245.822.1211.1

7、0811.124720.19970.597230.06990.268870.02990.0797140.002990.0299210.002990.00699原始沉积量所对应的时间为1/24天，即喷药后1小时。 以X表示时间，Y表示残留量。在计算回归方程时，通常只取降解率达90%以上的12组数据。即甘蓝上取4组数据，土壤上取5组数据。表4 甲基毒死蜱在甘蓝上的消解动态统计数据X(天)1/24123Y（mg/kg） 5.821.10 0.190.06lnY（mg/kg）1.76130.0953-1.6607-2.8134 将Y 转换成lnY，或直接输入具有计算直线回归方程功能的计算器计算。 以S

8、HARP EL-5100计算器为例，甲基毒死蜱在甘蓝上的降解动态方程，计算结果为：r=-0.9957，是否相关，及相关显著水平，可查相关系数检验表（表2），v=4-2=2, P0.05=0.950, P0.01=0.990,因此该方程可以模拟该种药剂随时间变化的情况。a=1.7119，b=-1.5666=K。取a值自然对数为C0=5.5397，因此Ct = 5.5397e-1.5666t。 按式（5） 由此，我们可以得出甲基毒死蜱在甘蓝上的降解动态方程为：Ct = 5.5397e-1.5666t，T1/2=0.4d，r=-0.9957，显著水平为P0.01。 按照上述计算过程，可同理计算出土壤上的降解方程。对某些除草剂可用Ct=C0t-k 回归。数据处理取双对数，即X和Y都取对数。表5 相关系数检验表N-2PN-2P0.050.010.050.01123456789100.9970.9500.8780.8110.7540.7070.6660.6320.6020.5761.0000.9900.9590.9170.8740.8840.7980.7