检验数据处理

1、检验数据的处理检验数据的处理 2015.9 2015.9 有效数字： 指在检验工作中所能得到的有实际意义的数值。指在检验工作中所能得到的有实际意义的数值。其最后一位数字欠准是允许的，这种由可靠数字其最后一位数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为有效数和最后一位不确定数字组成的数值，即为有效数字。字。术语和定义术语和定义例：在分析天平上称取试样在分析天平上称取试样0.5000g0.5000g，这不仅表明试样的质，这不仅表明试样的质量是量是0.5000g0.5000g，还表示称量的误差在，还表示称量的误差在0.0002g0.0002g以内，如将以内，如将质量记录成质量

2、记录成0.50g0.50g，则表明该试样是在台秤上称量的，其，则表明该试样是在台秤上称量的，其称量误差为称量误差为0.02g0.02g。 因此记录的数据的位数不能任意增加或减少。因此记录的数据的位数不能任意增加或减少。 数值修约： 指对拟修约数值中超出需要保留位数时的舍弃，根据舍弃数来保留最后一位数或最后几位数。术语和定义术语和定义 修约间隔： 是确定修约保留位数的一种方式，修约间隔的是确定修约保留位数的一种方式，修约间隔的数值一经确定，修约值即应为该数值的整数倍。数值一经确定，修约值即应为该数值的整数倍。 例例1：如指定修约间隔为：如指定修约间隔为0.1，修约值即应在，修约值即应在0.1的整

3、数倍中选取，相当于将数值的整数倍中选取，相当于将数值 修约到一位小数。修约到一位小数。 例例2：如指定修约间隔为：如指定修约间隔为100，修约值即应在，修约值即应在100的整数倍中选取，相当于将数的整数倍中选取，相当于将数值修约到值修约到“百百”数位。数位。 有效位数的规定： 在没有小数位且以若干个零结尾的数值中，有效位数系指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数。具体内容具体内容 例：例： 1：35000中若有两个无效零，则为三位有效位数，应写作中若有两个无效零，则为三位有效位数，应写作350 102 2： 35000中若有三个无效零，则为两位有效位数，应写作

4、中若有三个无效零，则为两位有效位数，应写作350 103 在其他十进位数中，有效位数系指从非零数字最左一位向右数而得到的位数。 例：例：3.2、0.32、0.032和和0.0032均为两位有效位数。均为两位有效位数。0.320为三位有效数字。为三位有效数字。 非连续型数值（如个数、分数、倍数）是没有欠准数字的，其有效位数可视为无限多位。例例:分子式分子式“H2SO4”中的中的“2”和和“4”是个数；常数是个数；常数、e和系数含和系数含量测量测定项下定项下“每每1ml的的滴定液（滴定液（0.1mol/L）”中的中的“0.1”为名为名义浓度；标签规格项下的义浓度；标签规格项下的“0.3g”或或“1

5、ml：25mg”中的中的“0.3”、“1”和和“25”为标示量；为标示量； 这些类型的数字有效位数均为无限多位；在计算中，其有效位数应根据其他数值的最少有效位数而定。具体内容具体内容 pH值为对数数值，其有效位数是由其小数点后的位数决定的，其整数部分只表明其真数的乘方次数。 有效数字的首位数字为8或9时，其有效位数可以多计一位。例例:85%与与115%，都可以看成是三位有效数字。，都可以看成是三位有效数字。99.0%与与101.0%都可以都可以看成是四位有效数字。看成是四位有效数字。具体内容具体内容 指数定位：指定修约间隔为10-n（n为正整数），或指明将数值修约到小数点后n位；指定间隔为1，

6、或指明将数值修约到个位数。指定修约间隔为10-n（n为正整数），或指明将数值修约到10n数位，或指明将数值修约到“十”、“百”、“千”数位。指定将数值修约成n位有效位数。在相对标准偏差（RSD）的求算中，其有效数位应为其1/3值的首位（非零数字），故通常是百分位或千分位。数值修约数值修约 运算数值保持“四舍六入五成双”规则。 负数修约时，先将其绝对值按上述规定进行修约，然后在修约值前面加上负号。相对标准偏差（RSD）中，采用“只进不舍”的原则，如：0.163%0.17%；0.52% 0.6%。杂质项按四舍五入进舍。进舍规则进舍规则标准规定标准规定未修约数值未修约数值修约数值修约数值结论结论限度

7、实验0.02%0.025%0.03%不合格0.015%0.02%合格限度实验3ppm3.5ppm4ppm不合格3.4ppm3ppm合格 拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按前面规则连续修约。 例如：正确的做法为：15.4546 15； 不正确的做法为：15.4546 15.455 15.46 15.5 16进舍规则进舍规则 加减法在加减法运算中，以小数点后面有效数字位数最少的为标准。 例如：13.65+0.00823+1.633=？；在数值中在数值中13.65小数点后为二位有效数字，因此将其他各数均暂先保留至小数点后为二位有效数字，因此将其他各数均暂先保留至小数点后三位，即把小数点后三位，即把0.00823修约成修约成0.008，1.633不变，进行运算：不变，进行运算： 13.65+0.008+1.633=15.291最后对计算结果进行修约，15.291应只保留二位有效数字，而修约成15.29运算运算规规则则 乘除法 在乘除法运算中，保留有效数字的位数，以位数最少的为准，即以相对误差最大的数为准。 例如：14.1310.076540.78 =14.10.07650.78 =1.080.78 =1.38 =1.4运算运算规规则则项目项目有效数字保留的有效数字保留的位数位数项目项目有效数字保留的有效数字保留的位数位数数字修约四舍