数据修约规则_PPT.ppt

数据修约规则及极限数值的表示和判定在环境监测中的应用,1、数字修约2、极限数值的表示和判定3、环境监测中的应用,GB/T8170-2008数据修约规则与极限数值的标示和判定,术语,修约间隔：修约值的最小数值单位，系确定修约保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍。例1：如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当于将数值修约到一位小数。例2：如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到“百”数位。,有效位数：对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数；对其他十进位数，从非零数字最左一位向右数而得到的位数，就是有效位数。例1：35000，若有两个无效零，则为三位有效位数，应写为350102；若有三个无效零，则为两位有效位数，应写为35103。例2：3.2，0.32，0.032，0.0032均为两位有效位数；0.0320为三位有效位数。例3：12.490为五位有效位数；10.00为四位有效位数。,0.5单位修约（半个单位修约）：指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5单位。修约方法：将拟修约数值乘以2，按指定数位依数字修约规则修约，所得数值再除以2。例1：将60.28修约到个数位的0.5单位（或修约间隔为0.5），得60.5。例2：将60.25修约到个数位的0.5单位（或修约间隔为0.5），得60.0。,将下列数字修约到个数位的0.5单位（或修约间隔为0.5）,0.2单位修约：指修约间隔为指定数位的0.2单位，即修约到指定数位的0.2单位。将拟修约数值乘以5，按指定数位依数字修约规则修约，所得数值再除以5。例1：将830修约到“百”数位的0.2单位（或修约间隔为20），得840。例:2：将842修约到“百”数位的0.2单位（或修约间隔为20），得840。,将下列数字修约到“百”数位的0.2单位（或修约间隔为20）,确定修约位数的表达方式,指定数位(指定修约间隔)；指定将数值修约成n位有效位数。,四舍六入五考虑，五后非零则进一，五后皆零视奇偶，五前为偶应舍去，五前为奇则进一，不论数字多少位，都要一次修约成。,进舍规则,拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。例1：将12.1498修约到一位小数，得12.1。例2：将12.1498修约成两位有效位数，得12。,拟舍弃数字的最左一位数字大于5；或者是5，而其后跟有并非全部为0的数字时，则进一，即保留的末位数字加1。例1：将1268修约到“百”数位，得13102（特定时可写为1300）。例2：将1268修约成三位有效位数，得12710（特定时可写为1270）。例3：将10.502修约到个数位，得11。,拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数字为奇数（1，3，5，7，9）则进一，若所保留的末位数字为偶数（2，4，6，8，0）则舍弃。例1：修约间隔为0.1拟修约数值1.050修约值结果1.0,负数修约时，先将它的绝对值按数字修约规定进行修约，然后在修约值前面加上负号。例1：将下列数字修约到“十”数位拟修约数值修约值-355-3610,不许连续修约拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按进舍规则连续修约。例如：修约15.4546，修约间隔为1正确的做法：15.454615不正确的做法：15.454615.45515.4615.516,在具体实施中，有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出，而后由其他部门判定。为避免产生连续修约的错误，应按下述步骤进行。,1.报出数值最右的非零数字为5时，应在数值后面加“（）”或“（）”或不加符号，以分别表明已进行过舍、进或未舍未进。例：16.50（）表示实际值大于16.50，经修约舍弃成为16.50；16.50（）表示实际值小于16.50，经修约进一成为16.50。,2.如果判定报出值需要进行修约，当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时，数值后面有(+)号者进一，数值后面有(-)号者舍去，其他仍按数字修约规则进行。例：将下列数字修约到个数位后进行判定（报出值多留一位到一位小数）。实测值报出值修约值15.454615.5（一）1516.520316.5（）17-17.5000-17.5-18-15.4546-(15.5(一)-15,计算法则,加减运算,应以各数中有效数字末位数的数位最高者为准（小数即以小数部分位数最少者为准），其余数均比该数向右多保留一位有效数字。例如：5.89+15.2551=5.89+15.255=21.145,乘除运算,应以各数中有效数字位数最少者为准，其余数均多取一位有效数字，所得积或商也多取一位有效数字。例如：2.13.1242.13.126.55,平方或开方运算,其结果可比原数多保留一位有效数字。例如：1.421.961.233=1.861,对数运算,所取对数位数应与真数有效数字位数相等。例如：lg12.3=1.09,特殊实例,非连续型数值,个数、分数、倍数、名义浓度或标示量等是没有欠准数字的，其有效位数可视为无限多位；常数、e和系数2，1/2等数值的有效位数也可视为是无限多位。,27,可编辑,例如：1.分子式“H2S04”中的“2”和“4”是个数；2.含量测定项下“每1ml的滴定液（0.1mol/L）”中的“0.1”为名义浓度，其有效位数均为无限多位；3.规格项下的“0.3g”或“1ml”，“25mg”中的“0.3”、“1”和“25”的有效位数也均为无限多位。,结论：在计算中，其有效位数应根据其他数值的最少有效位数而定。,极限数值的表示和判定,1、书写极限数值的一般原则1.1标准（或其他技术规范）中规定考核的以数量形式给出的指标或参数等，应当规定极限数值。极限数值表示符合该标准要求的数值范围的界限值，它通过给出最小极限值和（或）最大极限值，或给出基本数值与极限偏差值等方式表达。1.2标准中极限数值的表示形式及书写位数应适当，其有效数字应全部写出。书写位数表示的精确程度，应能保证产品或其他标准化对象应有的性能和质量。,表达极限数值的基本用语,基本用语符号大于AA小于AA大于或等于AA小于或等于AA,测定值或其计算值与标准规定的极限数值比较方法,1.修约值比较法:2.全数值比较法,1.修约值比较法:将测定值或其计算值进行修约，修约数位应与规定的极限数值数位一致。将修约后的数值与规定的极限数值进行比较，只要超出极限数值规定的范围（不论超出程度大小）都判定为不符合要求。2.全数值比较法：将测试所得测定值或计算值不经修约处理（或虽经修约处理，但应标明它是经舍、进或未进未舍而得），用该数值与规定的极限数值作比较，只要超出极限数值规定的范围（不论超出程度大小），都判定为不符合要求。,这两种方法的结论有时不同,例：,两种方法的使用和比较,1、当标准或文件中对极限数值无特殊规定时，均应采用全数值比较法。如规定采用修约值比较法，应在标准中加以说明。2、对同样的极限数值，若本身符合要求，则全数值比较法相对较严格。,数字修约规则在环境监测中的应用,地表水与污水分析结果的表达（一）摘自HJ/T92,地表水与污水分析结果的表达（二）,HJ/T91-2002地表水和污水监测技术规范,室内空气监测技术规范（HJ/T167-2004）,1、原始记录有效数字保留位数1.1用空气流量校准器校准流量时，二氧化硫、甲醛、氨等采样器流量记录至小数点后两位，单位：L/min。PM10、菌落总数等采样泵流量记录到整数，单位：L/min。1.2在现场采样记录中，气温记录到小数点后一位，单位：；气压记录到小数点后一位，单位：kPa；湿度记录到整数，单位：；风速记录到小数点后一位，单位：ms；采样流量记录同校准流量一致，单位：L/min；采样时间到整数，单位：min；采样体积及换算标准状态体积记录到小数点后一位，二氧化硫、甲醛、氨等，单位：L；PM10等，单位：m3。PM10（重量法）称重记录到小数点后四位，单位：g。分光光度法测定吸光度值记录到小数点后三位。2、校准曲线回归处理与有效数字2.l用具有回归统计功能的计算器进行计算时，把原始数据输入则可直接显示r、a、b，从而求得一元回归方程：y=axb，回归时应扣除空白值。不扣除空白值，直接回归的曲线，可用来计算空白值的浓度。2.2r取小数点后全部9（但最多取小数点后四位）与第一位非9的修约数字。2.3a的有效数字位数，应与自变量x的有效数字位数相等，或最多比x多保留一位。b的最后一位数，则和因变量y的最后一位数取齐，或最多比y多一位。,土壤样品分析结果表达,1、低于方法检出限按照“未检出”报出，参加统计是按照1/2最低检出限参与计算。2、土壤样品测定一般保留3位有效数字，含量较低的镉和汞保