有效数字、数值修约及运算规程.doc

1目的为对实验过程中实际测量或计算而得的数值进行统一规范的处理，特制定本规程，保证数据计算合理、准确有效。2范围适用于工作中除生物检定统计法以外的各种测量或计算而得的数值。3职责实验员：负责按本操作规程在计算过程中对检验数据进行处理。复核人、QA：负责按本规程对实验结果进行复核、计算。各实验室主任：监督本操作规程的实施。4内容4.1有效数字的基本概念4.1.1有效数字系指在药检工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为有效数字。最后一位数字的欠准程度通道只能是上下差1单位。如：12.50 ml，前三位是准确的，最后一位是估计的，不甚准确，但它不是臆造的。记录时应保留这一位，这四位都是有效数字。4.1.2有效位数4.1.2.1有效数字位数的确定原则由于有效数字的位数反映了测定结果的精确度，它直接与测量的精密度有关。因此，在科学实验和生产过程中正确记录有效数字，不能多写或少写，多写了不能正确反映测量精度，则该数据不真实，因而也就不可靠；少写损失测量精度。4.1.2.2在没有小数位且以若干个零结尾的数值中，有效位数每当指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数。例如35000中若有两个无效零，则为三位有效位数，应写作350102；若有三个无效零，则为两位有效位数，应写作35103。4.1.2.3在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数，0.0320为三位有效位数、10.00为四位有效位数，12.490为五位有效位数。4.1.2.4有效数字的首位数字为8或9时，其有效位数可以多计一位。例如85与115%，都可以看成是三位有效位数；99.0与101.0都可以看成是四位有效数字。4.1.2.5非连续型数值（如个数、分数、倍数）是没有欠准数字的，其有效位数可视为无限多位；例如分子式“H2SO4”中的“2”和“4”是个数。常数、e和等数值的有效位数也可视为是无限多位。4.1.2.6 PH值等对数值，其有效位数由其小数点后的位数决定的，其整数部分只表明其真数的乘方次数。例如：PH=11.26（H+=5.510-12mol/L），其有效位数只有两位。4.2数值修约及其进舍规则4.2.1数值修约的概念是对拟修约数值根据保留位数的要求，将多余的数字进行舍弃，根据舍弃数来保留最后一位数或最后几位数，这一过程称为数值修约。4.2.2数值修约的意义4.2.2.1出于准确表达测量结果的需要测量结果大都是通过间接测量得到的，间接测量的结果通常是通过计算得出的，其组成数字往往较多，但具体测量的精度是确定的，就是说合理表征测量结果的数字个数应是确定的，最终提供的测量结果应合理反映这一点，因此，通过对计算得出的和直接测量得到的数据的分析，得到合理的保留位数，将多余的数字进行取舍以得到合理反映测量精度的测量结果，即进行数值修约就非常必要。4.2.2.2在进行具体的数值计算前，对参加计算的数值进行修约，可简化计算，降低出错的机会。如：4.789612.13102.4387926=？若不先进行数值修约就直接计算，繁琐且容易出错。若在计算前先按数值修约规则进行修约，舍去多余参与计算的数值之中没有意义的数字，则计算会简单得多，也不易出错。4.2.3进舍规则进舍规则口诀：四舍六入五考虑，五后非零则进一，五后全零看五前，五前偶舍奇进一，不论数字多少位，都要一次修约成。4.2.3.1拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。例1将12.1498修约到一位小数，得12.1。例2将12.1498修约成两位有效位数，得12。4.2.3.2拟舍弃数字的最左一位数字大于5，或者是5，而其后跟有并非全部为0的数字时，则进一。即在保留的末位数字加1。例1将1268修约到百数位，得13102。例2将1268修约到三位有效位数，得12710。例3将10.502修约到个数位。得11。4.2.3.3拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数为奇数（1，3，5，7，9）则进一，为偶数（2，4，6，8，0）则舍弃。例将下列数字修约成两位有效位数拟修约数值修约值0.0325 0.03232500 321034.2.3.4在相对标准偏差(RSD)中，采用“只进不舍”的原则，如0.163%、0.52%宜修约为0.17%、0.6%。4.2.3.5不许连续修约拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按前面规则连续修约。例修约15.4546，将数值修约到个位数。正确做法为：15.454615；不正确的做法为：15.454615.45515.4615.5164.2.4运算规则在计算分析结果时，每个测量数据的误差会传递到分析结果中去，而运算不能改变测量的准确度。所以，应根据误差传递的规律进行有效数字的运算。在进行数学运算时，对加减法和乘除法中有效数字的处理是不同的。4.2.4.1加减法加减法的计算是各数值绝对误差的传递，所以结果的绝对误差应与数据中绝对误差最大的数据相当（即小数点后位数最少的数据为准）。4.2.4.2乘除法乘除法的计算是各数值相对误差的传递，所以结果的相对误差应与数据中相对误差最大的数据相当，（即有效数字位数最少的数据为准，与小数点位置无关）。4.2.4.3在运算过程中，为减少舍入误差，其他数值的修约可以暂时多保留一位，等运算得到结果时，再根据有效位数弃去多余的数字。例1：13.65+0.00823+1.633=？本例是数值相加减，在三个数值中13.65的绝对误差最大，其最末一位数为百分位（小数点后二位），因此将其他各数均暂先保留至千分位，即把0.00823修约成0.008，1.633不变，进行运算：13.65+0.008+1.633=15.291最后对计算结果进行修约，15.291应只保留至百分位，而修约成15.29。例2：14.1310.076540.78=？本例是数值相乘除，在三个数值中，0.78的有效位数最少，仅为两位有效位数，因此各数值均应暂保留三位有效位数进行运算，最后结果再修约为两位有效位数。14.1310.076540.78=14.10.07650.78=1.080.78=1.38=1.44.2.5注意事项4.2.5.1正确记录检测所得的数值应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定，确定数字的有效位数，检测值必须与测量的准确度相符合，记录全部准确数字和一位欠准数字。移液管是进过标定的，正确操作是要将移液管标定值带入计算，量筒若用来做“装量”等实验需要准确值的实验，也需要进行标定，带入标定值计算。例1：取栀子苷对照品适量，精密称定为12.34 mg，置50 ml量瓶中加甲醇稀释至刻度，摇匀，再精密移取2 ml置20 ml量瓶中加甲醇稀释至刻度，计算栀子苷对照溶液的浓度？由分析天平的精度，确定称量值为4位有效位数，故最终计算出的栀子苷对照溶液的浓度也为4位有效位数。12.34/50*2/20=0.02468 mg/ml注意：在含量方法学验证过程中所涉及的数据，其有效数字的位数都由所用天平的精度决定。但最终报告中均体现为比参考标准限度多一位小数。药典规定：药材栀子含栀子苷（C17H24O10）不得少于1.8%，实际含量计算过程中，测出某批次药材含栀子苷1.822%，在最终报告中，仍应由修约法则，体现含栀子苷为1.82%。准确度实验中：称取此批栀子药材适量，精密称定为1.234 g，因此供试品中栀子苷量为：1.82%1.234=0.02246 g。例2：在防风含量测定项下，药典规定防风药材含升麻素苷和5-O-甲基维斯阿米醇苷的总量不少于0.24%。实际实验过程中，防风样品的称样量为0.2512 g，计算得出升麻素苷含量为0.12342.%，5-O-甲基维斯阿米醇苷含量为0.20221.%。因此由天平的精密度确定最终结果应为4位有效位数，即升麻素苷含量应为0.