有效数字、数值修约及运算规程

1、1 目的为对实验过程中实际测量或计算而得的数值进行统一标准的处理，特制定 本规程，保证数据计算合理、准确有效。2 范围 适用于工作中除生物检定统计法以外的各种测量或计算而得的数值。3 职责 实验员：负责按本操作规程在计算过程中对检验数据进行处理。复核人、QA:负责按本规程对实验结果进行复核、计算。各实验室主任：监督本操作规程的实施。4 内容4.1 有效数字的根本概念4.1.1 有效数字系指在药检工作中所能得到有实际意义的数值。其最后一位 数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为 有效数字。最后一位数字的欠准程度通道只能是上下差 1 单位。女口： 12.50 m,前三

2、位是准确的，最后一位是估计的，不甚准确，但它不是 臆造的。记录时应保存这一位，这四位都是有效数字。有效位数4. 1 . 2 . 1有效数字位数确实定原那么由于有效数字的位数反映了测定结果的精确度，它直接与测量的精密度有 关。因此，在科学实验和生产过程中正确记录有效数字，不能多写或少写，多 写了不能正确反映测量精度，那么该数据不真实，因而也就不可靠；少写损失测 量精度。在没有小数位且以假设干个零结尾的数值中，有效位数每当指从非 零数字最左一位向右数得到的位数减去无效零即仅为定位用的零的个数。例如35000中假设有两个无效零，那么为三位有效位数，应写作 350X 102假设 有三个无效零，那么为两

3、位有效位数，应写作35X 10。3在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。例如、和均为两位有效位数，为三位有效位数、为四位有效位数， 为五位有效位数。有效数字的首位数字为 8或 9时，其有效位数可以多计一位。例如85与 115%，都可以看成是三位有效位数；与都可以看成是四位有效数 字。非连续型数值如个数、分数、倍数是没有欠准数字的，其有效 位数可视为无限多位；例如分子式“H2S0的“2 “4个数。常数n e和等数值的有效位数也可视为是无限多位。4.126 PH值等对数值，其有效位数由其小数点后的位数决定的，其整数部 分只说明其真数的乘方次数。例如：H+=5.5 xl

4、O-12moL其有效位数只有 两位。4.2数值修约及其进舍规那么4.2.1 数值修约的概念是对拟修约数值根据保存位数的要求，将多余的数字进行舍弃，根据舍弃 数来保存最后一位数或最后几位数，这一过程称为数值修约。数值修约的意义4.2.2.1 出于准确表达测量结果的需要测量结果大都是通过间接测量得到的，间接测量的结果通常是通过计算得 出的，其组成数字往往较多，但具体测量的精度是确定的，就是说合理表征测 量结果的数字个数应是确定的，最终提供的测量结果应合理反映这一点，因 此，通过对计算得出的和直接测量得到的数据的分析，得到合理的保存位数， 将多余的数字进行取舍以得到合理反映测量精度的测量结果，即进行

5、数值修约 就非常必要。在进行具体的数值计算前，对参加计算的数值进行修约，可简化计 算，降低出错的时机。女口： 4.78961 X 2.13 X 102.4387926=假设不先进行数值修约就直接计算，繁琐且容易出错。假设在计算前先按 数值修约规那么进行修约，舍去多余参与计算的数值之中没有意义的数字，那么计 算会简单得多，也不易出错。进舍规那么进舍规那么口诀：四舍六入五考虑，五后非零那么进一，五后全零看五前，五前偶舍奇进一，不管数字多少位，都要一次修约成。拟舍弃数字的最左一位数字小于 5 时，那么舍去，即保存的各位数字 不变。例 1 将修约到一位小数，得。例 2 将修约成两位有效位数，得 12。

6、4.2.3.2 拟舍弃数字的最左一位数字大于 5，或者是 5，而其后跟有并非全部 为 0 的数字时，那么进一。即在保存的末位数字加1 。例1将1268修约到百数位，得13X102例2将1268修约到三位有效位数，得127X 10例 3将修约到个数位。得 11。拟舍弃数字的最左一位数字为 5，而右面无数字或皆为 0时，假设 所保存的末位数为奇数 1， 3， 5， 7， 9那么进一，为偶数 2， 4， 6， 8， 0 那么舍弃。例 将以下数字修约成两位有效位数拟修约数值修约值0.03250.0323250032X 1034.234在相对标准偏差RSD中，采用 只进不舍的原那么，如0.163%、 0

7、.52%宜修约为 0.17%、0.6%。不许连续修约 拟修约数字应在确定修约位数后一次修约获得结果， 而不得屡次按前面规那么连续修约。例 修约，将数值修约到个位数。正确做法为：15.4546 f 15不正确的做法为：15.4546 f 15.455 f 15.46 f 15.5 f 16运算规那么在计算分析结果时，每个测量数据的误差会传递到分析结果中去，而运算 不能改变测量的准确度。所以，应根据误差传递的规律进行有效数字的运算。在进行数学运算时，对加减法和乘除法中有效数字的处理是不同的。4.2.4.1 加减法 加减法的计算是各数值绝对误差的传递，所以结果的绝对 误差应与数据中绝对误差最大的数据

8、相当即小数点后位数最少的数据为准4.2.4.2 乘除法 乘除法的计算是各数值相对误差的传递，所以结果的相对 误差应与数据中相对误差最大的数据相当， 即有效数字位数最少的数据为准， 与小数点位置无关。在运算过程中，为减少舍入误差，其他数值的修约可以暂时多保存 一位，等运算得到结果时，再根据有效位数弃去多余的数字。例 1： 13.65+0.00823+1.633=？本例是数值相加减，在三个数值中的绝对误差最大，其最末一位数为百分 位小数点后二位，因此将其他各数均暂先保存至千分位，即把修约成，不 变，进行运算：最后对计算结果进行修约，应只保存至百分位，而修约成。例 2: 14.131 X 0.076

9、54 - 0.7?=本例是数值相乘除，在三个数值中，的有效位数最少，仅为两位有效位 数，因此各数值均应暂保存三位有效位数进行运算，最后结果再修约为两位有 效位数。4 . 2 . 5考前须知4.2.5.1 正确记录检测所得的数值应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定， 确定数字的有效位数，检测值必须与测量的准确度相符合，记录全部准确数字 和一位欠准数字。移液管是进过标定的，正确操作是要将移液管标定值带入计 算，量筒假设用来做“装量等实验需要准确值的实验，也需要进行标定，带 入标定值计算。例1取栀子苷对照品适量，精密称定为12.34 mg,置50 ml量瓶中加甲醇稀释至刻度

10、，摇匀，再精密移取 2 ml 置 20 ml 量瓶中加甲醇稀释至刻度，计算 栀子苷对照溶液的浓度？由分析天平的精度，确定称量值为 4 位有效位数，故最终计算出的栀子苷 对照溶液的浓度也为 4 位有效位数。12.34/50*2/20=0.02468 mg/ml 注意：在含量方法学验证过程中所涉及的数据，其有效数字的位数都由所 用天平的精度决定。但最终报告中均表达为比参考标准限度多一位小数。药典规定：药材栀子含栀子苷C17H24O10不得少于1.8%,实际含量计 算过程中，测出某批次药材含栀子苷1.822%，在最终报告中，仍应由修约法那么，表达含栀子苷为 1.82%。准确度实验中：称取此批栀子药材适量，精密称定为1.234 g,因此供试品中栀子苷量为：1.82%X 1.234=0.02246。例2:在防风含量测定项下，药典规定防风药材含升麻素苷和5-O-甲基维斯阿米醇苷的总量不少于 0.24%。实际实验过程中，防风样品的称样量为0.2512 g,计算得出升麻素苷含量为0.12342. 5-O-甲基维斯阿米醇苷含量为0.20221.%因此由天平的精密 度确定最终结果应为4位有效位数，即升麻素苷含量应为 0.1234%, 5-O-