有效数字修约规程.doc_第1页
有效数字修约规程.doc_第2页
有效数字修约规程.doc_第3页
全文预览已结束

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

有效数字修约及其运算规程一.目的为实验室有效数字修约及其运算提供指导,保证有效数字修约及其运算的规范性、科学性和可操作性。二.适用范围本规程适用于实验室数据计算过程中有效数字修约及其运算。三.职责实验室所有人员:严格按照有效数字修约及其运算规程填写记录报告。四.相关规定1.有效数字的基本定义1.1.有效数字是指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。1.2.一个数据的位数不仅表示数量的大小,也反映测量的精确程度。有效数字就是以一种近似的方式表示报告的数字结果的精确性或者不确定性。某种意义上说,它是表示一个已知的数据“有多好”的最常见的方式。2.有效位数2.1.在没有小数位且以若干个零结尾的数值中,有效位数是指从最左一位非0数字向右数,得到的位数减去无效零(即仅为定位用的零)的个数。例如:35000中若有两个无效0,则为三位有效位数,应写作350102或3.50104;若有三个无效0,则为两位有效数,应写作35103或3.5104。当需要在数值的末尾加“0”作定位时,最好采用指数形式表示,否则有效数字的位数含混不清。2.2.在其他十进位数中,有效数字是指从最左一位非0数字向右数而得到的位数。例如:3.2、0.32、0.032和0.0032均为两位有效位数,0.320为三位有效位数,10.00为四位有效位数,12.490为五位有效位数。(数字“0”具有双重意义。若作为普通数字使用,它就是有效数字;若作为定位用,则不是有效数字。)2.3.非连续型数值(如个数、分数、倍数)是非测量所得,没有欠准数字的,其有效位数可视为无限多位。例如:分子式“H2SO4”中的“2”和“4”是个数。常数、e和系数等数值的有效位数可视为是无限多位;含量测定项下“每1 ml的XXX滴定液(0.1mol/L)”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”中“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。2.4.有效数字的首位数字8时,其有效位数可以多计一位。(此条USP及FDA相关规定中没有提及)如85%与115%,都可看成是三位有效位数;99.0%与101.0%都可看成是四位有效数字。2.5.pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。如pH=11.26(H+=5.510-12mol/L ),其有效位数只有两位。3.数值修约及其进舍规则3.1.数值修约 是指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。3.2.修约间隔 是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值即应为该数值的整数倍。例如:指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。3.3.进舍规则 中国药典相关规则:“4舍6入5考虑,5后非0则进1,5后全0看5前,5前偶舍奇进1”。拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变;拟舍弃数字的最左一位数字大于5时,则进一,即保留的末位数字加1;拟舍弃数字的最左一位数字等于5时,其后跟有并非全部为0的数字时则进1,其后无数字或数字皆为0时若所保留末位数为奇数则进1,为偶数则舍弃。4.运算规则 4.1.在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的。但均遵循的原则是:报告的数字结果的精确性应与用于产生该结果的最低精确度的测量数值相一致。4.2.运算加减法:因加减法运算所得和或差的绝对误差比任何一个数值的绝对误差大,所以应以诸数值中绝对误差最大(即欠准数字的数位最大)的数值为准,以确定其它数值在运算中保留的数位和决定计算结果的有效位数。简单的说就是计算结果的小数位数应等于组成算式的数字中小数位数最少的一个。4.3.运算乘除法:因乘除法运算所得积或商的相对误差比任何一个数值的相对误差大,所以应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效数字。简单的说就是计算结果的有效位数应与算式中有效数字位数最少的数字一致。4.5.在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。5. 特殊规定5.1.不得连续修约,拟修约数字应在确定修约位数后一次修约获得结果,从而判断结果是否合格,而不得多次按前面规则连续修约。5.2.计算所得的最后数值或测定读数值均可按修约规则进舍至规定有效位,取此数值与标准中规定的限度数值比较,以判断是否符合规定限度。5.3.炽灼残渣、干燥失重、杂质检测等项目中,如出现有数据非常小,修约后无有效数字时,记录填写中至少保留1位有效数字。例如:炽灼残渣项要求0.1%,实测数据为0.000062937%错误做法:结果栏、报告书填写为0.0%正确做法:结果栏、报告书填写为0.0001%。 如果检测项目有做定量限(LOQ),结果记录为2

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论