下载本文档
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、文件名称有效数字和数值的修约及 其运算标准操作规程文件编号SOP-QC-01-003/01编制人审核人批准人编制日期审核日期批准日期颁发部门质量部分发号生效日期发送单位档案至、质量部、化验至一、目的:建立有效数字和数值的修约及其运算标准操作规程,确保有效数字和数值的修约及其运算结果的准确性。二、适用范围: 适用于有效数字和数值的修约及其运算操作。三、责任:QC检验人员负责本规程的实施,QA负责人、QC负责人监督检查。四、内容:1. 有效数字的根本概念1.1有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字 欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。
2、 最后一位数字的欠准程度通常只能是上下差 1单位。1.2有效数字的定位数位,是指确定欠准数字的位置。这个位置确定后,其 后面的数字均为无效数字。在没有小数位且以假设干个零结尾的数值中,有效位数系指从非零数字最左一 位向右数得到的位数减去无效零即仅为定位用的零的个数。例如35000中假设有两个无效零,那么为三位有效位数,应写作350 X 102;假设有三个无效零,那么为两位有效位数,应写作35X 103或3.5 X 104。,12.490为五位有效位数。非连续型数值如个数、分数、倍数是没有准数字的,其有效位数可视为无 限多位;例如分子式“ H2SQ中的“2和“4是个数。常数n、e和系数 2等数
3、值的有效位数也可视为是无限多位;含量测定项下“每1ml的XXXX滴定液0.1mol/l中的“为名义浓度,规格项下的“或“1ml: 25mg为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最 少有效位数而定。1.3.4 PH值等对数值,其有效位数是由其小数点后的位数决定的,其整数局部 只说明其真数的乘方次数。如 PH=11.26H、10-12mol/l,其有效位数只有两位。有效数字的首位是8或9时,其有效位数可以多计一位。例如85%与 115%都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。2. 数值修约及其进舍规那么。2.1数值修约是指对似
4、修约数值中超出需要保存位数时的舍弃,根据舍弃数来保存最后一位 数或最后几位数。2.2修约间隔是确定修约保存位数的一种方式,修约间隔的数值一经确定,修约值应为该数 值的整数倍。例如指定修约间隔为0.1,作约值即应在0.1的整数倍中选取,也就是 说,将数值修约到小数点后一位。指定数位.1指定修约间隔为10-n :n为正整数,或指明将数值修约到小数点后 n位。.2指定修约间隔为1,或指明将数值修约到个数位。.3指定修约间隔为10n :n为正整数或指明将数值修约到10n数位,或指明将数值修约到“十、“百、“千数位。指定将数值修约成n位有效位数n为正整数。拟舍弃数字的最左一位数字小于 5时,那么舍去,即
5、保存的各位数字不变 将12.1498修约到一位小数十分位,得12.1 0将12.1498修约成两位有效位数,得12o拟舍弃数字的最左一位数字大于 5,或者是5,而其后跟有并非全部为0的数字 时,那么进一,即在保存的末位数字加1。将1268修约到百数位,得13X 102。将1268修约到三位有效位数,得127X 10。将10.502修约到个数位,得11。拟舍弃数字的最左一位数字为 5,而右面无数字或皆为0时,假设所保存的末 位数为奇数1, 3, 5, 7, 9那么进一,为偶数2, 4, 6, 8, 0那么舍弃。修约间隔为0.1 或10-1拟修约数值修约值修约间隔为1000或103拟修约数值修约值
6、25002X103335004X10将以下数字修约成两位有效位数拟修约数值修约值33250032X 10不许连续修约拟修约数字应在确定修约位数后一次修约获得结果,而不得屡次按前面规那么-243丨连续修约。例 修约15.4546,修约间隔为1f 15o16o为便于记忆,上述进舍规那么可归纳成以下口诀:四舍六入五考虑,五后非零那么 进一,五后全零看五前,五前偶舍奇进一,不管数字多少位,都要一次修约成。但 在按英、美、日药典方法修约时,按四舍五入进舍即可。3. 运算规那么在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的。3.1许多数值相加减时,所得和或差的绝对误差比拟任何一个数值的绝对误差
7、 大,因此相加减时应以诸数值中绝对误差最大即有效数字的数位最大的数值为 准,以确定其它数值在运算中保存的数位和决定计算结果的有效数位。3.2许多数值相乘除时,所得积或商的相对误差比拟任何一个数值勤的相对误 差大。因此相乘除时应以诸数值中相对误差最大即有效位数最少的数值为准, 确定其它数值在运算中保存的位数和决定计算结果的有效位数。3.3在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保存一位, 等运算得到结果时,再根据有效位数弃去多余的数字。13.65+0.00823+1.633=?本例是数值相加减,在三个数值中 13.65的绝对误差最大,其最末一位数为百 分位小数点后二位,因此将其它各
8、数均暂先保存至千分位,即把0.00823修约成0.008,1.633不变,进行运算:最后对计算结果进行修约,15.291应只保存至百分位,而修约成15.29。X 十 0.78=?本例是数值相乘除,在三个数和值中,0.78的有效位数最少,仅为两位有效位 数,因此各数值均应暂保存三位有效位数进行运算,最后结果再修约为两位有效位 数。例3计算氧氟沙星CsHFNO的分子量在诸元素的乘积中,原子数的有效位数可视作无限多位,因此可根据各分子量 的有效位数对乘积进行定位;而在各乘积的相加中,由于中国药典规定分子量的数 值保存到小数点后二位百分位,因此应将各元素的乘积修约到千分位小数点后 三位后进行相加;再将
9、计算结果修约到百分位,即得。xxxx 44. 考前须知4.1正确记录检测所得的数值应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定,确定 数字确实有效位数或数位,检测值必须与测量的准确度相符合,记录全部准确数 字和一位欠准数字。4.2正确掌握和平运用规那么不管是何种方法进行计算,都必须执行进舍规那么和运算规那么,如用计算器进行 计算,也应将计算结果经修约后再记录下来。4.3要根据取样的要求,选择相应的量具。“精密称定系指称取重量应准确到所取重量的千分之一。可根据称量选用分 析天平或半微量分析天平;“精密量取系指量取体积的准确度选用符合国家标准中 对该体积移液管的精密度要求;必要时应加校正值。称定或量取系指称取的重量或量取的容量应准确至所取重量或容量的百分之。取用量为“约假设干时,系指用量
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 炉前温控设备校验周期控制方案
- 门窗洞口预留预埋质量验收方案
- 塔楼核心筒施工组织策划方案
- 广东省深圳市2026届高三下学期第二次调研考试地理试题及答案
- 压铸线模具更换作业指导书
- GEO排名优化TOP7测评:2026年新媒体营销平台权威榜单发布
- 高一年级五一后教育教学暨班风学风建设学生问卷调查表
- 2022年6月青少年软件编程(图形化)等级考试二级真题(含答案和解析-在末尾)
- 波形梁钢护栏施工组织设计
- 幼儿园废弃物资源化利用协议简化版合同二篇
- DLT1263-2013 12kV~40.5kV 电缆分接箱技术条件
- 《无人机载荷与行业应用》 课件全套 第1-6章 无人机任务载荷系统概述- 未来展望与挑战
- 《公共管理学》第六章 公共政策PPT
- 2022年河北雄安新区容西片区综合执法辅助人员招聘考试真题
- 周围血管与淋巴管疾病第九版课件
- 付款计划及承诺协议书
- 王君《我的叔叔于勒》课堂教学实录
- CTQ品质管控计划表格教学课件
- 沙库巴曲缬沙坦钠说明书(诺欣妥)说明书2017
- 卓越绩效管理模式的解读课件
- 疫苗及其制备技术课件
评论
0/150
提交评论