有效数字修约和运算规程.doc_第1页
有效数字修约和运算规程.doc_第2页
全文预览已结束

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

天马行空官方博客：/tmxk_docin ；QQ:1318241189；QQ群：175569632标 准 操 作 程 序Standard Operating Procedure题目： 有效数字的修约和运算规程共2页 第1 页部门：QC起草：起草日期：审核：审核日期：批准：批准日期：编号：QOS-011改版编号：生效日期：颁发部门： GMP办分发部门：QC 、QA、生产部、物管部、各车间1、 目的：建立有效数字的修约和运算规程，保证测量、检测、计算结果的准确性。2、 范围：适用于特殊规定以外的所有测量、检测数据和计算结果。3、 责任人：QC检验员、计量器具使用人员。4、 正文：4.1各种数量应采用几位数字，运算结果应保留几位数字，是很严格的，不能随意增减和书写。4.2正确的表示方法是：记录和计算测量结果都应与测量的误差相适应，不应超过测量的精确程度，即测量和计算所表示的数字位数，除末位数字为可疑者外，其余各位数都应是准确可靠的。4.3从仪器上直接测得的几位数字（包括最后一位可疑数字），叫做有效数字。实验数据的有效数字与测量的精度有关。任何超出或低于仪器精度的数字都是不恰当的。4.4有效数字4.4.1“0”在数字中是否包括在有效数字的位数中，与“0”在数字中的位置有关。“0”在数字前面，只表示小数点的位置（仅起定位作用），不包括在有效数字中；如果“0”在数字的中间或末端，则表示一定的数值，应包括在有效数字的位数中。4.4.2采用科学计数法，“10n”不包括在有效数字中。对于很小或很大的数字，采用科学计数法更加简便合理。4.4.3对数值有效数字位数，仅由小数部分的位数决定，首数（整数部分）只起定位作用，不是有效数字。因此对数运算时，对小数部分的有效数字位数应题目：有效数字的修约和运算规程共 2 页 第 2 页与相应的真数的有效数字位数相同。4.5在处理数据时，有效数字的取舍很重要，它有助于避免因计算过繁而引起的错误，确保运算结果的正确，同时也节省时间。4.6有效数字的基本运算原则4.6.1记录和计算结果所得的数值，均只能保留一位可疑数字。4.6.2当有效数字的位数确定后，其余的尾数应根据“四舍六入五看齐，奇进偶不进”的规律，一律舍去。4.7化学运算中保留有效数字的规则4.7.1加减法：在加减法中，所得结果的小数点位数，应该与各加减数中，小数点后的位数最少者相同。4.7.2乘除法：在乘除法中，所得结果的有效数字位数应与各数值中的有效数字位数最少的位数相同，而与小数点后的位数或者小数点的位置无关。4.7.3在进行一连串数值运算时，为了既简便计算又能确保运算的准确性，可按“四舍六入五看齐，奇进偶不进”原则暂时多保留一位有效
人人文库> 全部分类> 应用文书 > 事务文书

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论