下载本文档
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、有效数字与数字修约目录 TOC o 1-2 h z u HYPERLINK l _Toc292375011 1.目的 PAGEREF _Toc292375011 h 3 HYPERLINK l _Toc292375012 2.范围 PAGEREF _Toc292375012 h 3 HYPERLINK l _Toc292375013 3.引言、定义和缩略语 PAGEREF _Toc292375013 h 3 HYPERLINK l _Toc292375014 4.程序 PAGEREF _Toc292375014 h 3 HYPERLINK l _Toc292375015 4.1原始数据的读取和
2、修约 PAGEREF _Toc292375015 h 3 HYPERLINK l _Toc292375016 4.2有效数字的运算规则 PAGEREF _Toc292375016 h 4 HYPERLINK l _Toc292375017 4.3数据修约规则 PAGEREF _Toc292375017 h 4 HYPERLINK l _Toc292375018 4.4注意事项 PAGEREF _Toc292375018 h 5 HYPERLINK l _Toc292375019 4.5实例 PAGEREF _Toc292375019 h 5 HYPERLINK l _Toc292375020
3、5.登记和归档 PAGEREF _Toc292375020 h 6 HYPERLINK l _Toc292375021 6.职责 PAGEREF _Toc292375021 h 6 HYPERLINK l _Toc292375022 7.培训 PAGEREF _Toc292375022 h 6目的 本条SOP的目的是保证正确记录和处理原始数据。范围 本条SOP适用于本公司所有进行数据读取、数据记录和数据处理的员工。引言、定义和缩略语有效数字是指实际能够测量到的数字,它由可靠的数字加上一位估计的、不确定的数字组成。有效数字的位数是指从该数左方第一个非零数字算起到最末一个数字(包括零)的个数,不取
4、决于小数点的位置。即第一个非零数字前的零不是有效数字;第一个非零数字后开始的所有数字(包括零)都是有效数字。例如,0.568和0.0568都有三位有效数字;2.70有三位有效数字,而2.700则有四位有效数字。有效数字位数的多少,表明了测量所能达到的准确程度,这与所被测物和测量工具的精度有关,即当被测物和测量工具被选定后,测量值的有效数字位数就已经确定了。例如,测得物体的长度为3.36cm,有三位有效数字,若使用千分尺测量,应为3.3600cm,有五位有效数字。程序 原始数据的读取4.1.1 读取至测量工具的最小单位。如有必要或需要进一步计算,可再向下估读一位。即读取测量值时应确定测量工具的精
5、确度。例如,50ml和250ml容量瓶的精度分别为0.01ml和0.1ml,所配溶液体积应分别为50.00ml和250.0ml。4.1.2 对于带数字显示或打印机的仪器设备,有效数字直接为显示值或打印值,并与仪器设备和试验方法保持一致。 有效数字的运算规则 在计算过程中,有效数字的确定遵循以下标准:4.2.1 加减法:按小数点后位数最少的那个数确定。4.2.2 乘除法:按有效数字最少的那个数确定。4.2.3 对于一些常数,如水的密度、折光系数和法拉第常数等,应根据具体要求确定其有效数字。4.2.4 计算结果的有效数字位数不由数学或物理常数来确定,数学或物理常数的有效数字位数可任意选取。一般选取
6、的位数应比测量数据有效数字位数最少的多一位。例如:2.5=2.53.14 1.023=1.0233.1415 2.51.023=2.51.03.144.2.5 如果使用计算机软件(Excel等)等进行计算,可先计算后修约,即计算过程中保留所有原数据的有效数字,计算完毕后将结果一次性修约至需要的有效数字位数,也可采用软件的数据修约规则代替上述修约规则。 数据修约规则按照中华人民共和国国家标准数字修约规则与极限数值的表示和判断(GB 8170-2008)规定,数据修约依照“一次到位,四舍六入五成双”规则。具体如下:当保留N位有效数字,若第N+1位数字4,舍去。当保留N位有效数字,若第N+1位数字6
7、,则第N位数字进1。当保留N位有效数字,若第N+1位数字=5,且后面的数字0,则第N位数字进1;若后面的数字=0,则第N位数字若为偶数时就舍去后面的数字,若为奇数时就进1。例如,2.541修约为2.5,2.462修约为2.5,2.453修约为2.5,2.450修约为2.4,2.550修约为2.6。 注意事项4.4.1 测定的数据经过计算后其有效数字位数应与输入值一致或多一位,尽管最后一位数字是可疑的。4.4.2 数据处理时,一旦有效数字位数确定,最后一位有效数字后的数字应被修约,修约仅需考虑最后一位有效数字后一位的数字。例如:2.154546保留三位有效数字正确修约:2.1545462.15错
8、误修约:2.1545462.154552.15462.1552.16。4.4.3 单位转换时,为了使有效数字的位数不变,尽量使用科学计数法。例如,70cm可记为700mm,有效数字的位数改变了,可用7.010cm和7.0102mm表示,不改变有效数字的位数。此外,数字过大或过小时,也应尽量使用科学计数法表示。实例4.5.1 经计算得到某物重量为4.3415mg,不确定度为2.0478mg。首先,将不确定度修约为两位有效数字2.0mg(注意,非零数字后的零为有效数字),则重量值修约为4.3mg。注意修约后该值及不确定度的小数点后位数应一致。故修约结果为4.3mg2.0mg。4.5.2 经计算得到
9、某容量瓶容积为2000.714431ml,不确定度为0.084024ml。首先,将不确定度修约为两位有效数字即0.084ml,则容积值修约为2000.714ml。注意修约后该值及不确定度的小数点后位数应一致。故修约结果为2000.714ml0.084ml。4.5.3 经计算得到某物重量为285.41mg,不确定度为102.98mg。由于其不确定度大,首先,将该值及不确定度转换为较大的常用单位,即0.28541g和0.10298g,然后将不确定度修约为两位有效数字0.10g(注意,非零数字后的零为有效数字),则重量值修约为0.29g。注意修约后该值及不确定度的小数点后位数应一致。故修约结果为0.29g0.10g。4.5.4 经计算得到某物重量为285.41mg,不确定度为33.4875mg。首先,将不确
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 中国宪法学习主题班会省公开课金奖全国赛课一等奖微课获奖课件
- 高考物理复习第九章磁场1磁场及其对电流的作用市赛课公开课一等奖省名师获奖课件
- 生产计划管理之小批量多品种模式下的计划库存管理培训老师吴诚省公开课金奖全国赛课一等奖微课获奖课
- 高中数学第三章三角恒等变换3.1两角和与差的正弦余弦和正切公式全国公开课一等奖百校联赛微课赛课特等奖
- 高中数学第三章概率3.1概率的意义习题全国公开课一等奖百校联赛微课赛课特等奖课件
- 实验题解题技能市公开课特等奖市赛课微课一等奖课件
- 浙江省聘请常年法律顾问合同
- 2024年宾馆装修合同样本
- 生命的意义班会省公开课一等奖全国示范课微课金奖课件
- 《白鹅》教学设计(8篇)
- 基于中华传统文化的幼儿园课程建构
- 2022-2023年下学期南京玄武区名小四年级语文期中自我提优练习
- 【基于近些年数据的海天味业公司盈利能力分析案例(9000字论文)】
- 肝动脉化疗栓塞术(TACE)课件
- 南通市2022-2023学年七年级下学期英语期末模拟试卷(含答案解析)
- 统编版高中语文选择性必修下册第三单元文言文知识点检测练习题汇编(含答案)
- 2023年驻马店市事业单位统考真题及答案
- 2024年木材加工相关项目招商引资方案
- 2024年天津市初中生物会考试卷(含答案)
- 煤炭加工新型污染物排放控制技术
- 医疗器械安装调试方案
评论
0/150
提交评论