有效数字及数字运算规则_第1页
有效数字及数字运算规则_第2页
有效数字及数字运算规则_第3页
有效数字及数字运算规则_第4页
有效数字及数字运算规则_第5页
已阅读5页,还剩10页未读 继续免费阅读

付费下载

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

4有效数字及数值修约规则

供用电技术专业国家级教学资源库4.1有效数字的概念及有效位数的确定

4.1.1近似数我们日常接触的数据有准确数和近似数之分。作为准确数的例子有:“这里有5只杯子”中的“5”;“三角形的内角和为180度”中的“180”;“1Wh=3600J”中的“3600”。这些数之所以是准确数是因为有些是确实存在的,有些是理论或定义中的数。近似数是由可靠数和不可靠数(一般取1位)两部分组成的。作为近似数的例子有:所有测得值和测量结果;经过修约后的数值;经测定得到的物理常数;π、等截取到一定位数时。

任何数据总是有若干位数字,所取数字位数除与所表示的量值大小有关外,还与数据的不确定度有关。正确地确定数据的位数对简化数据的表达与运算,以及正确反映量值而不损失准确度等方面有着重要意义。记录数据时,数据位数要适当。位数太少会增大数据的误差,而太多又会对数据的准确度产生误解。这一点我们在检定或测量时应特别注意。在绝缘电阻表检定数据记录中常出现数值位数记多或记少的不规范现象。4.1.2有效数字有效数字是对近似数而言的,其定义在一些诸如《误差理论与数据处理》和《计量学概论》等资料中有时会看到不同的说法。例如:①如果近似数Z的误差限是某一位上的半个单位,则从这一位起直到Z的第一个非零数字均为有效数字。②如果计量结果L的极限误差不大于某一位上的半个单位,我们就说该位就是有效数字的末位,并且如果该位到L的左起第一个非零数字一共有几位,就说L有几位有效数字。③若数据的最末一位有半个单位以内的误差,而其它数据都是准确的,则各位数字都是“有效数字”。

这些定义说法虽然不同,但表达的意思是相同的,即都提到了误差或极限误差,且其数值不大于某一位上的半个单位,该数位为最小的有效数位,左起第一个非零数字为最大的有效数位。在JJF1059.1—2012《测量不确定度评定与表示》(以下简称JJF1059.1)中规定:通常合成标准不确定度uc(y)和扩展不确定度U最多为2位有效数字。输入和输出的估计值,应修约到与它们不确定度的位数一致。这样,当不确定度取2位有效数字时经修约的输入或输出估计值的数值后两位都是不可靠的,这两位都应当是有效数字。在这里我们暂不去探讨关于有效数字的严格定义。而重点掌握有效位数的确定。4.1.3有效位数(1)对于有小数点的数,和以非0结尾的整数,从左边第一个非零数字起到最右边的所有数字都是有效数字。对于有小数点的数,第一个非零数字前面的0不是有效数字,但数据末尾的0是有效数字。如:1234,0.00123,0.04000

(2)对于以若干个0结尾的整数,其末尾的0是否为有效数字比较难确定,有的0可能是有效数字,有的0却只是为了补位用的,为了强调有效数字的位数,最好将其用科学计数法表示或采用合适的词头放大或缩小单位。

如:12000m若有2位有效数字,则写成1.2×104m或12km,若有3位有效数字,则写成1.20×104m或12.0km。

误差和不确定度的有效数字一般取1~2位。其所取位数与修约间隔可按表4-1进行。对于一般数据,应按有效数字取舍数据的位数,也就是根据数据的误差限来取舍数据的位数。对于给出不确定度的数据,其保留数位应与其不确定度相一致。4.2数字运算规则4.2.1常数运算参加运算的常数如π、e及其它无误差的数值,其有效位数可认为是无限的,在计算中需要几位取几位。常数的取值不影响有效位数。

4.2.2加减运算在加减运算中只保留各数共有的小数位数。先找出小数位数最少的值,然后将其它的值按比最少的小数位多一位进行修约,再运算,结果按小数位最少的位修约。例:12.5+3.26+0.165先将0.165修约为0.16,则12.5+3.26+0.165=12.5+3.26+0.16=15.92=15.9

4.2.3乘除运算在乘除运算中,先找出有效位数最少的值,将其它值按多一位有效位数进行修约,然后运算,最后按有效位数最少的值的位数修约。例:0.12×11.3×15.24先将15.24修约为15.2,则0.12×11.3×15.24=0.12×11.3×15.2=20.61=214.2.4乘方与开方运算数据经乘方与开方运算,所得结果的有效数字位数不大于该数据的位数。一般取相同的位数。4.2.5对数运算运算结果应与真数的位数相同。例:lg32.8=1.51587…=1.52

4.2.6三角运算三角运算的有效位数按表4-2:4.2.7计

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论