有效数字及其运算规则.doc_第1页
有效数字及其运算规则.doc_第2页
有效数字及其运算规则.doc_第3页
有效数字及其运算规则.doc_第4页
全文预览已结束

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1.4 有效数字及其运算规则一、有效数字的一般概念1.有效数字任何一个物理量,其测量结果必然存在误差。因此,表示一个物理量测量结果的数字取值是有限的。我们把测量结果中可靠的几位数字,加上可疑的一位数字,统称为测量结果的有效数字。例如,2.78的有效数字是三位,2.7是可靠数字,尾位“8”是可疑数字。这一位数字虽然是可疑的,但它在一定程度上反映了客观实际,因此它也是有效的。2.确定测量结果有效数字的基本方法(1)仪器的正确测读仪器正确测读的原则是:读出有效数字中可靠数部分是由被测量的大小与所用仪器的最小分度来决定。可疑数字由介于两个最小分度之间的数值进行估读,估读取数一位(这一位是有误差的)。例如,用分度值为1mm的米尺测量一物体的长度,物体的一端正好与米尺零刻度线对齐,另一端如图1-1。此时物体长度的测量值应记为L=83.87cm。其中,83.8是可靠数,尾数“7”是可疑数,有效数字为四位。(2)对于标明误差的仪器,应根据仪器的误差来确定测量值中可疑数所以用该电压表测量时,其电压值只需读到小数点后第一位。如某测量值为12.3V,若读出:12.32V,则尾数“2”无意义,因为它前面一位“3”本身就是可疑数字。(3)测量结果的有效数字由误差确定。不论是直接测量还是间接测量,其结果的误差一般只取一位。测量结果有效数字的最后一位与误差所在的一位对齐。如L=(83.870.02)cm是正确的,而L=(83.8680.02)cm和L=(83.90.02)cm都是错误的。3.关于“0”的问题有效数字的位数与十进制的单位变换无关。末位“0”和数字中间的“0”均属于有效数字。如23. 20cm;10.2V等,其中出现的“0”都是有效数字。小数点前面出现的“0”和它之后紧接着的“0”都不是有效数字。如0.25cm或0.045kg中的“0”都不是有效数字,这两个数值都只有两位有效数字。4.数值表示的标准形式数值表示的标准形式是用10的方幂来表示其数量级。前面的数字是测得的有效数字,并只保留一位数在小数点的前面。如3.3105m 8.2510-3kg等。二、有效数字的运算规则在有效数字的运算过程中,为了不致因运算而引进误差或损失有效数字,影响测量结果的精确度,并尽可能地简化运算过程,因此,规定有效数字运算规则如下(例中加横线的数字代表可疑数字):1.有效数字的加减的必要。在上面两例中,我们按数值的大小对齐后相加或相减,并以其中可疑位数最靠前的为基准,先进行取舍,取齐诸数的可疑位数,然后加、减,则运算简便,结果相同。2.有效数字的乘除点后面是可疑数字,允许有所不同。从以上两例中可得如下结论:诸量相乘或相除,以有效数字最少的数为标准,将有效数字多的其它数字,删至与文相同,然后进行运算。最后结果中的有效数字位数与运算前诸量中有效数字位数最少的一个相同。3.有效数字的乘方和开方有效数字在乘方和开方时,运算结果的有效数字位数与其底的有效数字的位数相同。4.对数函数、指数函数和三角函数的有效数字对数函数运算后,结果中尾数的有效数字位数与真数有效数字位数相同。指数函数运算后,结果中有效数字的位数与指数小数点后的有效数字位数相同;三角函数的有效数字位数与角度有效数字的位数相同。三、有效数字尾数的舍入规则1.若舍去部分的数值小于所保留末位数的1/2,末位数不变例 2.7492.7。2.若舍去部分的数值大于所保留末位数的1/2,末位数加1例 32.55132.6。3.若舍去部分数

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论