有效数字取舍与运算规则ppt课件_第1页
有效数字取舍与运算规则ppt课件_第2页
有效数字取舍与运算规则ppt课件_第3页
有效数字取舍与运算规则ppt课件_第4页
有效数字取舍与运算规则ppt课件_第5页
全文预览已结束

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、有效数字记录与运算规则,所谓有效数字:具体地说,是指在分析工作中实际能够测量到的数字。 所谓能够测量到的是包括最后一位估计的,不确定的数字。 我们把通过直读获得的准确数字叫做可靠数字; 把通过估读得到的那部分数字叫做存疑数字. 把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字,测量结果都是包含误差的近似数据,在其记录、计算时应以测量可能达到的精度为依据来确定数据的位数和取位,测量长度为5.16 cm 前2位数字是准确的,最后一位为估计值,1、有效数字中只应保留一位欠准数字,因此在记录测量数据时,只有最后一位有效数字是欠准数字。 2、在欠准数字中,要特别注意0的情况。0在非零

2、数字之间与末尾时均为有效数;在小数点前或小数点后均不为有效数字。如0.078和0.78与小数点无关,均为两位。506与220均为三位。 3、等常数,具有无限位数的有效数字,在运算时可根据需要取适当的位数,1)实验中的数字与数学上的数字是不一样的.如 数学的 8.35=8.350=8.3500 , 而实验的 8.358.3508.3500. (2)有效数字的位数与被测物的大小和测量仪器的精密度有关.如普通直尺测得物体的长度有效数字为3位,若改用千分尺来测,其有效数字的位数有五位. (3)第一个非零数字前的零不是有效数字. (4)第一个非零数字以及之后的所有数字(包括零)都是有效数字. (5)单位

3、的变换不应改变有效数字的位数,四舍六入五留双规则的具体方法,当尾数小于或等于4时,直接将尾数舍去 例如将下列数字全部修约到两位小数,结果为: 10.273110.27 18.504918.50 16.400516.40 27.182927.18 当尾数大于或等于6时将尾数舍去向前一位进位 例如将下列数字全部修约到两位小数,结果为: 16.777716.78 10.2950110.30 21.019121.02 (三)当尾数为5,而尾数后面的数字均为0时,应看尾数“5”的前一位:若前一位数字此时为奇数,就应向前进一位;若前一位数字此时为偶数,则应将尾数舍去。数字“0”在此时应被视为偶数。 例如将

4、下列数字全部修约到两位小数,结果为: 12.645012.64 18.275018.28 12.735012.74 21.84500021.84,四舍六入五留双规则的具体方法,四)当尾数为5,而尾数“5”的后面还有任何不是0的数字时,无论前一位在此时为奇数还是偶数,也无论“5”后面不为0的数字在哪一位上,都应向前进一位。 例如将下列数字全部修约到两位小数,结果为: 12.7350712.74 21.8450221.85 12.6450112.65 18.2750918.28 38.30500000138.31 按照四舍六入五留双规则进行数字修约时,也应像四舍五入规则那样,一次性修约到指定的位数

5、,不可以进行数次修约,否则得到的结果也有可能是错误的。例如将数字10.2749945001修约到两位小数时,应一步到位:10.274994500110.27(正确)。如果按照四舍六入五留双规则分步修约将得到错误结果:10.274994500110.27499510.27510.28(错误,由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同。1. 加减法先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。例:计算50.1+1.45+0.5812=?修约为:50.1+1.4+0.6=52.1先修约,结果相同而计算简捷。例:计算 12.43+5.765+132.812=?修约为:12.43+5.76+132.81=151.00注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字,有效数字运算规则,2. 乘除法先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。例:计算0.012125.641.05782=?修约为:0.012125.61.06=?计算后结果为:0.3283456,结果仍保留为三位有效数字。记录为:0.012125.61.06=0.328注意:用计算器计算结果后,要按照运算规则对结果进行修约例:计算2.5046

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论