有效数字及运算法则

1、定义：在测量结果的数字表示定义：在测量结果的数字表示中，由若干位可靠数字加一位中，由若干位可靠数字加一位可疑数字，便组成了有效数字可疑数字，便组成了有效数字. .仪器上显示的数字匀为有效数仪器上显示的数字匀为有效数字。字。1.1.关于关于“0 0”的有效问题的有效问题. .当当“0 0”在数字中间或末尾时有在数字中间或末尾时有效效如：如：cm.041225020m.A.0001、等中的等中的0均有效。均有效。注意注意：不能在数字的末尾随便加不能在数字的末尾随便加“0 0”或减或减“0 0”8500. 2850. 285. 2数学上：数学上：物理上：物理上：8500. 2850. 285. 21

2、.1.关于关于“0 0”的有效问题的有效问题. .小数点前面的小数点前面的“0 0”和紧接小和紧接小数点后面的数点后面的“0 0”不算作有效数不算作有效数字字如：如：0.0123dm、0.123cm、0.00123m均是均是3位有效数字。位有效数字。注意：注意：进行单位换算时，进行单位换算时，有效数字的位数不变。有效数字的位数不变。2.2.数值的科学记数法数值的科学记数法数据过大或过小时，可以数据过大或过小时，可以用科学表达式用科学表达式。某电阻值为某电阻值为2000020000（欧姆），保留三位（欧姆），保留三位有效数字时写成有效数字时写成 2.002.00 10104 4 又如数据为又如数

3、据为0.0000325m0.0000325m，使用科学记，使用科学记数法写成数法写成3.253.25 1010-5-5m m3.3.有效数字与仪器的关系有效数字与仪器的关系有效数字的位数有效数字的位数 反应了反应了 测量值本身的测量值本身的大小、仪器的准确度大小、仪器的准确度 2020分度游标卡尺分度游标卡尺 L=2.525cmL=2.525cm （四位有效数字）（四位有效数字） 螺旋测微计螺旋测微计 L=2.5153cmL=2.5153cm （五位有效数字）（五位有效数字）米尺米尺 L=2.52cm L=2.52cm （三位有效数字）（三位有效数字）读数的一般规则：读至仪器误差所在读数的一般

4、规则：读至仪器误差所在 的位置的位置（1 1）用米尺测长度）用米尺测长度（2 2）用）用0.10.1级量程为级量程为100mA100mA电流表测电流电流表测电流当物体长度在当物体长度在2424与与2525之间时，之间时， 读数为读数为24.24.* *当读数正好为当读数正好为2424时读数为时读数为24.024.0被测物体仪仪= 100mA= 100mA0.1% = 0.1mA0.1% = 0.1mA指针在指针在82mA82mA与与83mA83mA之间：读为之间：读为82.82.* * mA mA指针正好在指针正好在82mA82mA上：读为上：读为82.0mA82.0mA对于对于0.1级表：级

5、表：1.1.加减法加减法加减法运算后的有效数字，取到参与运算各加减法运算后的有效数字，取到参与运算各数中数中 最靠前出现可疑数的那一位。最靠前出现可疑数的那一位。运算规则：运算规则：例例 162 . 5 + 1. 234 = 63 . 762.5+1.23463.734结果为结果为 63.7例例 219.68 - 5.848 = 13.83 19.68- 5.848 13.832结果为结果为 13.832.2.乘除法乘除法运算规则运算规则:乘除运算后结果的有效数乘除运算后结果的有效数字一般以参与运算各数中字一般以参与运算各数中有效数字位数最少的为准。有效数字位数最少的为准。例例 33.21 6

6、.5 = 21 3.21 6.51605结果为结果为 21192620.865 例例421 21.843=0.96_结果为结果为 0.96_210000218431965879610.13105813413030720218438877如：如：错误错误正确正确1002=100 102100=10.049 = 7.049 = 74.02=164.02=16.03.3.乘方与开方乘方与开方运算规则运算规则：结果的有效数字与其底或被开结果的有效数字与其底或被开方数的有效数字位数相同。方数的有效数字位数相同。(1)对数函数对数函数lgxlgx的尾数与的尾数与x x的位数相同的位数相同例例5lg 100

7、 = 2.000 lg 1.983 = 0.297322714 0.2973lg 1983 = 3.29722714 3.29734.4.函数运函数运算算 (2)(2)指数函数指数函数1010 x x或或e ex x的位数和的位数和x x小数点后的小数点后的位数相同（包括紧接小数点后位数相同（包括紧接小数点后面的面的0 0）例例 6106.25=1778279.41 1.8 106100.0035=1.00809611.008首先用传递公式计算首先用传递公式计算 cosx 的不确定度的不确定度x=20018 x=1 0.0003 弧度弧度 求求 cos x 的有效数字的有效数字（3 3）三角函

8、数）三角函数解：解：误差位在小数点后第四位误差位在小数点后第四位而而cos20o18=0.937889.根据不确定度根据不确定度: cos20o18=0.9379例例 7 cosx= |sinx| x = sin(20018) 0.0003 = 0.0001自然数不是测量值，不存在误差，故有效数字是自然数不是测量值，不存在误差，故有效数字是无穷位。无穷位。 常数常数 、e e等的位数可与参加运算的量中有效数字等的位数可与参加运算的量中有效数字位数最少的位数相同位数最少的位数相同 或多取一位或多取一位。如在如在D=2RD=2R中，中，2 2不是一位有效数字，而是无穷位不是一位有效数字，而是无穷位例例 8L=2 R 其中其中R=2.35 10-2m 就应取就应取3.14(或或3.142)即即L=2 3.142 2.35 10-2=0.148(m)5.5.自然数与常量自然数与常量综合运算举例综合运算举例 50.00 ( 18.30 16.3 ) ( 103 3.0 ) ( 1.00 + 0.001 )= 50.00 2.0 100 1.00= 1.0 102 100 = 1.0 10.02 lg100.