有效数字及运算法则.ppt

1、有效的数字和算法定义了在测量结果的数字表示中，在多个可靠的数字上加上可疑的数字构成有效的数字。 上述示例中的测量结果均为三位有效数字、1、有效数字的一般概念、2、确定有效数字位数、1.0”的有效问题，在“0”位于数字中间或末尾时有效，例如、等，注意：数字末尾可以随意加上“0”或“0” 数学上：物理上：小数点前面的“0”和小数点后面的“0”不是有效数字。 例： 0.0123dm，注意：进行单位换算时，有效数字位数不变。 2 .数值科学记数法，如果数据过大或过小，可以使用科学公式。 有的电阻值为20000 )，保留3位有效数字时为2.00104，另外数据为0.0000325m，采用科学记数法为3.

2、2510-5m，3 .有效数字与机器的关系，有效数字位数为值本身的大小，机器的正确度，测定20的螺旋螺旋测微器L=2.5153cm位有效数字米尺L=2.52cm位有效数字)，4 .取不确定度的表现、有效数字，当确定n的有效位、5 .相对误差的表现、2位有效数的物体的长度在24到25之间时，读取值为24.*，当读取值正好在24时，读取值为24.0，被测定物，3 直接测量有效数字决定如何读取，(1)用米测量长度，例如，(2)0.1级范围为100mA电流指针在82mA和83mA之间： 82.* mA，指针正好在82mA以上： 82.0mA，0.1级表的情况：修正=100mA1.0%=1mA 指针为8

3、2mA 62.51.234=63.7、62.51.234、63.734、结果为63.7、例2、63。 求解： (1)n的不确定度，根据(2)、(3)误差(推定误差范围的不确定度)决定结果的有效数字，对例4、3.216.5=21、3.21.5、1605、解：(2)不确定度进行修正，对(1)n先进行修正，根据(3)误差(不确定度)决定有效数字，结果的有效数字例如：错误、正确、运算规则：1002=100102、100=10.0、49=7.0、49=7、4.02=等lg 1983=3.29732714 3.2973、(2)指数函数、10 x或ex的位数与x小数点之后的位数相同(小数点) 1 .加减运算

4、、2 .乘法运算、3 .乘法和开方、4 .函数运算、5 .自然数和常数、自然数不是测定值，由于没有误差，所以有效数字是无限二进制位。 常数、e等位数可以与参加运算的量中有效位数最少的位数相同，或者多取一位。的双曲馀弦值。 如果D=2R，则2不是有效数字，而是无限二进制位。 在示例9中，如果L=2R，则R=2.3510-2m必须取3.14 (或3.142 )，即l=23.1422.3510。 50.002.0、1001.00、=、1.0102、100、=1.0、10.02lg100.0、27.321127.31、35、=、100.0000、0.01 171.0、(2) lg10.00=、1.00

5、00、(3) 789.30 50 log1000=_公式的前项、4、100.00、3.0000、1、0.1102，其中，0.01的100.00的有效数字是_二进制位。 的有效数字为_二进制位。 4，4，4，如果直接测量某个数，正确的是，() a .有效数字的位数由使用的量测仪器决定，b .有效数字的位数由测量的大小决定。c .有效数字的位数由使用的量测仪器和测量的大小决定。 c，c，修正以下错误记数法： (1) l=2. 0千米，l=(2. 00.1 )千米，(2)m=() 32.48 43.25 32.5 32.500。 (2)以色度值0.02的游标卡尺测定物体长度： 45.22的52.78 64.05 84 73.464。 (3)用分度值为0.01的螺旋螺旋测微器校正测量物体长度：0.50的0.5 0.500； 0.324。 (4)在100 mA的量程、刻有100个单元的0.1级表中测量电流，指针指向80个单元，在100V的量程、以50个单元