有效数字修约和运算规则的再思考.doc_第1页
有效数字修约和运算规则的再思考.doc_第2页
有效数字修约和运算规则的再思考.doc_第3页
有效数字修约和运算规则的再思考.doc_第4页
有效数字修约和运算规则的再思考.doc_第5页
已阅读5页,还剩2页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

有效数字修约和运算法则的再思考吕荣禛(华南理工大学化学与化工学院,广州五山,510640)摘要:本文对经常遇到的数据记录和处理中的有效数字问题进行了有意义的探讨。针对当前普遍采用的“四舍六入五成双”修约规则,提出了用“四舍五入恰五成双”新名称来表达更为合理和便于记忆的观点。在对数和三角函数的运算中,建议根据误差理论来判定有效数字的位数,而不是按照现流行教科书的观点认为氢离子浓度的有效数字与其pH值的有效数字位数一定相等。然后讨论了先修约后计算和先计算最后修约对最终计算结果的影响。在计算机/计算器普及的今天,本文提倡先计算最后修约,这样不仅简化了许多繁琐的修约步骤,而且也可以保证数据的准确性,并且极大地提高了工作效率。关键词:有效数字;四舍五入恰五成双;修约规则;运算规则在科学与工程的研究过程中常常要涉及记录大量的原始数据以及进行数据处理和运算。这些数据的准确性关系到整个实验的精度。正确的进行有效数字的记录取舍和运算是每个科学工作者必须要具备的基本能力。用来表示量的多少,同时反映测量准确度的各数字称为有效数字。实验中在记录和计算时应以测量可能达到的精度为依据来确定有效数字的位数和取舍。一般而言,在记录测量值时必须记录全部准确数字和一位不确定数字且只能记录一位不确定数字(可疑数字或估读数字)1,2。如在最小刻度-作者简介:吕荣禛,1987年生,女,研究生,主要从事自组装单分子膜诱导晶体生长方面的研究值为0.1 mL的滴定管中读得数据3.87 mL,3和8是准确数字,而7是可疑数字。数字7虽不是准确数值却也客观反映物理量的大小,必须保留。这样3.87 mL的有效数字位数就为3位。只要涉及到测量及与测量有关的计算都会涉及到有效数字的取舍问题。现在,直接使用第一手测量数据的机会较少3,大部分的数据都是要经过计算来提交最终的计算结果。因此,在计算过程中有效数字的取舍就显得尤为重要。一 修约规则名称问题“四舍五入法”是我们过去所熟悉的修约规则。它深深地印在我们的脑海里,只要一遇到有效数字计算的问题,马上就会想到“四舍五入法”。可是,在工程技术和科学实验中,经常要对大量的数据进行统计分析。如果仍用“四舍五入法”,就不够精确4。我国在新的关于数值修约的国标GB/T 8170-2008 中就说明了新的取舍规则:拟舍去数字最左一位小于5时则舍去,保留其余数字不变;拟舍去数字最左一位大于5时则进一;拟舍去数字最左一位为5时,其后有非0数字时进一;拟舍去数字最左一位为5,其后没有数字或者数字均为0时,其所保留的末位数字为奇数时则进一,为偶数时则舍去5。这个被称为“四舍六入五成双”的修约规则。从国标GB/T 8170-2008的介绍上看,新的修约规则看上去非常复杂,有很多种不同的条件,容易让人困惑。但是实际上与原来的“四舍五入”的规则差别并不大,只是在“恰5”(exactly one-half a unit)这个数字点上做了更为细致的划分。 图1 “四舍五入”与“四舍六入五成双”从图1看,新旧规则都将小于5的数字做了舍去处理(小于五舍去)和将大于5的数字做了进位处理(大于五进入),如1.465001保留3位有效数字时必须修约为1.47。本文将“拟舍去数字最左一位为5,其后没有数字或者数字均为0的数字”称为恰5数字,“恰五”对应图1中数轴上一个点。对恰5数字的不同处理是新旧规则的差别所在。如果将所有恰5数字进位,就成了“四舍五入”规则。而“四舍六入五成双”的修约规则将“恰5”的情况分成两种:恰5前面的数字为偶数则舍去5,恰5前面的数字为奇数则进一。例如,1.465000保留3位有效数字则舍“恰5”修约为1.46,1.475000保留3位有效数字则进“一”修约为1.48。从统计学的角度来说,“四舍六入五成双”的修约规则更科学6。传统的“四舍五入法”逢恰5就进一,会使得计算结果偏大。而根据现行的修约规则,恰5数字有进有舍,使得修约结果更加接近真实值。这样的修改是科学合理的,但是“四舍六入五成双”的名称却容易使人误解,如容易将1.465001修约为1.46。我们认为如果用“四舍五入恰五成双”表达新规则则将更合理。恰5成双,非恰5数字时采用四舍五入的规则。这样直接通过“四舍五入恰五成双”的名称就可以清楚的知道这个修约规则适用的条件,达到望文生意,便于记忆。对于“四舍六入五成双”这个规则,乔成立等7认为对于恰5数字情况使用奇进偶舍的方法还是不够科学。他们提出:有偶数个“恰五”这样的数据,就舍和进各占一半,这样关于舍和进产生的误差可相互抵消;如果有奇数个“恰5”数据,就按奇数少一个的偶数个数舍或进各半。但是在实际的测量和运算过程中,即使同为“恰5”数字,它们对整体的贡献也往往存在差别,简单地通过数学均分来考虑进或舍的情况不能解决准确性的问题。 二 对数和三角函数的有效数字位数问题取对数的运算中,只有尾数的部分代表有效数字,首数只代表该数的多少次方8。一般教科书上讲,因为氢离子浓度为两位有效数字,其pH值也为两位数字。例如,H+=5.210-11,有效数字的位数是2位(数字5和2),则其对数运算pH= -lgH+ = 10.28399,按照有效数字两位要求,故正确表达为:pH= -lgH+ = 10.28,10为首数,数字2和8为有效数字。对数运算经常出现在分析化学的有关计算之中。类似地,对三角函数进行计算的时候,通常根据待测量角度的有效数字位数来确定计算出来的数值需保留的有效数字位数9。例如sin 38.25 求得的数值应保留4位有效数字为0.6191。在实验过程中,测试用的仪器都会注明测量的误差,如:pH计的基本误差0.02 pH,测量角度用的游标角度尺的角度测量精度为0.5,温度计测量时为0.1 0C10。对于实际测量,例如不同测量精度38.50.5或38.50.1,套用上面的修约规则就会得到sin38.50 = 0.623,这反映不出不同测量精度带来的影响和变化。我们建议根据误差传递的规律来决定相关有效数字的位数。对于对数,如果y = lgx,则Dy = 0.434y+Dy = lgx+0.434如果H+=5.210-11,并且可疑数字2有1个单位的误差既Dx = 0.110-11,则pH+DpH = 10.283990.434 = 10.283990.00835。0.00835中的8已经是可疑数字。根据有效数字中只允许有一位可疑数字的约定,因此有效数字位数为3(8在小数点后第3位),因此pH = 10.283990.00835 = 10.2840.008。类似地,如果H+=5.210-11,并且可疑数字2有2个单位的误差, 则pH = 10.283990.0167 = 10.280.02,则得到的有效数字位数为2。利用万用量角器测量得到的角度数据为56.70.5,我们在进行三角函数计算的时候应该考虑0.5对有效数字位数的影响。假设y = sinx, 则y+Dy = sinx+cosxDx, 注意Dx一定用弧度表示, Dx =2pDz/360,Dz为角度表示值。对于Dz = 0.5,y+Dy = 0.835810.54900.008727=0.835810.00479=0.8360.005, 有效数字为3位。三 修约与计算的顺序问题在进行科学实验的数据记录数据处理和计算过程中,最重要的就是要保证实验数据的准确性和可靠性。在实际中,最终需要使用的数据往往不是最初记录的原始数据,而是经过复杂的一系列计算之后得到的结果。在计算的过程中,我们就会遇到不同精度的数据,也就是不同有效数字位数的数据,例如:0.5678,3.32。有效数字包括了仪器能准确测得的所有数字,以及末位的可疑数字。以前,在进行比较复杂的计算时,提倡的都是先修约后计算。因为保留过多的数字位数使手工计算非常繁杂。先修约可以使计算简化,同时也不因舍掉任何不重要的数字而使准确度受损。但是在实际的运算前,修约的过程中就会遇到很多的问题。修约有很多的补充规定,如:当有效数字位数最少的那个数值首位是8或者9的时候,有效数字可多算一位等等。这增加了记忆的负担,也增加了修约的复杂性,容易在某一步的修约中出错,进而影响最后的计算结果,并且很难察觉。在计算机/计算器不普及的时代,使用先修约后计算的方法,可以很大程度的减少我们计算的强度,特别是遇到比较复杂的函数运算时,修约后的数字位数较少,可以大大提高我们的计算速度。但是在现代社会,计算任务都由计算机完成。对于计算机来说,复杂的函数运算或几十位数的计算也不是问题11。反过来,修约问题成为妨碍数据处理速度的瓶颈,而且这样的修约还有可能会降低数据的精确度。本文提倡应该先计算最后修约的新规则。下面通过两个例子来说明先计算最后修约是更加有效的。先修约后计算 =0.1283也可以采用另外一种计算的顺序:=0.1282这两种计算的过程都是合理的,但是根据先修约后计算规则得到的最后结果分别为:0.1283和0.1282。这就说明在比较复杂的运算中,先修约后计算有一定的局限性12。这样不同的人在计算时就算是使用了正确的修约方法,但经过先修约后计算出来的结果也有可能不一致。解决这一问题的办法之一就是调整修约与计算的顺序,在复杂的计算中,应该使用先计算最后修约的方法,因为中间没有取舍过程,最后的计算结果是唯一的。最后根据数据的精度要求,对最终的数据进行一次修约到位。例如上题,先进行计算得到的结果是0.12837114306,再根据整个计算中参与的数字的有效数字位数来判断结果的有效数字是4位,对最终结果进行修约,得到0.1284。这样既省去了在计算过程中不断修约的麻烦,也可以提供统一并精确的计算结果。实例 称取苯酚试样0.5015 g,用NaOH溶液溶解后,用水准确稀释至250.0 mL,移取25 mL试液于碘量瓶中,加入KBrO3-KBr标准溶液25.00 mL及HCl,使苯酚溴化为三溴苯酚。加入KI溶液,使未反应的Br2还原并析出定量I2,然后用0.1012 mol/L Na2S2O3标准溶液滴定,用去15.05 mL。另取25.00 mL KBrO3-KBr标准溶液,加入HCl及KI溶液,析出的I2用0.1012 mol/L Na2S2O3标准溶液滴定,用去40.20 mL。计算试样中苯酚的质量分数。通过先修约后计算可以得到13:苯酚的质量分数w%= 79.70%。如果使用先计算后修约的方法则直接计算得到w%=79.698441 %,保留4位有效数字,得到w%=79.70 %。先修约后计算, 计算中间涉及许多修约过程, 繁琐,容易出现错误。而先计算最后修约,借助计算机则可以使过程大大简化,即不影响实验结果的精确度,也提升了工作效率,还避免了多次修约时可能出现的错误。因此先计算最后修约是计算机时代值得提倡的运算顺序。总结本文建议用“四舍五入恰五成双“的名称取代“四舍六入五成双”,新名称能够更好地帮助科学工作者理解记忆修约规则。对对数运算和三角函数运算中有效数字的位数如何确定给出了理论推导,并与现教科书的确定方法做出了比较。最后对“先修约后计算”的规则提出了不同看法,作者认为大量的修约步骤影响工作效率,容易出错误,也不提供更可靠的计算结果。在计算机/计算器普及的今天,采取先计算最后一次修约的方法既可以保证计算的精度,也提高了工作效率。因此,先计算最后修约的规则应该得到倡导和推广。参考文献1 邹翔. 科技信息,2008(5):1712 吴静香. 有效数字及其修约. 建材地质,1992(1):27-293 张莲英,富珏. 数值的修约和有效数字的计算.中国卫生检验杂志,2003,13(4):5194 孙川. 数字修约“四舍五入规则”的舍入误差. 计量与测试技术,2001(2):385 GB-T 8170-2008,中华人民共和国标准 数值修约规则与极限数值的表示和判定6 徐维龙. 有效数字和数字修约. 海洋技术,1986(04):89-927 乔成立,李军,李文新. 对“四舍六入五成双”数字修约规则的修正. 牡丹江师范学院学报(自然科学版),2002(1):56-578 化学教育编辑部. 有效数字的运算及修约规则. 化学教育,2010(6)9 汤大

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论