数字修约（按有效位数）_第1页
数字修约（按有效位数）_第2页
数字修约（按有效位数）_第3页
数字修约（按有效位数）_第4页
全文预览已结束

付费下载

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

按有效位数的数字修约(符合GB/T8170)在excel中没有现成的函数，论坛中多次有人提到，下面2个就是典型：,,

还没解决的四舍六入的有效数字取舍的问题,,

恳请dongmu大师帮忙解决有效数字问题,,

下面介绍一种函数公式的编制方法：,,选择保留的有效位数

原数值,公式返回值,3

1.23456789012345E+000,1.23000000000000E+000,

2.37500000000000E-003,2.38000000000000E-003,

2.36500000010000E+000,2.37000000000000E+000,

2.36500000000000E+000,2.36000000000000E+000,

1.93534587100000E+001,1.94000000000000E+001,

1.93534587100000E+124,1.94000000000000E+124,

9.99999999999990E+000,1.00000000000000E+001,

0.00000000000000E+000,0.00000000000000E+000,

-9.99999999999990E+000,-1.00000000000000E+001,

-1.93534587100000E+124,-1.94000000000000E+124,

-1.93534587100000E+001,-1.94000000000000E+001,

-2.36500000000000E+000,-2.36000000000000E+000,

-2.36500000010000E+000,-2.37000000000000E+000,

-2.37500000000000E-003,-2.38000000000000E-003,

-1.23456789012345E+000,-1.23000000000000E+000,

"公式的核心部分TEXT(ABS(A7),""0.00000000000000E+000"")为将数值转换为标准的科学记数字符串，",,

因为excel中最多显示15位的有效数，所以由一个1至10之间的15位小数和用E表示的指数部分组成足够了。,,

然后公式按C6格指定的有效位数按数值修约规则在这个字符串的小数部分中判别指定位置的数是否满足,,

“3.3拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数字为奇数（1，3，5，7，9）,,

则进一，为偶数（2，4，6，8，0）则舍弃。”,,

如果满足了这一条件就用ROUNDDOWN函数对这个小数向下修约，否则按ROUND普通规则修约。,,

"尾部的&RIGHT(TEXT(ABS(A7),""0.00000000000000E+000""),5)部分是将修约后的小数后连上指数部分",,

成为一个新的科学记数字符串，再乘以公式开头的符号数SIGN(A8)就成了修约后的数值。,,

公式中用AB

人人文库> 全部分类> 专业文献 > 金融证券

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论