Foxtable(狐表)用户栏目专家坐堂 → 关于数值例小数位 小小疑问


  共有10708人关注过本帖树形打印复制链接

主题:关于数值例小数位 小小疑问

帅哥哟,离线,有人找我吗?
卟离卟弃
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:五尾狐 帖子:1181 积分:8108 威望:0 精华:1 注册:2009/1/17 10:52:00
关于数值例小数位 小小疑问  发帖心情 Post By:2011/4/8 9:34:00 [只看该作者]


图片点击可在新窗口打开查看此主题相关图片如下:截图00.png
图片点击可在新窗口打开查看

 

AAAA列是表达式例,单精小数  公式 第二列*第三列   结果是 194984.3000(首先计算出来的是 194984.34,当设置列属性后,狐表自动省去了0.04)

 

我用EXCEL算出是 194984.34

 

小数位有差别,在财务对账中总是出现这样的问题,想知道oxTABLE在什么情况下把0.04去掉?

为什么没设置列属性前,0.04存在,而设置列属性后,0.04自动省去了?

 

 


 回到顶部
帅哥哟,离线,有人找我吗?
狐狸爸爸
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:47448 积分:251054 威望:0 精华:91 注册:2008/6/17 17:14:00
  发帖心情 Post By:2011/4/8 9:45:00 [只看该作者]

呵呵,你为啥用单精度,精度有限,自然就这样了。

用双精度小数就没有这个问题。

 

关于数据类型,请看一下:

 

http://help.foxtable.com/topics/0029.htm

 


 回到顶部
帅哥哟,离线,有人找我吗?
卟离卟弃
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:五尾狐 帖子:1181 积分:8108 威望:0 精华:1 注册:2009/1/17 10:52:00
  发帖心情 Post By:2011/4/8 9:49:00 [只看该作者]

考虑到存储空间问题,所以用了单精度

 


 回到顶部