- Foxtable(狐表) (http://www.foxtable.com/bbs/index.asp)
-- 专家坐堂 (http://www.foxtable.com/bbs/list.asp?boardid=2)
---- [求助]同一记录在两次计算后出现小数位不一样的情况 (http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&id=15878)
-- 发布时间：2012/1/15 22:46:00
-- [求助]同一记录在两次计算后出现小数位不一样的情况
此主题相关图片如下：表达式小数问题.jpg
如上图所示，我的数据表中有两个表达式字段：总用料量，净用料量
总用料量=备案单耗 / (1 - 损耗率)*单款总重量
净用料量=备案单耗*单款总重量
我将这两字段都设为了高精度小数，但在界面上出现了两个不一样的值，是小数位的问题，请问如何解决。
谢谢
-- 发布时间：2012/1/16 7:48:00
--
如果是小数位的问题，请设置一下列属性
[此贴子已经被作者于2012-1-16 7:48:18编辑过]
-- 发布时间：2012/1/16 14:33:00
--
参考：
http://www.foxtable.com/help/topics/0108.htm
-- 发布时间：2012/1/17 9:13:00
--
以上两种方法试了还是不行，经过反复测试发现，小数点后五位正常，超过5位就不正常，有的记录会只取左五位。
是不是软件缺陷啊
-- 发布时间：2012/1/17 9:25:00
--
不是的，做个简单例子发上来吧。
-- 发布时间：2012/1/17 9:51:00
--
这是个计算精度问题。举个简单例子。你用计算器计算1除以3然后在乘以3就不会得1的。黄金只有四个9的精度。你是干什么行业的？计量仪器有那么高的精度吗？你的产品比黄金价值还高？
-- 发布时间：2012/1/17 9:58:00
--
我是帮你解决问题的，精度和小数位数都可以设置的。