Foxtable(狐表)用户栏目专家坐堂 → [求助]同一记录在两次计算后出现小数位不一样的情况


  共有11328人关注过本帖树形打印复制链接

主题:[求助]同一记录在两次计算后出现小数位不一样的情况

帅哥哟,离线,有人找我吗?
singkwok
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:3 积分:104 威望:0 精华:0 注册:2012/1/15 22:30:00
[求助]同一记录在两次计算后出现小数位不一样的情况  发帖心情 Post By:2012/1/15 22:46:00 [显示全部帖子]


图片点击可在新窗口打开查看此主题相关图片如下:表达式小数问题.jpg
图片点击可在新窗口打开查看
如上图所示,我的数据表中有两个表达式字段:总用料量,净用料量

总用料量=备案单耗 / (1 - 损耗率)*单款总重量

净用料量=备案单耗*单款总重量

我将这两字段都设为了高精度小数,但在界面上出现了两个不一样的值,是小数位的问题,请问如何解决。

 

谢谢


 回到顶部
帅哥哟,离线,有人找我吗?
singkwok
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:3 积分:104 威望:0 精华:0 注册:2012/1/15 22:30:00
  发帖心情 Post By:2012/1/17 9:13:00 [显示全部帖子]

以上两种方法试了还是不行,经过反复测试发现,小数点后五位正常,超过5位就不正常,有的记录会只取左五位。

是不是软件缺陷啊


 回到顶部