Foxtable(狐表)用户栏目专家坐堂 → 为什么四舍五入会保留小数错误呢?


  共有2269人关注过本帖树形打印复制链接

主题:为什么四舍五入会保留小数错误呢?

美女呀,离线,留言给我吧!
布鲁布鲁
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
为什么四舍五入会保留小数错误呢?  发帖心情 Post By:2021/9/24 21:09:00 [显示全部帖子]

我想利用工程量*综合单价=合价,保留四舍五入计算
但是我计算“挖一般土方”时,实际上应该是38605.02*77.35=2986099.07
但是软件里利用表达式计算出来是2986099,请问为什么会差了七分钱呢?
图片点击可在新窗口打开查看此主题相关图片如下:微信图片_20210924210350.png
图片点击可在新窗口打开查看

 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/24 23:11:00 [显示全部帖子]

同理这个数据一样的:231.22*576.25=133240.53 结果是133240.52元
请问我的问题出在哪了?
图片点击可在新窗口打开查看此主题相关图片如下:微信图片_20210924230940.png
图片点击可在新窗口打开查看

 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/25 9:15:00 [显示全部帖子]

Convert([合同内清单_工程量] * [合同内清单_综合单价] * 100+0.01, 'System.Int64') / 100

刚才在论坛里找了以往的帖子,发现加上0.01就把问题解决了

 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/25 14:00:00 [显示全部帖子]

这个问题好像还是没有完美解决
我用的公式是:Convert([合同内清单_工程量] * [合同内清单_综合单价] * 100+0.01, 'System.Int64') / 100
但是还是会计算错误
正确的结果应该是:4044524.96*0.0018=7280.1449,四舍五入应该为7280.14

差了一分钱,没有做平 ,心里好难受啊 
图片点击可在新窗口打开查看此主题相关图片如下:微信图片_20210925135716.png
图片点击可在新窗口打开查看

 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/25 14:28:00 [显示全部帖子]

麻烦蓝版帮我看看 目前这个公式只有这一个数差一分钱
 下载信息  [文件大小:   下载次数: ]
图片点击可在新窗口打开查看点击浏览该文件:计量支付台账.zip


 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/25 14:58:00 [显示全部帖子]

这个公式是通用吗?还是只针对这一列呢?

 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  7楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/25 15:42:00 [显示全部帖子]

好 谢谢蓝版

 回到顶部