Foxtable(狐表)用户栏目专家坐堂 → 为什么四舍五入会保留小数错误呢?


  共有2174人关注过本帖树形打印复制链接

主题:为什么四舍五入会保留小数错误呢?

美女呀,离线,留言给我吧!
布鲁布鲁
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
为什么四舍五入会保留小数错误呢?  发帖心情 Post By:2021/9/24 21:09:00 [只看该作者]

我想利用工程量*综合单价=合价,保留四舍五入计算
但是我计算“挖一般土方”时,实际上应该是38605.02*77.35=2986099.07
但是软件里利用表达式计算出来是2986099,请问为什么会差了七分钱呢?
图片点击可在新窗口打开查看此主题相关图片如下:微信图片_20210924210350.png
图片点击可在新窗口打开查看

 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/24 23:11:00 [只看该作者]

同理这个数据一样的:231.22*576.25=133240.53 结果是133240.52元
请问我的问题出在哪了?
图片点击可在新窗口打开查看此主题相关图片如下:微信图片_20210924230940.png
图片点击可在新窗口打开查看

 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:105473 积分:536350 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2021/9/25 8:54:00 [只看该作者]

怎么做的四舍五入?

把这3个列都改为高精度列

 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/25 9:15:00 [只看该作者]

Convert([合同内清单_工程量] * [合同内清单_综合单价] * 100+0.01, 'System.Int64') / 100

刚才在论坛里找了以往的帖子,发现加上0.01就把问题解决了

 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/25 14:00:00 [只看该作者]

这个问题好像还是没有完美解决
我用的公式是:Convert([合同内清单_工程量] * [合同内清单_综合单价] * 100+0.01, 'System.Int64') / 100
但是还是会计算错误
正确的结果应该是:4044524.96*0.0018=7280.1449,四舍五入应该为7280.14

差了一分钱,没有做平 ,心里好难受啊 
图片点击可在新窗口打开查看此主题相关图片如下:微信图片_20210925135716.png
图片点击可在新窗口打开查看

 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:105473 积分:536350 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2021/9/25 14:20:00 [只看该作者]

上传实例看看,我测试没有问题
[此贴子已经被作者于2021/9/25 14:25:18编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  7楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:105473 积分:536350 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2021/9/25 14:27:00 [只看该作者]

合同内清单_工程量可能还有其它小数值,只是看不到,比如:4044524.96xxx,到后台数据库看看

 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  8楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/25 14:28:00 [只看该作者]

麻烦蓝版帮我看看 目前这个公式只有这一个数差一分钱
 下载信息  [文件大小:   下载次数: ]
图片点击可在新窗口打开查看点击浏览该文件:计量支付台账.zip


 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  9楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:105473 积分:536350 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2021/9/25 14:57:00 [只看该作者]

Convert([合同内清单_工程量] * [合同内清单_综合单价] * 100+0.001, 'System.Int64') / 100

 回到顶部
美女呀,离线,留言给我吧!
布鲁布鲁
  10楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:52 积分:366 威望:0 精华:0 注册:2021/9/8 14:18:00
  发帖心情 Post By:2021/9/25 14:58:00 [只看该作者]

这个公式是通用吗?还是只针对这一列呢?

 回到顶部
总数 12 1 2 下一页