Foxtable(狐表)用户栏目专家坐堂 → 双精度小数计算问题


  共有1625人关注过本帖树形打印复制链接

主题:双精度小数计算问题

帅哥哟,离线,有人找我吗?
whoisvinci
  1楼 | QQ | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:43 积分:419 威望:0 精华:0 注册:2018/11/1 10:49:00
双精度小数计算问题  发帖心情 Post By:2018/12/19 13:40:00 [只看该作者]


图片点击可在新窗口打开查看此主题相关图片如下:111.jpg
图片点击可在新窗口打开查看

图片点击可在新窗口打开查看此主题相关图片如下:222.jpg
图片点击可在新窗口打开查看

所有计算数据列都为双精度小数,然后保留5位小数,但是最终计算会有偏差。请问是什么问题?


 回到顶部
帅哥哟,离线,有人找我吗?
有点甜
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:版主 帖子:85326 积分:427815 威望:0 精华:5 注册:2012/10/18 22:13:00
  发帖心情 Post By:2018/12/19 14:33:00 [只看该作者]

方法一:可以改成高精度小数计算;

 

方法二:换一种方式四舍五入 http://www.foxtable.com/webhelp/scr/0108.htm

 


 回到顶部