Foxtable(狐表)用户栏目专家坐堂 → Double数据运算之后多出来0.0001


  共有3405人关注过本帖树形打印复制链接

主题:Double数据运算之后多出来0.0001

帅哥哟,离线,有人找我吗?
Bin
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/9/30 11:17:00 [显示全部帖子]

对精度有高要求,直接使用高精度小数吧.

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/9/30 11:18:00 [显示全部帖子]

如果堆精度要求不是非常高,直接四无五入,或者去除小数即可.

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/9/30 11:26:00 [显示全部帖子]

双精度小数本来就回有0.00001的误差. 你知道就可以了,不用纠结原因. 非要纠结,可以自行百度扩展双精度浮点小数误差

如我2楼所说你可以直接使用高精度小数,就不会有误差问题.

 回到顶部