Foxtable(狐表)用户栏目专家坐堂 → [求助]同一记录在两次计算后出现小数位不一样的情况


  共有11263人关注过本帖树形打印复制链接

主题:[求助]同一记录在两次计算后出现小数位不一样的情况

帅哥哟,离线,有人找我吗?
pijianqiang
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:10 积分:172 威望:0 精华:0 注册:2012/1/11 12:59:00
  发帖心情 Post By:2012/1/17 9:51:00 [显示全部帖子]

这是个计算精度问题。举个简单例子。你用计算器计算1除以3然后在乘以3就不会得1的。黄金只有四个9的精度。你是干什么行业的?计量仪器有那么高的精度吗?你的产品比黄金价值还高?


 回到顶部