Foxtable(狐表)用户栏目专家坐堂 → double相减出现的问题


  共有2542人关注过本帖树形打印复制链接

主题:double相减出现的问题

帅哥哟,离线,有人找我吗?
sky-18
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:三尾狐 帖子:655 积分:5004 威望:0 精华:0 注册:2011/11/26 17:46:00
double相减出现的问题  发帖心情 Post By:2014/12/16 23:55:00 [只看该作者]

在代码里有两个double型小数相减,结果却是这样:
图片点击可在新窗口打开查看此主题相关图片如下:错误.jpg
图片点击可在新窗口打开查看
好像以前在帮助文件里见过相应的介绍,不过是在找不到了。
老师们,这是为什么呢?
[此贴子已经被作者于2014-12-16 23:56:28编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
sky-18
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:三尾狐 帖子:655 积分:5004 威望:0 精华:0 注册:2011/11/26 17:46:00
  发帖心情 Post By:2014/12/16 23:56:00 [只看该作者]

这是我用messagebox.show出来的。发现代码的实际结果不对。
[此贴子已经被作者于2014-12-16 23:55:50编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
sky-18
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:三尾狐 帖子:655 积分:5004 威望:0 精华:0 注册:2011/11/26 17:46:00
  发帖心情 Post By:2014/12/17 0:13:00 [只看该作者]

解决了。
把double换成decimal就ok了!!!
不过我觉得奇怪的是,帮助文件里只是说double型只在作比较时会出现1不等于1的情况,为什么我的计算结果也出现错误呢?
这一点还是想请老师们解答一下。
要知道我的项目代码里只要是涉及到小数的数据类型都是设置的double,如果double这么不可靠我岂不是要被所以的代码和数据结构都换完??!!

 回到顶部