Foxtable(狐表)用户栏目专家坐堂 → 更新版本后数值比较出现问题


  共有68人关注过本帖树形打印复制链接

主题:更新版本后数值比较出现问题

帅哥哟,离线,有人找我吗?
kylin
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 F6
等级:九尾狐 帖子:2697 积分:16766 威望:0 精华:2 注册:2008/9/1 7:50:00
更新版本后数值比较出现问题  发帖心情 Post By:2019/10/10 14:41:00 [只看该作者]

        Dim tr,tryz As Double
        tr = dr("BgnAmt") + dr("YAmt") + dr("DAmt")      
        tryz = dr("EAmt") + dr("EndAmt")
程序设计的逻辑,当tr = tryz时进行下一步计算,否则退出计算。
但是最近的版本中出现了看似相等,但是却进入不相等的步骤
通过以下两个查看
Output.Show(dr("MMTrnIDCN") + ":" + CStr(tr) + "=" + CStr(tryz) ),这个显示是一致的
       
Output.Show(dr("MMTrnIDCN") + ":" + CStr(tr - tryz) ),显示差额是-2.27373675443232E-13

遍历整个表,就是那么一两个有这样的特例。

这个情况在以前版本是不会出现的

          

 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:35369 积分:180029 威望:0 精华:8 注册:2015/6/24 9:21:00
  发帖心情 Post By:2019/10/10 14:48:00 [只看该作者]


 回到顶部
帅哥哟,离线,有人找我吗?
kylin
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 F6
等级:九尾狐 帖子:2697 积分:16766 威望:0 精华:2 注册:2008/9/1 7:50:00
  发帖心情 Post By:2019/10/10 14:54:00 [只看该作者]

收到,谢谢

 回到顶部