- Foxtable(狐表) (http://www.foxtable.com/bbs/index.asp)
-- 专家坐堂 (http://www.foxtable.com/bbs/list.asp?boardid=2)
---- [求助]狐表的一个计算BUG (http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&id=115777)
-- 发布时间：2018/3/14 14:13:00
-- [求助]狐表的一个计算BUG
此主题相关图片如下：q2.png
此主题相关图片如下：q1.png
如图。两个数计算应为0.06
但是使用了compute 合计时 结果显示为 0.0600000000000001
请问如何处理？此处所有列均为双精度小数列
-- 发布时间：2018/3/14 14:19:00
--
计算后的值处理一下
http://www.foxtable.com/webhelp/scr/0361.htm