以文本方式查看主题

-  Foxtable(狐表)  (http://www.foxtable.com/bbs/index.asp)
--  专家坐堂  (http://www.foxtable.com/bbs/list.asp?boardid=2)
----  [求助]双精度小数计算问题  (http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&id=151613)

--  作者:81538475
--  发布时间:2020/6/29 13:32:00
--  [求助]双精度小数计算问题
 为何回出现下面的结果呢。。
a 和 b 都是 之前计算出来的double

a=7.55

b=7.55

a - b=-3.5527136788005E-15


--  作者:有点蓝
--  发布时间:2020/6/29 13:43:00
--  
改为高精度类型:http://www.foxtable.com/webhelp/topics/1829.htm