以文本方式查看主题

-  Foxtable(狐表)  (http://www.foxtable.com/bbs/index.asp)
--  专家坐堂  (http://www.foxtable.com/bbs/list.asp?boardid=2)
----  单精度小数 列计算问题  (http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&id=124662)

--  作者:133198609
--  发布时间:2018/9/11 15:48:00
--  单精度小数 列计算问题

图片点击可在新窗口打开查看此主题相关图片如下:qq图片20180911154533.png
图片点击可在新窗口打开查看

单精度小数列,合计模式。
为何计算出来的结果会有误差,如何避免?

--  作者:有点甜
--  发布时间:2018/9/11 16:11:00
--  
改成高精度小数,或者双进度小数吧。
--  作者:133198609
--  发布时间:2018/9/11 16:55:00
--  
好吧,只能这样了。