以文本方式查看主题
- Foxtable(狐表) (http://www.foxtable.com/bbs/index.asp)
-- 专家坐堂 (http://www.foxtable.com/bbs/list.asp?boardid=2)
---- 单精度小数 列计算问题 (http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&id=124662)
|
-- 作者:133198609
-- 发布时间:2018/9/11 15:48:00
-- 单精度小数 列计算问题
此主题相关图片如下:qq图片20180911154533.png
单精度小数列,合计模式。 为何计算出来的结果会有误差,如何避免?
|
-- 作者:有点甜
-- 发布时间:2018/9/11 16:11:00
--
改成高精度小数,或者双进度小数吧。
|
-- 作者:133198609
-- 发布时间:2018/9/11 16:55:00
--
好吧,只能这样了。
|