以文本方式查看主题

-  Foxtable(狐表)  (http://www.foxtable.com/bbs/index.asp)
--  专家坐堂  (http://www.foxtable.com/bbs/list.asp?boardid=2)
----  累计数值不准确  (http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&id=171374)

--  作者:qwz405
--  发布时间:2021/8/27 18:06:00
--  累计数值不准确
 下载信息  [文件大小:   下载次数: ]
图片点击可在新窗口打开查看点击浏览该文件:管理项目1.foxdb

老师,您好。
只有2位小数,累计值为4位小数,累计结束不准确。

图片点击可在新窗口打开查看此主题相关图片如下:20210827.jpg
图片点击可在新窗口打开查看

这只是举个例子,碰到好几处这种情况,单精度数值统计就是有问题,和正确数值差那么一点点。
不知道是程序的问题,还是我的版本哪出问题了。



--  作者:chen37280600
--  发布时间:2021/8/27 19:05:00
--  
单精度和双精度一律都是不准确的意思
你一律换成 高精度小数,立刻根治,就这么简单

--  作者:qwz405
--  发布时间:2021/8/27 19:23:00
--  
谢谢,用双精度已解决问题,谢谢~
还有这种情况,明明只有2位小数,还能计算错误~!!
图片点击可在新窗口打开查看此主题相关图片如下:122.jpg
图片点击可在新窗口打开查看


--  作者:有点蓝
--  发布时间:2021/8/28 9:08:00
--  
看看:http://www.foxtable.com/webhelp/topics/1829.htm