Foxtable(狐表)用户栏目专家坐堂 → 单精度小数 列计算问题


  共有1800人关注过本帖树形打印复制链接

主题:单精度小数 列计算问题

帅哥哟,离线,有人找我吗?
133198609
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:小狐 帖子:373 积分:3107 威望:0 精华:0 注册:2015/1/30 9:47:00
单精度小数 列计算问题  发帖心情 Post By:2018/9/11 15:48:00 [只看该作者]


图片点击可在新窗口打开查看此主题相关图片如下:qq图片20180911154533.png
图片点击可在新窗口打开查看

单精度小数列,合计模式。
为何计算出来的结果会有误差,如何避免?

 回到顶部
帅哥哟,离线,有人找我吗?
有点甜
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:版主 帖子:85326 积分:427815 威望:0 精华:5 注册:2012/10/18 22:13:00
  发帖心情 Post By:2018/9/11 16:11:00 [只看该作者]

改成高精度小数,或者双进度小数吧。

 回到顶部
帅哥哟,离线,有人找我吗?
133198609
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:小狐 帖子:373 积分:3107 威望:0 精华:0 注册:2015/1/30 9:47:00
  发帖心情 Post By:2018/9/11 16:55:00 [只看该作者]

好吧,只能这样了。

 回到顶部