Foxtable(狐表)用户栏目专家坐堂 → [求助]表达式乘法结果错误


  共有4357人关注过本帖树形打印复制链接

主题:[求助]表达式乘法结果错误

帅哥哟,离线,有人找我吗?
lgzhao
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:小狐 帖子:302 积分:2069 威望:0 精华:0 注册:2017/11/19 9:46:00
  发帖心情 Post By:2022/6/20 18:52:00 [显示全部帖子]

改成双精度就好了。双精度速度并不慢多少,不要担心。
我的系统数字除了整数就是双精度

 回到顶部
帅哥哟,离线,有人找我吗?
lgzhao
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:小狐 帖子:302 积分:2069 威望:0 精华:0 注册:2017/11/19 9:46:00
  发帖心情 Post By:2022/6/20 18:53:00 [显示全部帖子]

这个不算错误。是计算机系统存储数字有效位数不够造成的误差,这个什么程序都避免不了。除非将来改了计算机硬件原理。

 回到顶部