| 以文本方式查看主题 - Foxtable(狐表) (http://www.foxtable.com/bbs/index.asp) -- 专家坐堂 (http://www.foxtable.com/bbs/list.asp?boardid=2) ---- [求助]表达式乘法结果错误 (http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&id=178155) |
| -- 作者：昱飞哥 -- 发布时间：2022/6/20 18:28:00 -- [求助]表达式乘法结果错误 有三列：单价、数量、总价，三列均为单精度列 其中，总价是表达式列。表达式为：IsNull([单价] * [数量],0) 我有一行：单价为13000，数量为0.075，算出来的结果怎么是：975.0001？
|
| -- 作者：lgzhao -- 发布时间：2022/6/20 18:52:00 -- 改成双精度就好了。双精度速度并不慢多少，不要担心。 我的系统数字除了整数就是双精度
|
| -- 作者：lgzhao -- 发布时间：2022/6/20 18:53:00 -- 这个不算错误。是计算机系统存储数字有效位数不够造成的误差，这个什么程序都避免不了。除非将来改了计算机硬件原理。 |
| -- 作者：昱飞哥 -- 发布时间：2022/6/21 13:19:00 -- 谢谢 |