| 以文本方式查看主题 - Foxtable(狐表) (http://www.foxtable.com/bbs/index.asp) -- 专家坐堂 (http://www.foxtable.com/bbs/list.asp?boardid=2) ---- 关于表达式列数据计算产生差异的问题 (http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&id=69286) |
| -- 作者：ndxfke -- 发布时间：2015/6/2 16:06:00 -- 关于表达式列数据计算产生差异的问题 数据表中有分别有：[应收金额]、[收款金额] 两个单精度列，一个[未收款] 表达列：IsNull([应收金额],0) - IsNull([收款金额],0) 编码
单据编号
摘要
收款金额
应收金额 SK-201506-001
DD-201412-002
收\'中信新城\'款
89827.7
89827.7 问题：表达式列计算结果 0.01 ，为何？应该如何处理，让它不会出现这种不应该产生的差异呢？ |
| -- 作者：Bin -- 发布时间：2015/6/2 16:06:00 -- 最方便的方法,用高精度小数. |
| -- 作者：ndxfke -- 发布时间：2015/6/2 16:08:00 -- tks，bin 很久不见， 能帮我普及下为何要这样改呢？
|
| -- 作者：Bin -- 发布时间：2015/6/2 16:09:00 -- 双精度小数会有误差的, 高精度小数不会,所以叫做"高精度小数" 但是容量较少,性能较低. |
| -- 作者：大红袍 -- 发布时间：2015/6/2 16:10:00 -- 或者你设置一下表达式列的格式
http://www.foxtable.com/help/topics/0050.htm
|