以文本方式查看主题

-  Foxtable(狐表)  (http://www.foxtable.com/bbs/index.asp)
--  专家坐堂  (http://www.foxtable.com/bbs/list.asp?boardid=2)
----  小数精度问题(已解决)  (http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&id=8578)

--  作者:i52117
--  发布时间:2010/11/13 10:59:00
--  小数精度问题(已解决)

请高手指点,如何使合计不差0.01,把列类型改成双精度、高精度都不行

 


图片点击可在新窗口打开查看此主题相关图片如下:未命名.jpg
图片点击可在新窗口打开查看

s1 表达式:  ([第二列] + [第三列] + [第四列]) * [第八列]

s2 表达式: ([第二列] + [第三列] + [第四列]) * [第九列]

s3 表达式: ([第二列] + [第三列] + [第四列]) * [第十列]

ss 表达式: [s1] + [s2] + [s3]

 

3.59+1.20+5.98=10.77      上图 表达式计算得 10.76

 

怎样以显示值为准?

[此贴子已经被作者于2010-11-13 14:09:31编辑过]

--  作者:blackzhu
--  发布时间:2010/11/13 12:39:00
--  

是不是控制位数?


--  作者:i52117
--  发布时间:2010/11/13 14:13:00
--  
用 Convert 貌似可以了,就是表达式麻烦了点