Foxtable(狐表)用户栏目专家坐堂 → 小数精度问题(已解决)


  共有12881人关注过本帖树形打印复制链接

主题:小数精度问题(已解决)

帅哥哟,离线,有人找我吗?
i52117
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:小狐 帖子:374 积分:3147 威望:0 精华:0 注册:2009/2/3 9:55:00
小数精度问题(已解决)  发帖心情 Post By:2010/11/13 10:59:00 [只看该作者]

请高手指点,如何使合计不差0.01,把列类型改成双精度、高精度都不行

 


图片点击可在新窗口打开查看此主题相关图片如下:未命名.jpg
图片点击可在新窗口打开查看

s1 表达式:  ([第二列] + [第三列] + [第四列]) * [第八列]

s2 表达式: ([第二列] + [第三列] + [第四列]) * [第九列]

s3 表达式: ([第二列] + [第三列] + [第四列]) * [第十列]

ss 表达式: [s1] + [s2] + [s3]

 

3.59+1.20+5.98=10.77      上图 表达式计算得 10.76

 

怎样以显示值为准?

[此贴子已经被作者于2010-11-13 14:09:31编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
blackzhu
  2楼 | QQ | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:狐仙 帖子:9875 积分:57584 威望:0 精华:15 注册:2008/9/1 9:45:00
  发帖心情 Post By:2010/11/13 12:39:00 [只看该作者]

是不是控制位数?


 回到顶部
帅哥哟,离线,有人找我吗?
i52117
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:小狐 帖子:374 积分:3147 威望:0 精华:0 注册:2009/2/3 9:55:00
  发帖心情 Post By:2010/11/13 14:13:00 [只看该作者]

用 Convert 貌似可以了,就是表达式麻烦了点

 回到顶部