Foxtable(狐表)用户栏目专家坐堂 → [求助]数字精度问题,


  共有4287人关注过本帖平板打印复制链接

主题:[求助]数字精度问题,

帅哥哟,离线,有人找我吗?
2900819580
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:六尾狐 帖子:1325 积分:9627 威望:0 精华:0 注册:2015/6/30 8:46:00
[求助]数字精度问题,  发帖心情 Post By:2022/5/24 21:55:00 [只看该作者]

SQL数据库,CGM总价 的数据类型设置为real()

Dim dr As DataRow = e.DataRow
Select Case e.DataCol.Name
    Case "CGM单价","CGM数量"
        dr("CGM总价") = dr("CGM单价") * dr("CGM数量")        
End Select

结果3000的数量*0.33的单价,得到 的是3000*0.33=990.0001

 回到顶部