以文本方式查看主题

-  Foxtable(狐表)  (http://www.foxtable.com/bbs/index.asp)
--  专家坐堂  (http://www.foxtable.com/bbs/list.asp?boardid=2)
----  SUM等于0时的问题  (http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&id=100963)

--  作者:douglas738888
--  发布时间:2017/5/22 15:35:00
--  SUM等于0时的问题

请教老师,下面代码,如果sum=0时,TEXT显示 1.11022302462516E-16  不是0.0

 

参数值例如:-1.0,-2.0 ,0.0 ,1.0, 2.0     计算下来是0.0

 

Dim Count03 As Double
Count03 = DataTables("因子库主表").Compute("Sum(参数计量)")

Dim lbl03 As WinForm.Label
lbl03 = e.Form.Controls("Label16")
lbl03.Text = "因子参数计量总值: 总因子值为 " & Count03  & ""


--  作者:有点色
--  发布时间:2017/5/22 16:17:00
--  

Dim Count03 As Double
Count03 = DataTables("因子库主表").Compute("Sum(参数计量)")

Dim lbl03 As WinForm.Label
lbl03 = e.Form.Controls("Label16")
lbl03.Text = "因子参数计量总值: 总因子值为 " & val(Format(Count03, "0.0000"))& ""

[此贴子已经被作者于2017/5/22 16:17:39编辑过]