Foxtable(狐表)用户栏目专家坐堂 → [求助]什么原理?怎么提示值对于类型"Int16"太大?


  共有6969人关注过本帖平板打印复制链接

主题:[求助]什么原理?怎么提示值对于类型"Int16"太大?

帅哥哟,离线,有人找我吗?
skyhuigo007
  1楼 | QQ | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:13 积分:153 威望:0 精华:0 注册:2013/2/3 13:59:00
[求助]什么原理?怎么提示值对于类型"Int16"太大?  发帖心情 Post By:2013/3/2 22:10:00 [只看该作者]

看图
图片点击可在新窗口打开查看
板长、板宽、数量都是短整数的数据列,板长不可能超过500,板宽不可能超过300,数量不可能超过三位数,都是整数。平方是单精度小数的表达式列,表达式:板长*板宽*数量/10000  (板长板宽单位是厘米,平方单位是平方米,所以要除以10000,所以平方这列不可能超过7位有效数字,所以用单精度小数)
结果就提示值太大了。
然后把表达式改成:1*板长*板宽*数量/10000,竟然可以了!
然后再把数量改成整数的数据列,竟然也可以了!
似乎是计算的时候,板长*板宽,在板宽的数据列位置进行计算,然后前两者的计算值再放进数量列的位置进行计算,所以把数量列改成整数型,就放得下?
那么1*板长*板宽*数量/10000这个表达式的原理呢?
什么原理?小白无法理解~
虽然可以用“1*”解决,但是很好奇啊~~~
[此贴子已经被作者于2013-3-2 22:49:42编辑过]

 回到顶部