欢迎您:游客!请先
登录
或
注册
风格
恢复默认设置
|
展区
文件集浏览
图片集浏览
Flash浏览
音乐集浏览
电影集浏览
|
搜索
Foxtable(狐表)
→
用户栏目
→
专家坐堂
→ [求助]什么原理?怎么提示值对于类型"Int16"太大?
新的主题
投票帖
小字报
下一主题 >>
<< 上一主题
共有
6969
人关注过本帖
平板
打印
复制链接
主题:[求助]什么原理?怎么提示值对于类型"Int16"太大?
skyhuigo007
小
大
1楼
|
QQ
|
信息
|
搜索
|
邮箱
|
主页
|
UC
加好友
发短信
等级:婴狐
帖子:
13
积分:153
威望:0
精华:0
注册:
2013/2/3 13:59:00
[求助]什么原理?怎么提示值对于类型"Int16"太大?
Post By:2013/3/2 22:10:00 [
只看该作者
]
看图
板长、板宽、数量都是短整数的数据列,板长不可能超过500,板宽不可能超过300,数量不可能超过三位数,都是整数。平方是单精度小数的表达式列,表达式:板长*板宽*数量/10000 (板长板宽单位是厘米,平方单位是平方米,所以要除以10000,所以平方这列不可能超过7位有效数字,所以用单精度小数)
结果就提示值太大了。
然后把表达式改成:1*板长*板宽*数量/10000,竟然可以了!
然后再把数量改成整数的数据列,竟然也可以了!
似乎是计算的时候,板长*板宽,在板宽的数据列位置进行计算,然后前两者的计算值再放进数量列的位置进行计算,所以把数量列改成整数型,就放得下?
那么1*板长*板宽*数量/10000这个表达式的原理呢?
什么原理?小白无法理解~
虽然可以用“1*”解决,但是很好奇啊~~~
[此贴子已经被作者于2013-3-2 22:49:42编辑过]
下一主题 >>
<< 上一主题
RSS2.0
|
Xhtml无图版
|
Xslt无图版
Copyright © 2000 - 2018
foxtable
.com
Tel: 4000-810-820 粤ICP备11091905号
Powered By
Dvbbs
Version 8.3.0
页面执行时间 0.03125 秒, 5 次数据查询