Foxtable(狐表)用户栏目专家坐堂 → 关于数值型的问题


  共有3307人关注过本帖树形打印复制链接

主题:关于数值型的问题

帅哥哟,离线,有人找我吗?
blackzhu
  1楼 | QQ | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:狐仙 帖子:9875 积分:57584 威望:0 精华:15 注册:2008/9/1 9:45:00
关于数值型的问题  发帖心情 Post By:2013/10/11 13:26:00 [只看该作者]

  我的数据列为类型为数值型  本来是双精度小数  但是由于数值太大 数字溢出,所以我又改成高精度.



但是改了后有些数据提示值对于int32  太大或者太小  这个是什么回事?

 回到顶部
帅哥哟,离线,有人找我吗?
程兴刚
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:超级版主 帖子:7235 积分:40556 威望:0 精华:16 注册:2008/8/31 23:23:00
  发帖心情 Post By:2013/10/11 14:10:00 [只看该作者]

您有过兆亿的数据?

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2013/10/11 14:10:00 [只看该作者]

有代码操作到这些数据列,是使用intger类型来存放得.

 回到顶部
帅哥哟,离线,有人找我吗?
程兴刚
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:超级版主 帖子:7235 积分:40556 威望:0 精华:16 注册:2008/8/31 23:23:00
  发帖心情 Post By:2013/10/11 14:21:00 [只看该作者]

这个有可能!

 回到顶部
帅哥哟,离线,有人找我吗?
blackzhu
  5楼 | QQ | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:狐仙 帖子:9875 积分:57584 威望:0 精华:15 注册:2008/9/1 9:45:00
  发帖心情 Post By:2013/10/11 14:35:00 [只看该作者]

不会呀 最多只是数据长些.  现在换了高精度 就变成了有些数据会出现这个提示  我重来没有碰到过.

 回到顶部
帅哥哟,离线,有人找我吗?
程兴刚
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:超级版主 帖子:7235 积分:40556 威望:0 精华:16 注册:2008/8/31 23:23:00
  发帖心情 Post By:2013/10/11 15:17:00 [只看该作者]

查看引用该数据所定义的变量的类型!

 回到顶部
帅哥哟,离线,有人找我吗?
blackzhu
  7楼 | QQ | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:狐仙 帖子:9875 积分:57584 威望:0 精华:15 注册:2008/9/1 9:45:00
  发帖心情 Post By:2013/10/11 15:26:00 [只看该作者]

就用代码计算好写入  列的类型是高精度.

 回到顶部
帅哥哟,离线,有人找我吗?
程兴刚
  8楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:超级版主 帖子:7235 积分:40556 威望:0 精华:16 注册:2008/8/31 23:23:00
  发帖心情 Post By:2013/10/11 15:32:00 [只看该作者]

老朱,做一个例子吧,这样说不清楚,大家都没遇到,不好分析原因。

 回到顶部
帅哥哟,离线,有人找我吗?
狐狸爸爸
  9楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:47448 积分:251054 威望:0 精华:91 注册:2008/6/17 17:14:00
  发帖心情 Post By:2013/10/11 15:39:00 [只看该作者]

微整数

介于 0 到 255 之间的微整数

短整数

介于 –32768 到 32767 之间的短整数

整数

介于 –2147483648 到 2147483647 之间的整数,超过此范围的整数可以考虑用双精度小数代替

单精度小数

单精度小数,有效数字为7位

双精度小数

双精度小数,有效数字为15位

高精度小数

高精度小数,有高达28位的有效数字,适用于要求使用大量有效的整数及小数位数并且没有舍入错误的财务计算,可存储的小数位数默认为4,可根据需要调整。


 回到顶部
帅哥哟,离线,有人找我吗?
狐狸爸爸
  10楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:47448 积分:251054 威望:0 精华:91 注册:2008/6/17 17:14:00
  发帖心情 Post By:2013/10/11 15:42:00 [只看该作者]

看了上面的表,就只知道不是任何高精度小数都可以转为其他数值类型的

 回到顶部
总数 12 1 2 下一页