设为首页收藏本站

 找回密码
 注册
查看: 1808|回复: 2
打印 上一主题 下一主题

请问 Numeric 定义的精度是多少 [复制链接]

Rank: 2

精华
0
UID
129101
积分
77
帖子
44
主题
22
阅读权限
30
注册时间
2013-2-25
最后登录
2017-1-5
跳转到指定楼层
1#
发表于 2015-8-8 10:27:46 |只看该作者 |倒序浏览
    Numeric一个参数或变量后,例如 Numeric X(0.1512)  用commentary观察发现变量或参数被自动截断为0.15。 这是什么原因? 如何使用这个默认值0.1512。  谢谢

Rank: 5Rank: 5

精华
0
UID
179100
积分
642
帖子
634
主题
0
阅读权限
60
注册时间
2014-1-10
最后登录
2016-12-30
2#
发表于 2015-8-10 11:27:53 |只看该作者
参数精度只支持2位小数,如需更多精度,可乘上一定倍数来实现。例如:我们要传入的数据为1.234567,
实际上TB里只接受2位精度为1.23,如果想要保留小数部分,则我们将它乘上10000后,可以得到12345.67,
将12345.67放到参数里,在函数里再除以10000后,即可还原所需要的数据。

使用道具 举报

Rank: 2

精华
0
UID
129101
积分
77
帖子
44
主题
22
阅读权限
30
注册时间
2013-2-25
最后登录
2017-1-5
3#
发表于 2015-8-10 12:27:16 来自手机 |只看该作者
xiaoxiao8 发表于 2015-8-10 11:27
参数精度只支持2位小数,如需更多精度,可乘上一定倍数来实现。例如:我们要传入的数据为1.234567,
实际上 ...

谢谢

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

bottom

静态版|手机版|联系我们|交易开拓者 ( 粤ICP备07044698   

GMT+8, 2024-5-22 23:40

Powered by Discuz! X2 LicensedChrome插件扩展

© 2011-2012 交易开拓者 Inc.

回顶部