设为首页收藏本站

 找回密码
 注册
查看: 2731|回复: 4
打印 上一主题 下一主题

tb的小数点后的精度 [复制链接]

Rank: 5Rank: 5

精华
1
UID
30159
积分
1116
帖子
280
主题
23
阅读权限
60
注册时间
2011-3-23
最后登录
2019-3-21
跳转到指定楼层
1#
发表于 2011-8-22 15:15:40 |只看该作者 |倒序浏览
请问比如除法计算等需要取小数位的疏浚  tb可以取到小数点后几位数,是两位数吗

Rank: 5Rank: 5

精华
1
UID
30159
积分
1116
帖子
280
主题
23
阅读权限
60
注册时间
2011-3-23
最后登录
2019-3-21
2#
发表于 2011-8-22 15:16:29 |只看该作者
更正 取小数位的数据  tb可以取到小数点后几位数,是两位数吗

使用道具 举报

Rank: 5Rank: 5

精华
0
UID
32409
积分
896
帖子
224
主题
4
阅读权限
60
注册时间
2011-4-7
最后登录
2017-1-15
3#
发表于 2011-8-22 15:20:40 |只看该作者
应该不止两位数,你自己用commentary 输出一个数值就知道了有几位了。可以通过round(number,digits)截取需要的小数位数,digits 就是你想要的小数点后面的位数。
KISS顺势轻仓

使用道具 举报

Rank: 10Rank: 10Rank: 10

精华
2
UID
4130
积分
20901
帖子
6519
主题
17
阅读权限
200
注册时间
2009-4-15
最后登录
2019-4-12
4#
发表于 2011-8-22 15:45:44 |只看该作者
回复 1# 读书山林


公式中精度为6位

使用道具 举报

Rank: 5Rank: 5

精华
1
UID
30159
积分
1116
帖子
280
主题
23
阅读权限
60
注册时间
2011-3-23
最后登录
2019-3-21
5#
发表于 2011-8-23 11:33:34 |只看该作者
OK谢谢~~~~

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

bottom

静态版|手机版|联系我们|交易开拓者 ( 粤ICP备07044698   

GMT+8, 2024-5-4 19:59

Powered by Discuz! X2 LicensedChrome插件扩展

© 2011-2012 交易开拓者 Inc.

回顶部