设为首页收藏本站

切换到窄版

快捷导航

开拓者期货期权程序化系统交易论坛 › 论坛 › 产品与服务 › 反馈Bug › 浮点库精度问题

发新帖

查看: 1079|回复: 5

上一主题

下一主题

浮点库精度问题 [复制链接]

Rank: 1

精华: 0
UID: 125950
积分: 44
帖子: 30
主题: 14
阅读权限: 10
注册时间: 2013-1-14
最后登录: 2019-9-30

电梯直达

跳转到指定楼层

1^#

发表于 2019-4-23 02:13:59 |只看该作者 |倒序浏览

TB旗舰5.4.6.3, 浮点计算精度只有3位小数,造成很大误差, 请改进.

使用道具举报

Rank: 10

精华: 3
UID: 5
积分: 26584
帖子: 12686
主题: 49
阅读权限: 200
注册时间: 2007-7-20
最后登录: 2021-11-3

2^#

发表于 2019-4-23 09:42:13 |只看该作者

TB的计算精度是有6位数的。
您的“精度只有3位小数”的结论是如何得到的？方便具体说一下吗？

使用道具举报

Rank: 10

精华: 3
UID: 5
积分: 26584
帖子: 12686
主题: 49
阅读权限: 200
注册时间: 2007-7-20
最后登录: 2021-11-3

3^#

发表于 2019-4-23 09:43:27 |只看该作者

TB的计算精度是有6位数的。
您的“精度只有3位小数”的结论是如何得到的？方便具体说一下吗？

使用道具举报

Rank: 10

精华: 3
UID: 5
积分: 26584
帖子: 12686
主题: 49
阅读权限: 200
注册时间: 2007-7-20
最后登录: 2021-11-3

4^#

发表于 2019-4-23 09:46:10 |只看该作者

TB的计算精度是有6位数的。
您的“精度只有3位小数”的结论是如何得到的？方便具体说一下吗？

使用道具举报

Rank: 1

精华: 0
UID: 125950
积分: 44
帖子: 30
主题: 14
阅读权限: 10
注册时间: 2013-1-14
最后登录: 2019-9-30

5^#

发表于 2019-4-24 10:14:03 |只看该作者

是我记错了, 是6位. 能不能再提高精度? 我现在作除法运算,都提高1000倍.

使用道具举报

Rank: 10

精华: 3
UID: 5
积分: 26584
帖子: 12686
主题: 49
阅读权限: 200
注册时间: 2007-7-20
最后登录: 2021-11-3

6^#

发表于 2019-4-24 10:37:47 |只看该作者

cf_882881 发表于 2019-4-24 10:14
是我记错了, 是6位. 能不能再提高精度? 我现在作除法运算,都提高1000倍.

对于期货交易来说，这个精度已经足够了。

使用道具举报

发新帖

bottom

静态版|手机版|联系我们|交易开拓者 ( 粤ICP备07044698 )

GMT+8, 2024-4-20 07:58

Powered by Discuz! X2 Licensed Chrome插件扩展

© 2011-2012 交易开拓者 Inc.

回顶部