开拓者期货期权程序化系统交易论坛
标题:
浮点库精度问题
[打印本页]
作者:
cf_882881
时间:
2019-4-23 02:13:59
标题:
浮点库精度问题
TB旗舰5.4.6.3, 浮点计算精度只有3位小数,造成很大误差, 请改进.
作者:
小米
时间:
2019-4-23 09:42:13
TB的计算精度是有6位数的。
您的“精度只有3位小数”的结论是如何得到的?方便具体说一下吗?
作者:
小米
时间:
2019-4-23 09:43:27
TB的计算精度是有6位数的。
您的“精度只有3位小数”的结论是如何得到的?方便具体说一下吗?
作者:
小米
时间:
2019-4-23 09:46:10
TB的计算精度是有6位数的。
您的“精度只有3位小数”的结论是如何得到的?方便具体说一下吗?
作者:
cf_882881
时间:
2019-4-24 10:14:03
是我记错了, 是6位. 能不能再提高精度? 我现在作除法运算,都提高1000倍.
作者:
小米
时间:
2019-4-24 10:37:47
cf_882881 发表于 2019-4-24 10:14
是我记错了, 是6位. 能不能再提高精度? 我现在作除法运算,都提高1000倍.
对于期货交易来说,这个精度已经足够了。
欢迎光临 开拓者期货期权程序化系统交易论坛 (http://bbs.tb18.net/)
Powered by Discuz! X2