论坛 › 反馈Bug › 浮点库精度问题

cf_882881 发表于 2019-4-23 02:13:59

浮点库精度问题

TB旗舰5.4.6.3, 浮点计算精度只有3位小数,造成很大误差, 请改进.

小米 发表于 2019-4-23 09:42:13

TB的计算精度是有6位数的。
您的“精度只有3位小数”的结论是如何得到的？方便具体说一下吗？

小米 发表于 2019-4-23 09:43:27

TB的计算精度是有6位数的。
您的“精度只有3位小数”的结论是如何得到的？方便具体说一下吗？

小米 发表于 2019-4-23 09:46:10

TB的计算精度是有6位数的。
您的“精度只有3位小数”的结论是如何得到的？方便具体说一下吗？

cf_882881 发表于 2019-4-24 10:14:03

是我记错了, 是6位. 能不能再提高精度? 我现在作除法运算,都提高1000倍.

小米 发表于 2019-4-24 10:37:47

cf_882881 发表于 2019-4-24 10:14 static/image/common/back.gif
是我记错了, 是6位. 能不能再提高精度? 我现在作除法运算,都提高1000倍.

对于期货交易来说，这个精度已经足够了。

查看完整版本: 浮点库精度问题