[未解决]小数精度问题

2023-12-7 10:16:47

23914

用1.144-1.144不等于0 等于-9.41087485717418E-17

我知道答案回答被采纳将会获得3 云币已有3人回答

+10

分享至：微博微信 QQ空间

4 条回帖

李。Ray云侠2023-12-7 11:20:40

没问题，你看。

设置好数据的小数位。

+10

李根管理员2023-12-7 11:32:14

计算机用的是浮点数，最好加一下四舍五入的公式

+10

李。Ray云侠2023-12-7 11:40:38

李。Ray 发表于 2023-12-7 11:20
没问题，你看。

我用数据接口试了下也没问题如果你的值有固定位数的话，在数据表管理里边，设置好小数位数，数值1,2和差都设置好。就不会出错了。
我刚刚把数据表管理中的小数位数清空后，就出错了。

+10