[未解决]小数精度问题

2023-12-7 10:16:47
15784
用1.144-1.144不等于0  等于-9.41087485717418E-17
我知道答案 回答被采纳将会获得3 云币 已有3人回答
1701915295254.jpg
1701915321341.jpg
+10
收藏
4 条回帖
李根管理员2023-12-7 11:32:14
计算机用的是浮点数,最好加一下四舍五入的公式
+10
李。Ray云侠2023-12-7 11:40:38

我用数据接口试了下也没问题如果你的值有固定位数的话,在数据表管理里边,设置好小数位数,数值1,2和差都设置好。就不会出错了。
我刚刚把数据表管理中的小数位数清空后,就出错了。
+10
需要登录后才可进行回复 登录

玩转云表从入门到精通
扫码添加微信立即领取

·云表创始人授课文件
·加入社群与培训学习
·切磋云表开发玩法

商务咨询:0756-3335860
客服咨询