LaK-锋哥 发表于 2023-6-8 12:40:46

小数的位数显示问题

小数设置了2位,但是实际上还是小数点后15位。这样就会存在问题,15位的小数比2位的小数大一点点。。应该是0.10,实际是0.100000000000023

沐风369 发表于 2023-6-8 23:44:33

应该是计算机二进制的原因,如果这个有影响,就赋值时,前加个round(数值,2)函数。

亮闪闪 发表于 2023-6-9 10:06:12

LaK-锋哥 发表于 2023-6-8 12:40
小数设置了2位,但是实际上还是小数点后15位。这样就会存在问题,15位的小数比2位的小数大一点点。。应该是 ...

尝试设置一下单元格格式呢

喜洋洋 发表于 2023-6-9 15:43:15

我的想法是从第三步引用开始你可以赋值加个round(数值,2)函数试一下,因为相当于你是调用的0.10,然后在去excel中看一下,有可能是进制的问题。
页: [1]
查看完整版本: 小数的位数显示问题