Excel 神奇公式计算结果总是让人意外

华英怡梦

好奇的同学可以试着用Excel验算一下这个充满神奇的公式：
=IF(41/5-8=0.2,"OK","NO")


是不是跟你预算的结果有点不一样呢？

有兴趣的同学可以接着试:
=IF(MOD(ROW()/5,1)=0.2,"OK",ROW()/5)
41行之前每当单元格行数/5余1时，你会看到OK，到41行以后你就看不到OK了。
所以只要被除数>=41，答案的小数部分等于0.2，但系统认为不是0.2

华英怡梦

有兴趣的同学可以接着试:
=IF(MOD(ROW()/5,1)=0.2,"OK",ROW()/5)
41行之前每当单元格行数/5余1时，你会看到OK，到41行以后你就看不到OK了。
所以只要被除数>=41，答案的小数部分等于0.2，但系统认为不是0.2

laodaoxp

=IF(41/5-8=0.2,"OK","NO")

为什么返回的是NO？？？

suxaioxiann

因为浮点数的原因，计算机并不能完整的储存小数，计算机中的小数都是有精度的。

如图：


这也警示我们两点：
1.处理浮点数时要小心，特别是金融数据。
2.浮点数不宜用于条件判断。

华英怡梦

suxaioxiann 发表于 2021-1-3 23:07
因为浮点数的原因，计算机并不能完整的储存小数，计算机中的小数都是有精度的。

如图：

这个分析很到位，当时我发现这个问题时就很奇怪，为什么1/5=0.1999999999，而不是=0.2？