为什么0.1 * 10-1不等于0？

问题描述

Console.WriteLine(0.5f * 2f);       // 1
Console.WriteLine(0.5f * 2f - 1f);  // 0

Console.WriteLine(0.1f * 10f);      // 1
Console.WriteLine(0.1f * 10f - 1f); // 1.490116E-08

最后是 1.490116E-08 （ 0.0000001490116 ）？

推荐答案

参见 Wiki：浮点一>。 float / double / decimal是相对精度类型。不是所有的值（其中有无穷多的）都可以被精确地存储。你正在看到这种精度损失的结果。这就是为什么使用 | a - b |几乎总是正确的原因< small_delta 用于浮点比较。

See Wiki: Floating Point. float/double/decimal are relative precision types. Not all values (of which there are infinitely many) can be exactly stored. You are seeing the result of this loss of accuracy. This is why it is almost always correct to use |a - b| < small_delta for float-point comparisons.

这篇关于为什么0.1 * 10-1不等于0？的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持！