使用toFixed时出现舍入错误:
我在数值计算上使用了toFixed(2)
,但是在少数情况下,四舍五入的结果与预期不符。
假设toFixed(2)
应用于17.525
值,则给出结果17.52
;如果将5.525
应用于5.53
,则给出结果ojit_code。
在后一种情况下,四舍五入的结果是准确的,因此,您可以建议在后一种情况下需要做些什么才能获得准确的四舍五入结果。还是可以建议使用此toFixed函数的替代方法来获得正确的舍入结果?
最佳答案
浮点数误差意味着大多数以.525结尾的数字实际上是.52500..1,而其他数字是.5249999 .....
值取整的方式取决于IEEE-754浮点数中最接近的实际表示形式是高于还是低于期望值。
关于javascript - toFixed(2)不一致地舍入 “x.525”吗?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/10768083/