在C++中
浮点数x = 131071.333

32位的位模式应为

0 10001111 11111111111111111010101

可以读为十进制
131071.328125
但是输出来了
131071.335938
哪一个
0 10001111 111111111111111110101011

基本上是33位错误?

最佳答案

最接近131071.333的浮点数是131071.3359375(误差为0.003),即01000111111111111111111110101011,这比您的值131071.328125(误差为0.005)以下的浮点数更准确。

这是一个方便的工具,可以用来播放花车https://www.h-schmidt.net/FloatConverter/IEEE754.html

09-07 05:59