在C++中
浮点数x = 131071.333
32位的位模式应为
0 10001111 11111111111111111010101
可以读为十进制
131071.328125
但是输出来了
131071.335938
哪一个
0 10001111 111111111111111110101011
基本上是33位错误?
最佳答案
最接近131071.333
的浮点数是131071.3359375
(误差为0.003),即01000111111111111111111110101011
,这比您的值131071.328125
(误差为0.005)以下的浮点数更准确。
这是一个方便的工具,可以用来播放花车https://www.h-schmidt.net/FloatConverter/IEEE754.html