本文介绍了浮点数据类型的 15 位精度究竟意味着什么?的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

根据 http://msdn.microsoft.com/en-us/library/ms173773.aspx

浮动大约是.数据类型.

float is approx. data type.

但在同一篇文章中也提到了 float 的精度为 15 位.

But also in the same article it is being mentioned that float has precision of 15 digits.

15 位精度究竟是什么意思?

What exactly it mean by Precision of 15 digits ?

推荐答案

表示前 15 位数字大致正确.多亏了 IEEE 754,许多数字无法精确表示,但您可以确定前 15 位数字非常接近.

It means that the first 15 digits are approximately correct. Thanks to IEEE 754 there are many numbers that can't be exactly represented, but you can be sure that the first 15 digits are very close.

这篇关于浮点数据类型的 15 位精度究竟意味着什么?的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持!

08-24 09:58