C++中的浮点数运算的误差

  项目中需要计算判定,采用的是float型,如: float a < yLing,

  其中:a = 2.0, y则从1.0 + 0.2*n 

  当n = 4时,条件成立了???? Why /? , , 实际上,需要在n = 5 成立

  通过调试发现: yLing = 2.00002 , 而 a = 2.0

  NM , float 误差这么大?????

  难怪在进行金融财务等数值运算时,请使用decimal 类型,不要使用float和double类型!因为decimal的精度最高!!!


  推荐使用一些“现成”的函数库

  http://www.oschina.net/project/tag/239/Mathematics-computing?sort=view&lang=21

如:

  (1)数学表达式解析工具 muParser


1  测试用例 

(1)

  如下C#代码:
  float a = 0.65f;
  float b = 0.6f;
  float c = a - b;

  此时c为多少?
  0.05?错误!
  此时c为0.0499999523!
  为什么?
  其根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据。

(2)我们发现在0.1 此数转化的时候并不能得到一个准确的二进制数。离它最近的二进制小数是0.00011……,也就是十进制的0.099……,而计算机的存储空间是有限的, 所以我们得不到准确的二进制数,程序在执行时并不是按0.1计算,而是按0.099……计算,所以永远不会出现i==1的情况,也就出现了死循环的情况。

 #include   <stdio.h>
main()
{
  float a,b,c;
a=0.99999999;
b=1.0;
if(a==b)
printf("ddddd");//正确
getch();
}

  在执行中,a和b的值认为是相等的,输出: ddddd

  我们知道将一个十进制数值转换为二进制数值,需要通过下面的计算方法:

  【1】整数部分:连续用该整数除以2,取余数,然后商再除以2,直到商等于0为止。然后把得到的各个余数按相反的顺序排列。简称"除2取余法"。

  【2】小数部分:十进制小数转换为二进制小数,采用"乘2取整,顺序排列"法。用2乘以十进制小数,将得到的整数部分取出,再用2乘余下的小数部分,然后再将积 的整数部分取出,如此进行,直到积中的小数部分为0或者达到所要求的精度为止。然后把取出的整数部分按顺序排列起来,即先取出的整数部分作为二进制小数的 高位,后取出的整数部分作为低位有效位。简称"乘2取整法"。

  【3】含有小数的十进制数转换成二进制,整数、小数部分分别进行转换,然后相加。

  下面我们来分析下:
  我们知道将一个十进制数值转换为二进制数值,需要通过下面的计算方法:
  (1)   整数部分:连续用该整数除以2,取余数,然后商再除以2,直到商等于0为止。然后把得到的各个余数按相反的顺序排列。简称"除2取余法"。
  (2)  小数部分:十进制小数转换为二进制小数,采用"乘2取整,顺序排列"法。用2乘以十进制小数,将得到的整数部分取出,再用2乘余下的小数部分,然后再将积
的整数部分取出,如此进行,直到积中的小数部分为0或者达到所要求的精度为止。然后把取出的整数部分按顺序排列起来,即先取出的整数部分作为二进制小数的
高位,后取出的整数部分作为低位有效位。简称"乘2取整法"。
  (3)  含有小数的十进制数转换成二进制,整数、小数部分分别进行转换,然后相加。

  

  

c++如何提高浮点数计算的精度

05-11 17:54