C++中的浮点数运算的误差
项目中需要计算判定,采用的是float型,如: float a < yLing,
其中:a = 2.0, y则从1.0 + 0.2*n
当n = 4时,条件成立了???? Why /? , , 实际上,需要在n = 5 成立
通过调试发现: yLing = 2.00002 , 而 a = 2.0
NM , float 误差这么大?????
难怪在进行金融财务等数值运算时,请使用decimal 类型,不要使用float和double类型!因为decimal的精度最高!!!
推荐使用一些“现成”的函数库
http://www.oschina.net/project/tag/239/Mathematics-computing?sort=view&lang=21
如:
1 测试用例
(1)
如下C#代码:
float a = 0.65f;
float b = 0.6f;
float c = a - b;
此时c为多少?
0.05?错误!
此时c为0.0499999523!
为什么?
其根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据。
(2)我们发现在0.1 此数转化的时候并不能得到一个准确的二进制数。离它最近的二进制小数是0.00011……,也就是十进制的0.099……,而计算机的存储空间是有限的, 所以我们得不到准确的二进制数,程序在执行时并不是按0.1计算,而是按0.099……计算,所以永远不会出现i==1的情况,也就出现了死循环的情况。
#include <stdio.h>
main()
{
float a,b,c;
a=0.99999999;
b=1.0;
if(a==b)
printf("ddddd");//正确
getch();
}
在执行中,a和b的值认为是相等的,输出: ddddd
我们知道将一个十进制数值转换为二进制数值,需要通过下面的计算方法:
【1】整数部分:连续用该整数除以2,取余数,然后商再除以2,直到商等于0为止。然后把得到的各个余数按相反的顺序排列。简称"除2取余法"。
【2】小数部分:十进制小数转换为二进制小数,采用"乘2取整,顺序排列"法。用2乘以十进制小数,将得到的整数部分取出,再用2乘余下的小数部分,然后再将积 的整数部分取出,如此进行,直到积中的小数部分为0或者达到所要求的精度为止。然后把取出的整数部分按顺序排列起来,即先取出的整数部分作为二进制小数的 高位,后取出的整数部分作为低位有效位。简称"乘2取整法"。
【3】含有小数的十进制数转换成二进制,整数、小数部分分别进行转换,然后相加。
下面我们来分析下:
我们知道将一个十进制数值转换为二进制数值,需要通过下面的计算方法:
(1) 整数部分:连续用该整数除以2,取余数,然后商再除以2,直到商等于0为止。然后把得到的各个余数按相反的顺序排列。简称"除2取余法"。
(2) 小数部分:十进制小数转换为二进制小数,采用"乘2取整,顺序排列"法。用2乘以十进制小数,将得到的整数部分取出,再用2乘余下的小数部分,然后再将积
的整数部分取出,如此进行,直到积中的小数部分为0或者达到所要求的精度为止。然后把取出的整数部分按顺序排列起来,即先取出的整数部分作为二进制小数的
高位,后取出的整数部分作为低位有效位。简称"乘2取整法"。
(3) 含有小数的十进制数转换成二进制,整数、小数部分分别进行转换,然后相加。
c++如何提高浮点数计算的精度