关于浮点数计算不准的问题

 1 #include <stdio.h>
 2 int main()
 3 {
 4     float x = 1.3;
 5     x = x - (int)x;
 6     int j = (int)(x*10);
 7     int i = (int)(x*10+0.00005);
 8     printf("j=%d 
",j);//j=2
 9     printf("i=%d 
",i);//i=2
10     return 0;
11 }
View Code

上面的代码一个J=2,一个,i=3,这说明了使用浮点数不注意很容易出错,浮点数存在精度问题,因为浮点数不能准确的存储只能用最接近的,所以要么给其加一个精度(#define EPS (0.000001)),要么用double.

如float(4字节),double(8字节),(精度越来越高,占字节数越多)精度即使再高,也是有限的,在计算机中,越是精度高,需要占的内存越大,而在解决实际问题中成本也就越大,因此不得不结合考虑精度与成本的问题.

原文地址:https://www.cnblogs.com/jieruishu/p/10879405.html