你的float用对了吗

介绍

很多人都知道float是浮点类型,它不能表示数据范围内的所有数值。但是,实际使用或编码时,你又是否记得这句话呢?下面是stackoverflow中的一个问题:

why does a float variable stop incrementing at 16777216

下面是待执行的代码:

float a = 0;
while (true)
{
    a++;
    if (a > 16777216)
        break; // Will never break... a stops at 16777216
}

导致上面break不会跳出的原因就是:a是加不到16777217的,因为float真的无法表示16777217

解释

16777216就是224,按照下面的方式来表示32个bit位

  • 符号位:0(正数)
  • 指数位:24(存储时按24+127的bit来存)(24+127=151=10010111)
  • 尾数:0
  • 所以16777216的二进制就是0 10010111 00000000000000000000000
  • 所以16777216=(+)1*224*(1.0+0.0)=224=16777216

下面这张图显示了16777216的二进制表示

现在,让我们看看float是如何表示16777217(224+1)的。

  • 符号位和指数位相同
  • 尾数需要是2-24,才能得到16777217,即1*224*(1.0+2-24)=224+1
  • 问题来了,尾数部分不能是2-24,因为float的尾数位数只有23个bit
  • 所以,32位float类型不能精确地表示16777217

float能表示的下一个数值是16777218=1*224*(1+2-23)=224+2

 参考

https://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html

http://stackoverflow.com/questions/12596695/why-does-a-float-variable-stop-incrementing-at-16777216-in-c?noredirect=1&lq=1

http://floating-point-gui.de/basic/

原文地址:https://www.cnblogs.com/songqiang/p/what-you-should-know-about-float.html