整数运算、浮点运算与溢出

1. 一个示例

sizeof(int) == 4 的机器上,也即 32 位机器,使用 int 型变量存储 200*300*400*500 会得到 -884901888。这显然违犯了整数运算的特性,计算一组正数的乘积不应该产生一个负数结果。

另一方面,整数在计算机中的运算满足数学上对整数运算的许多性质。乘法的结合和交换律,下面的任何一个 C 表达式,都会得到 -884901888 同样的负数,数值溢出结果:

(500*400)*(300*200)
((500*400)*300)*200
((200*500)*300)*400
...

计算机中的浮点运算有时则会呈现出完全不同的数学属性。由于表示的精度有限,浮点运算是不可结合的。

3.14 + (1e20 - 1e20) ⇒ 3.14
(3.14 + 1e20) - 1e20 ⇒ 0.0

2. 计算机对数字的表示

整数运算和浮点运算会有不同的数学特性,是因为它们在处理数字表示有限性的方式不同 —— 整数的编码虽然只能编码一个相对较小的数值范围,但这种表示是精确的;而浮点数虽然可以编码一个较大的数值范围,其表示只是近似的

原文地址:https://www.cnblogs.com/mtcnn/p/9421112.html