《程序是怎样跑起来的》第三章

本章就主要讲了计算机在进行小数运算时出错的原因。

首先有一些十进制数的小数无法转换成二进制数。例如,十进制数0.1,就无法用二进制数正确表示,小数点后面即使有几百位也无法表示。无法正确表示的数值,就会变成近似值。列如,在遇到循环小数时,计算机就会根据变量数据类型所对应的长度将数值从中间截断或者四舍五人。

在编程语言中用浮点数来表示小数,浮点数包括符号、尾数、基数和指数这四部分。符号部分即1为负,0为正。二进制技术部分为2。尾数部分使用正则表达式,即将小数点前面的值固定为1。指数部分使用EXCESS系统表示,。EXCESS系统表现是指,通过将指数部分表示范围的中间值设为0,使得负数不需要用符号来表示。

避免计算机出现计算错误,首先是回避策略,即无视这些错误。 另一个策略是把小数转换成整数来计算。

原文地址:https://www.cnblogs.com/xl592338942/p/10423654.html