double类型计算

由于double类型转换成二进制时可能出现不能被精确的表示,导致我们在进行double类型的计算时,会出现数值不正确的情况。

解决以上问题,我们都很知道应该使用BigDecimal来处理,通常的操作是

double multi(double first, int secord) {
    BigDecimal firstBig = new BigDecimal(first); // 使用double类型参数构造BigDecial实例
    BigDecimal secondBig = new BigDecimal(second);
    return firstBig.multiply(secondBig).doubleValue();
}

实际使用过程中貌似也都听正常的,但是当我们计算result = multi(0.3, 3) 时会发现,result!=0.9,而是0.89999....

Why!!?

此时查看BigDecimal(double)构造函数的注释:

即当我们使用double类型作为构造函数的参数时,所生成的BigDecimal实例的值与double类型是一直的!如注释中所说,此时0.1的实际值并非是0.1!

按照注释中的推荐,为了在构造BigDecimal实例时,所得到的值就是我们所传进去的参数的值,我们改用BigDecimal(String)作为构造函数。

修改以上代码如下:

double multi(double first, int secord) {
    BigDecimal firstBig = new BigDecimal(Double.toString(first)); // 使用String类型参数构造BigDecial实例
    BigDecimal secondBig = new BigDecimal(Double.toString(second));
    return firstBig.multiply(secondBig).doubleValue();
}

此时进行计算result = multi(0.3, 3) 所得的结果result就为0.9了

原文地址:https://www.cnblogs.com/ivan-aldrich/p/5522378.html