博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Java中如何解决double和float精度不准的问题
阅读量:5917 次
发布时间:2019-06-19

本文共 2078 字,大约阅读时间需要 6 分钟。

我们知道浮点数是无法在计算机中准确表示的,例如0.1在计算机中只是表示成了一个近似值,因此,对付点数的运算时结果具有不可预知性。

在进行数字运算时,如果有double或float类型的浮点数参与计算,偶尔会出现计算不准确的情况。如以下示例代码:

[java]   
 
  1. package ex;  
  2.   
  3. public class BigDeciTest {  
  4.     public static void main(String[] args){  
  5.         System.out.println(0.05+0.01);  
  6.         System.out.println(1.0-0.42);  
  7.         System.out.println(4.015*100);  
  8.         System.out.println(123.3/100);  
  9.           
  10.     }  
  11.   
  12. }  
上述代码执行结果如下:

[plain]   
 
  1. 0.060000000000000005  
  2. 0.5800000000000001  
  3. 401.49999999999994  
  4. 1.2329999999999999  

在大多数情况下,使用double和float计算的结果是准确的,但是在一些精度要求很高的系统中,这种问题是非常严重的。

在《Effective Java》中提到一个原则,那就是float和double只能用来作科学计算或者是工程计算,但在商业计算中我们要用java.math.BigDecimal,通过使用BigDecimal类我们可以解决上述问题,实例代码如下:

[java]   
 
  1. package ex;  
  2.   
  3. import java.math.*;  
  4.   
  5. public class BigDecimalDemo {  
  6.     public static void main(String[] args){  
  7.         System.out.println(ArithUtil.add(0.010.05));  
  8.         System.out.println(ArithUtil.sub(1.00.42));  
  9.         System.out.println(ArithUtil.mul(4.015100));  
  10.         System.out.println(ArithUtil.div(123.3100));  
  11.     }  
  12. }  
  13.   
  14. class ArithUtil{  
  15.     private static final int DEF_DIV_SCALE=10;  
  16.       
  17.     private ArithUtil(){}  
  18.       
  19.     public static double add(double d1,double d2){  
  20.         BigDecimal b1=new BigDecimal(Double.toString(d1));  
  21.         BigDecimal b2=new BigDecimal(Double.toString(d2));  
  22.         return b1.add(b2).doubleValue();  
  23.           
  24.     }  
  25.       
  26.     public static double sub(double d1,double d2){  
  27.         BigDecimal b1=new BigDecimal(Double.toString(d1));  
  28.         BigDecimal b2=new BigDecimal(Double.toString(d2));  
  29.         return b1.subtract(b2).doubleValue();  
  30.           
  31.     }  
  32.       
  33.     public static double mul(double d1,double d2){  
  34.         BigDecimal b1=new BigDecimal(Double.toString(d1));  
  35.         BigDecimal b2=new BigDecimal(Double.toString(d2));  
  36.         return b1.multiply(b2).doubleValue();  
  37.           
  38.     }  
  39.       
  40.     public static double div(double d1,double d2){  
  41.   
  42.         return div(d1,d2,DEF_DIV_SCALE);  
  43.           
  44.     }  
  45.       
  46.     public static double div(double d1,double d2,int scale){  
  47.         if(scale<0){  
  48.             throw new IllegalArgumentException("The scale must be a positive integer or zero");  
  49.         }  
  50.         BigDecimal b1=new BigDecimal(Double.toString(d1));  
  51.         BigDecimal b2=new BigDecimal(Double.toString(d2));  
  52.         return b1.divide(b2,scale,BigDecimal.ROUND_HALF_UP).doubleValue();  
  53.           
  54.     }  
  55.       
  56. }  

运行结果如下:

[plain]   
 
  1. 0.06  
  2. 0.58  
  3. 401.5  
  4. 1.233  

详细,请参考API文档。

 

转自:http://blog.csdn.net/yinan9/article/details/17283081 

你可能感兴趣的文章
interview questions
查看>>
SpringMVC的执行流程
查看>>
定位、读取手机状态等权限在6.0系统不管用
查看>>
FTP服务器开发
查看>>
CDN WAF功能开放公测 提升网络应用安全性能
查看>>
vivo Y51的USB调试模式在哪里,开启vivo Y51USB调试模式的教程
查看>>
zip压缩与解压
查看>>
hibernate,get,find,缓存,hibernate缓存
查看>>
DataTable排序,检索,合并详解
查看>>
ClusterwarePRCT-1011:Failed to run "oifcfg".Det...
查看>>
golang grpc 负载均衡
查看>>
解决hive中comment中文乱码的问题
查看>>
windows服务监控工具--Spotlight
查看>>
Run 'setenforce 1'to reenable 解决
查看>>
Linux目录详解
查看>>
cgroup实现cpu绑定和资源使用比例限制
查看>>
为什么你的企业需要SaaS服务
查看>>
51cto学院与我的产品经理之路
查看>>
mysql死锁,等待资源,事务锁,Lock wait timeout exceeded; try restarting transaction解决...
查看>>
如何部署Outlook Anywhere
查看>>