前言:
我们知道,计算机在计算数据过程中都要先把源代码翻译成二进制的机器码,然后再进行相关的运算。然而在转换的过程中,有些十进制数无法用一个有限的二进制数来表示,就是说转换的时候出现了精度的丢失问题,所以导致最后在运算的过程中,自然就出现了我们出现的精度问题。
整体思路是先将 double 类型的数据转换成 BigDecimal 来进行运算,
目录
不做处理时:
public static void main(String[] args) { double m1=0.1; double m2=0.2; System.out.println(m1+m2); }运行结果:
BigDecimal 处理后:
public static void main(String[] args) { double m1=0.1; double m2=0.2; BigDecimal p1 = new BigDecimal(Double.toString(m1)); BigDecimal p2 = new BigDecimal(Double.toString(m2)); System.out.println(p1.add(p2).doubleValue()); }运行结果:
不做处理时:
public static void main(String[] args) { double m1=0.11; double m2=0.2; System.out.println(m2-m1); }运行结果:
BigDecimal 处理后:
public static void main(String[] args) { double m1=0.11; double m2=0.2; BigDecimal p1 = new BigDecimal(Double.toString(m1)); BigDecimal p2 = new BigDecimal(Double.toString(m2)); System.out.println(p2.subtract(p1).doubleValue()); }运行结果:
不做处理时:
public static void main(String[] args) { double m1=0.1; double m2=0.2; System.out.println(m1*m2); }运行结果:
BigDecimal 处理后:
public static void main(String[] args) { double m1=0.1; double m2=0.2; BigDecimal p1 = new BigDecimal(Double.toString(m1)); BigDecimal p2 = new BigDecimal(Double.toString(m2)); System.out.println(p1.multiply(p2).doubleValue()); }运行结果:
BigDecimal.ROUND_HALF_UP表示四舍五入,
BigDecimal.ROUND_HALF_DOWN是五舍六入,
BigDecimal.ROUND_UP表示进位处理(就是直接加1),
BigDecimal.ROUND_DOWN表示直接去掉尾数。
不做处理时:
public static void main(String[] args) { double m1=0.14; double m2=0.3; System.out.println(m1/m2); }运行结果:
BigDecimal 处理后:
public static void main(String[] args) { double m1=0.14; double m2=0.3; BigDecimal p1 = new BigDecimal(Double.toString(m1)); BigDecimal p2 = new BigDecimal(Double.toString(m2)); //3代表要保留的位数 System.out.println(p1.divide(p2,3,BigDecimal.ROUND_HALF_UP).doubleValue()); }运行结果:
不做处理时:
public static void main(String[] args) { int m1=3; double m2=0.3; System.out.println(m1*m2); }运行结果:
BigDecimal 处理后:
public static void main(String[] args) { int m1=3; double m2=0.3; BigDecimal p=new BigDecimal(Double.toString(m1)); BigDecimal n=new BigDecimal(Double.toString(m2)); System.out.println(p.multiply(n).doubleValue()); }运行结果: