由 BigDecimal 舍入算法引发的血案:ROUND_HALF_UP 与 ROUND_UP

发布于:2023-01-06 ⋅ 阅读:(975) ⋅ 点赞:(0)

背景

        项目里最近新增了一个 Excel 导入功能,要求:保存 Excel 展示出来的数据。

原格式如下

        你以为所见即所得吗?不不不,我们看到的数据实际上是 Excel 做了显示隐藏的功能,程序读出来的确实原始数据,比如【76.3%】这个数据,实际长这样【0.763490452069129】。

实际格式如下:

        为了实现业务的需求,同时保证字符串的处理精度,我们在业务层用 BigDecimal 函数对 EasyExcel 读到的数据做了一层预处理。

预处理代码如下:

    private String dataFormat_2(String num) {
        return new BigDecimal(num).setScale(3, BigDecimal.ROUND_UP) + "";
    }

问题

        从 Excel 的原始数据可以看出,业务方需要我们的处理格式为:四舍五入,保留3位小数。但是,使用上述手段的实际处理却没有达到预期,因为个别数据与与其不符。比如:数据【0.763490452069129】按要求应为【0.763】,实际转换结果为【0.764】。

        后来仔细查询了 BigDecimal 的官方文档,明白是用错了方法导致的,希望小伙伴们不要犯同样的错误,真正的四舍五入应该用【ROUND_HALF_UP】:

    private String dataFormat_1(String num) {
        return new BigDecimal(num).setScale(3, BigDecimal.ROUND_HALF_UP) + "";
    }

两种方法的导入结果做了对比:


总结

        BigDecimal 的舍位运算 setScale(scale, roundingMode)方法中:scale表示精确位数,roundingMode表示舍入模式。其中,【舍入模式常见的模式有四种:

  1. ROUND_UP:进位制,不管保留数字后面是大是小(0除外)都会进位;
  2. ROUND_DOWN:保留设置数字,后面所有直接去除
  3. ROUND_HALF_UP:根据保留数字后一位进行四舍五入( >=5 进位)
  4. ROUND_HALF_DOWN:根据保留数字后一位进行四舍五入(>5进位)
	// 舍位运算
	@Test
	public void testCarry() {
		BigDecimal bigNum = new BigDecimal("2.35");		
		//进位处理,2.31变成2.4 
		System.out.println("ROUND_UP:"+bigNum.setScale(1,BigDecimal.ROUND_UP));	
		//直接删除多余的小数位,如2.35会变成2.3 
		System.out.println("ROUND_DOWN:"+bigNum.setScale(1,BigDecimal.ROUND_DOWN));	
		//四舍五入,2.35变成2.4
		System.out.println("ROUND_HALF_UP:"+bigNum.setScale(1,BigDecimal.ROUND_HALF_UP));
		//五舍六入,2.35变成2.3
        System.out.println("ROUND_HALF_DOWN:"+bigNum.setScale(1,BigDecimal.ROUND_HALF_DOWN));
		//不建议使用的.setScale(1)方法
		System.out.println("setScale:"+bigNum.setScale(2));
	}

BigDecimal的详细用法,见博客:

Java中BigDecimal类的使用方法详解,常用最全系列!_Java Punk的博客-CSDN博客Java在java.math包中提供的API类BigDecimal,用来对超过16位有效位的数进行精确的运算。对于Double类型的运算,通常使用此类处理,来有效避免精度问题。我们从以下五个功能点,来细说使用方法和注意事项:正文:基本运算注意事项:BigDecimal的加减乘除操作,其实最终返回的都是一个新的BigDecimal对象,因为BigDecimal都是不可变的的(BigInte...https://blog.csdn.net/weixin_44259720/article/details/87001849希望可以帮到你 ~ ~ ~