double转long引发的一次线上故障

2023-04-13 07:59:27 浏览数 (2)

问题背景

问题:部分客户订单页面展示异常问题

原因:double类型转成long类型,精度损失导致线上的故障。

下面为出现问题的具体代码

问题验证

我们看下面会分别输出什么结果:

代码语言:javascript复制
837378982649737216
837378982649737276
837378982649737276

为什么精度会丢失:

double类型占用64位

1bit(符号位)

11bit(指数位)

52bit(尾数位)

科学计数法:拿十进制举例子:1.23x10的9次方:1.23就是尾数,9就是指数

所以double类型表示的数的范围是比long类型要大,但是,由于浮点数是基于科学计数法的,因此它们不能精确地表示某些值,例如非常大或非常小的数字。因为尾数位只用了52bit来表示。

建议:

禁止直接将double类型转成long类型,对于一些高精度计算推荐使用BigDecimal

BigDecimal是Java中提供的一种高精度数字类型,它可以表示任意精度的十进制数值,计算过程中不会有精度损失。

由于BigDecimal类型提供了高精度的数字计算功能,因此通常用于需要精确计算的金融应用程序、科学计算和工程计算等领域。

0 人点赞