go: 小数(浮点数)运算的常用做法

2023-03-14 17:34:16 浏览数 (1)

浮点数一直以来存在舍入和精度损失两个问题。例如:

代码语言:javascript复制
    m1 := 8.3
    m2 := 3.0
    c := m1 - m2
    // 浮点数精度损失
    print("%v", c) // 5.300000000000001

在go中,有两条经验。

大部分场景下float64足够

在大部分计算场景下,精度损失微乎其微。不影响最终的结果。

只需要在最终结果取值时,对结果进行舍入即可。舍入的方式有两种。

使用math.Floor直接对浮点结果进行舍入

方法来源https://blog.thinkeridea.com/202101/go/round.html

代码语言:javascript复制
// Round 四舍五入,ROUND_HALF_UP 模式实现
// 返回将 val 根据指定精度 precision(十进制小数点后数字的数目)进行四舍五入的结果。precision 也可以是负数或零。
func Round(val float64, precision int) float64 {
    p := math.Pow10(precision)
    return math.Floor(val*p 0.5) / p
}

使用方法:

代码语言:javascript复制
Round(1555.15807659924030304, 0) = 1555,Round(1555.15807659924030304, 2) = 1555.16

使用decimal进行取整

decimal库可以进行精确的小数运算,一般也支持小数的舍入。遗憾的是go本身未实现Decimal类型。

最常用的decimal库是: "github.com/shopspring/decimal"

代码语言:javascript复制
    "github.com/shopspring/decimal"
    
    print("%v", c) // 5.300000000000001
    // 将精度损失的数进行取整,获得一个合理的定点小数
    d := decimal.NewFromFloat(c).Round(2)
    print("%v", d) // 5.3
    
    // 也能再次转换为一个float64的数
    fd, ok := d.Float64()
    print("%v %v", fd, ok) // 5.3, false

抛弃浮点数,需要精确计算时,直接使用decimal库

代码语言:javascript复制
    // 可将浮点数初始化成decimal类型再进行运算
    d1 := decimal.NewFromFloat(8.3)
    d2 := decimal.NewFromFloat(3.0)
    d3 := d1.Sub(d2)
    print("%v", d3) // 5.3

此时,因为抛弃了浮点类型,所有的结果运算都是精确的。但需要使用decimal的方法,而不能再使用 /-等操作符了。便利性差一点。

0 人点赞