浮点数一直以来存在舍入和精度损失两个问题。例如:
代码语言:javascript复制 m1 := 8.3
m2 := 3.0
c := m1 - m2
// 浮点数精度损失
print("%v", c) // 5.300000000000001
在go中,有两条经验。
大部分场景下float64足够
在大部分计算场景下,精度损失微乎其微。不影响最终的结果。
只需要在最终结果取值时,对结果进行舍入即可。舍入的方式有两种。
使用math.Floor直接对浮点结果进行舍入
方法来源https://blog.thinkeridea.com/202101/go/round.html
代码语言:javascript复制// Round 四舍五入,ROUND_HALF_UP 模式实现
// 返回将 val 根据指定精度 precision(十进制小数点后数字的数目)进行四舍五入的结果。precision 也可以是负数或零。
func Round(val float64, precision int) float64 {
p := math.Pow10(precision)
return math.Floor(val*p 0.5) / p
}
使用方法:
代码语言:javascript复制Round(1555.15807659924030304, 0) = 1555,Round(1555.15807659924030304, 2) = 1555.16
使用decimal进行取整
decimal库可以进行精确的小数运算,一般也支持小数的舍入。遗憾的是go本身未实现Decimal类型。
最常用的decimal库是: "github.com/shopspring/decimal"
代码语言:javascript复制 "github.com/shopspring/decimal"
print("%v", c) // 5.300000000000001
// 将精度损失的数进行取整,获得一个合理的定点小数
d := decimal.NewFromFloat(c).Round(2)
print("%v", d) // 5.3
// 也能再次转换为一个float64的数
fd, ok := d.Float64()
print("%v %v", fd, ok) // 5.3, false
抛弃浮点数,需要精确计算时,直接使用decimal库
代码语言:javascript复制 // 可将浮点数初始化成decimal类型再进行运算
d1 := decimal.NewFromFloat(8.3)
d2 := decimal.NewFromFloat(3.0)
d3 := d1.Sub(d2)
print("%v", d3) // 5.3
此时,因为抛弃了浮点类型,所有的结果运算都是精确的。但需要使用decimal的方法,而不能再使用 /-等操作符了。便利性差一点。