go float 相等比较原

2019-07-19 18:40:02 浏览数 (1)

float比较

因为浮点数不是一种精确的表达方式,所以像整型那样直接用==来判断两个浮点数是否相等是不可行的,这可能会导致不稳定的结果。

下面是一种推荐的替代方 :

使用中f1 > f2，math.Dim返回的是x-y与0中大的那个值，如果f1<f2会出现异常情况

代码语言：javascript复制

import "math"

// p为用户自定义的比较精度0.00001
func IsEqual(f1, f2, p float64) bool {
	return math.Dim(f1, f2) < p
}

//true 比较位数和精度相同
var a float64 = 0.0000123
var b float64 = 0.000012234
var p float64 = 0.0000001

//false p精度比比较位数更精确
var a float64 = 0.0000123
var b float64 = 0.000012234
var p float64 = 0.00000001

//false  精度0.0000002 大于比较精度
var a float64 = 0.0000124
var b float64 = 0.000012234
var p float64 = 0.0000001

总结： flaot 因为底层存放的问题，并不是一个准确的值，所以在比较的时候不能直接进行相等比较，而在使用精度比较的时候，设置精度和比较位数一样，如果使用第二种比比较为更精确一位则两个数就不相等了。

math

0 人点赞

go float 相等比较 原

float比较

go float 相等比较原