golang比较浮点数是否相等

郭青耀 · · 3164 次点击 · · 开始浏览    
这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。

由于小数二进制和十进制转换的时候,会有精度丢失的问题,所以我们在比较浮点数是否相等,指的是在一定精度范围内的两个浮点数是否相等。
参看了网上其他人的实现
实现1实现2
基本上都一样,于是我就改了几个值验证了一下,
结果发下

package main

import (
    "fmt"
    "math"
)
const MIN = 0.000001
// MIN 为用户自定义的比较精度
func IsEqual(f1, f2 float64) bool {
    return math.Dim(f1, f2) < MIN
}
func main() {
    a := 0.9
    b := 1.0
        
    if IsEqual(a, b) {
        fmt.Println("a==b")
    }else{
        fmt.Println("a!=b")
    }
}

这两个数相差为0.1 ,大于可以认为相等的精度,应该输出是a!=b,,但是很神奇,这个程序输出的结果是a==b,而且这个程序被多个网站转载。

那么这个程序一定是有什么地方没有考虑到。
这是一个逻辑很简单的程序,不知道当初写这个程序的人为什么要使用math.Dim,看起来高大上,百度了一下,前两条给的说明是:https://my.oschina.net/u/3625745/blog/3062717,https://www.lmlphp.com/user/2043/article/item/342102/含义“复数的维度”。老实说没有看懂。按照浮点数的原理,这里equal功能只是,比较一下大小,两者相差(不关心正负,需要取绝对值),小于可以接受的精度,即可认为相等

package main

import "fmt"

const MIN = 0.000001
// MIN 为用户自定义的比较精度
func IsEqual(f1, f2 float64) bool {
    if f1>f2 {
        return f1-f2< MIN
    }else{
        return f2-f1<MIN
    }
}

func main() {
    a := 0.9
    b := 1.0
    if IsEqual(a, b) {
        fmt.Println("a == b")
    }else{
        fmt.Println("a!=b")
    }
}

这样输出的结果就对了,顺便也测试了精度小于0.000001的两个数直接判断相等了。

那么原来的程序错在什么地方呢?
查看看一下math.Dim的文档," Dim() function provided by the math package return the maximum of a-b or 0. "
也就是这个函数比较第一个参数和第二个参数的差值,然后和0比较大小。我们这里需要精度是两个参数的差的绝对值,不关注正负。

package main

import (
    "fmt"
    "math"
)
const MIN = 0.000001
// MIN 为用户自定义的比较精度
func IsEqual(f1, f2 float64) bool {
    if f1>f2{
        return math.Dim(f1, f2) < MIN
    }else{
        return math.Dim(f2, f1) < MIN
    }
}
func main() {
    a := 0.9
    b := 1.0
        
    if IsEqual(a, b) {
        fmt.Println("a==b")
    }else{
        fmt.Println("a!=b")
    }
}

这样运算结果就对了。但是这样多引入了math包,实际程序也没有变得简单。所以写程序还是应该追求简单实用,不要为了高大上而复杂。


有疑问加站长微信联系(非本文作者)

本文来自:简书

感谢作者:郭青耀

查看原文:golang比较浮点数是否相等

入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:692541889

3164 次点击  
加入收藏 微博
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传