float64减法精度问题

leftluoyi · 2017-11-09 05:45:47 · 2057 次点击 · 大约8小时之前开始浏览置顶

这是一个创建于 2017-11-09 05:45:47 的主题，其中的信息可能已经有所发展或是发生改变。

很简单的程序

var mtime float64 = 3592345111.6499996000
fmt.Println(mtime - math.Trunc(mtime))

返回的结果为什么是

0.6499996185302734

这误差没法接受啊。想要实现的功能是无损地分开整数和小数部分。

怎解？

有疑问加站长微信联系（非本文作者）

入群交流（和以上内容无关）：加入Go大咖交流群，或添加微信：liuxiaoyan-s 备注：入群；或加QQ群：692541889

2057 次点击

加入收藏微博

减法

精度

误差

没法

1 回复 | 直到 2017-11-10 01:33:11

tryfinally · #1 · 7年之前

可以尝试用这个包https://github.com/shopspring/decimal

package main

import (
    "fmt"
    "github.com/shopspring/decimal"
)

func main() {
    var mtime float64 = 3592345111.6499996000
    d := decimal.NewFromFloat(mtime)
    i := d.IntPart()
    d2 := decimal.New(i, 0)
    d3 := d.Sub(d2)
    fmt.Println(d, "-", d2, "=", d3)
}

结果：3592345111.6499996 - 3592345111 = 0.6499996

添加一条新回复（您需要登录后才能回复没有账号？）

请尽量让自己的回复能够对别人有帮助
支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
支持 @ 本站用户；支持表情（输入 : 提示），见 Emoji cheat sheet
图片支持拖拽、截图粘贴等方式上传

关注我

扫码关注领全套学习资料
加入 QQ 群：
- 192706294（已满）
- 731990104（已满）
- 798786647（已满）
- 729884609（已满）
- 977810755（已满）
- 815126783（已满）
- 812540095（已满）
- 1006366459（已满）
- 692541889
加入微信群：liuxiaoyan-s，备注入群
也欢迎加入知识星球 Go粉丝们（免费）

登录和大家一起探讨吧

float64减法精度问题

用户登录

今日阅读排行

一周阅读排行

关注我