超长float64位计算,不知是BUG还是使用错误,请高人指教!

ohko · · 1902 次点击
楼上正解,float64的名字就已经表明它只有64位...
#2
更多评论
qkb_75_go
琴为心声
楼主 对浮点运算的基本概念是不对的。 浮点数因为有 存储长度限制,末尾一定是是有误差的, 浮点数的计算结果要从 最高位 往 最低位 看!不能从 最低位 往最低位看! 楼主需要的是 大数 精确计算, 试下 golang 的 bignum 包吧。
#1