今天下一个测试程序,遇到下面这个问题: 本意是通过下面获得int64的最大值: int64(math.Exp2(float64(64-1))-1)
但是,数值的结果却是-9223372036854775808。
请大佬赐教一下。
谢谢!
今天下一个测试程序,遇到下面这个问题: 本意是通过下面获得int64的最大值: int64(math.Exp2(float64(64-1))-1)
但是,数值的结果却是-9223372036854775808。
请大佬赐教一下。
谢谢!
已找到一种方式,就是通过63bit的uint64转成int64,但是不清楚为什么 int64(math.Exp2(float64(64-1))-1) 这样不行?是Exp2内置行数的bug么?
搞清楚几个问题就好 1,math.Exp2返回的值是什么类型的 2,float64二进制下是怎么表示的?float64是不是有精度考虑,精度到多少