【每日一库】一个零 GC 的缓存库：freecache

> 商业世界里，现金为王；架构世界里，缓存为王。 今天给大家推荐一个零 GC 开销、高并发性能的缓存库：FreeCache，项目地址：<https://github.com/coocood/freecache>，Star 数：2.5k+。 我们知道内存中的对象长期存在会带来昂贵的 GC 开销，使用 FreeCache，你可以在内存中缓存无限数量的对象，而不会增加延迟和吞吐量。 ## 特性 - 能存储数亿个条目 - 零 GC 开销 - 高并发线程安全访问 - 纯 Go 实现 - 过期支持 - 类似 LRU 算法 - 严格限制内存使用 - 附带一个小服务器，支持带有管道功能的基本 Redis 命令 - 迭代器支持 ## 性能 这是基准测试结果与内置 map 的比较结果；Set 性能比内置 map 快约 2 倍；Get 性能比内置 map 慢约 1/2 倍。由于它是基于单线程做的基准测试，因此在多线程环境中，FreeCache 应该比单锁保护的内置 map 快许多倍。 ``` BenchmarkCacheSet 3000000 446 ns/op BenchmarkMapSet 2000000 861 ns/op BenchmarkCacheGet 3000000 517 ns/op BenchmarkMapGet 10000000 212 ns/op ``` ## 使用示例 ```go cacheSize := 100 * 1024 * 1024 cache := freecache.NewCache(cacheSize) debug.SetGCPercent(20) key := []byte("abc") val := []byte("def") expire := 60 // expire in 60 seconds cache.Set(key, val, expire) got, err := cache.Get(key) if err != nil { fmt.Println(err) } else { fmt.Println(string(got)) } affected := cache.Del(key) fmt.Println("deleted key ", affected) fmt.Println("entry count ", cache.EntryCount()) ``` ## 它怎么做到零 GC 开销的？ FreeCache 通过减少指针数量避免了 GC 开销。无论其中存储了多少条目，都只有 512 个指针。通过 key 的哈希值将数据集分割为 256 个段。每个段只有两个指针，一个是存储键和值的环形缓冲区，另一个是用于查找条目的索引切片。每个段都有自己的锁，因此它支持高并发访问。