log-structured merge-tree (LSM tree) 是一种被精心设计的数据结构，常用于处理大量写入的场景。通过对写入操作进行顺序写入优化实现性能提升。LSM tree 是很多数据库内部的核心数据结构，包括BigTable, Cassandra, Scylla，和 RocksDB。
SSTables
LSM tree 通过一种叫做 SSTable (Sorted Strings Table) 的格式，持久化到硬盘上。正如其名，SSTable 是一种用来存储有序的键值对的格式，其中键的组织是有序存储的。一个SSTable 会包括多个有序的子文件，被称为 segment 。 这些 segments 一旦被写入硬盘，就不可以再修改了。一个简单的SSTable 例子如下图所示：
我们可以看到，在每个 segment 中的键值对都是按照键的顺序有序组织的。
写入数据
由于 LSM tree 只会进行顺序写入，所以自然而然地就会引出这样一个问题，写入的数据可能是任意顺序的，我们又如何保证数据能够保持 SSTable 要求的有序组织呢？
这就需要引入新的常驻内存 (in-memory) 数据结构: memtable_了, _memtable 的底层数据结构则有点像红黑树,当由新的写入操作则将数据插入到红黑树中。
写入操作会先把数据存储到红黑树中，直至红黑树的大小达到了预先定义的大小。一旦红黑树的大小达到阈值，就会把数据整个刷到磁盘中，这个过程就可以把数据保证有序写入了。经过一层数据结构的承接，就可以保证单向顺序写入的同时，也能保证数据的有序了。
读取数据
那么我们是如何从SSTable中查找数据的呢？一种naive的方法就是遍历所有的 segments，寻找我们需要的key。从最新的 segment 到最老的 segment 一一遍历，知道找到目标key为止。显然，这种方式在寻找刚刚写入的数据是比较快的，但是文件一多就不太行了。因此也有针对这个问题的优化，稀疏索引 就是一种在内存中对数据检索进行优化的技术。
我们可以通过这个索引快速找到所需键的前面和后面的偏移量（就是最近的相邻值），这样我们就只需要扫描很小一部分的 segments 文件就可以了。以如图所示的场景举例，当我们需要搜索 dollar 这个值，我们可以通过二分查找搜索稀疏索引，可以知道 dollar 处于 dog 和 downgrade之间。因此我们只需要搜索 17208 和 19504 之间的 segment 来得到我们所需的值，如果搜索不到则可返回未命中。
译者注：稀疏索引和跳表都是为了解决快速索引的问题，根据不同设计具体选择。
上面优化在查找存在的数据其实已经不错了，但是在搜索不存在的key值的时候还是要遍历所有的 segment 才可以确定。为了解决这个问题，就需要引入 布隆过滤器 。布隆过滤器是一种以空间换时间的数据结构，能够帮助我们快速确定某个值是否不存在（如果布隆过滤器认为该值存在，也可能是实际不存在的）。我们可以在写入数据的时候同时更新布隆过滤器，来加速不存在数据的检索。
数据合并
随着时间的推移，整个存储系统将会存储非常多的segment文件，所以这些文件需要进行一定的整理和合并，避免文件太多无法访问。这个文件整理的过程被称为“数据合并” (compaction)。数据合并是一个后台线程，将会持续地将老的segment 合并到一起变成新的 segment。
如图所示，我们可以看到 segment 1 和 segment 2 都有 key 为 dog 的两个值。合并后的新 segment 将会保留更新的值，因此会保留原有 segment 2 里面的值 84，即segment 4 中的值是 dog => 84。一旦合并过程已经完成新的 segment 写入，那么原有的老 segment 文件将会被删除。
删除数据
我们已经解释了读取数据和写入数据的过程，那么删除数据又是如何处理的呢？我们已经知道 SSTable 是不可变的，所以里面的数据当然也不能够删除。其实删除操作其实和写入数据的操作是一样的，当需要删除数据的时候，我们把一个特定的标记（我们称之为 墓碑(tombstone) ）写入到这个key对应的位置，以标记为删除。
上图演示了原来 key 为 dog 的值为 52，而删除之后就会变成一个墓碑的标记。当我们搜索键 dog的时候，将会返回数据无法查询，这就意味着删除操作其实也是占用磁盘空间的，最后墓碑的值将会被压缩，最后将会从磁盘删除。
总结
我们已经基本描述了 LSM tree 引擎是如何工作的：
- 写入操作是先写入内存的（被成为 memtable）。所有的用于加速查询的数据结构（布隆过滤器和稀疏索引）都会被同时更新；
- 当内存中的 memtable 太大了，将会被刷到磁盘中，注意是有序的；
- 当查询时我们先回查询布隆过滤器，如果布隆过滤器返回说键不存在，则实际不存在，如果布隆过滤器说存在，进一步遍历 segment 文件；
- 对于遍历 segment 文件的过程，我们将会先通过稀疏索引找到最小的文件范围，并开始由新到老开始遍历，找到一个key则直接返回。
有疑问加站长微信联系（非本文作者）
