暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

LevelDB 完全解析(3):SSTable

coredump 2021-04-25
730

前文回顾

文中“蓝色字体”部分均有跳转,大部分是引用了 Github 上的源码链接,可以点击【阅读原文】查看。

SSTable 全称 Sorted String Table,顾名思义,里面的 key-value 都是有序保存的。除了两个 MemTable,LevelDB 中的大部分数据是以 SSTable 的形式保存在外存上。

SSTable 由 compaction 生成:

  • Minor Compaction:一个 MemTable 直接 dump 成 level-0 的一个 SSTable。
  • Major Compaction:多个 SSTable 进行合并、重整,生成 1~多个 SSTable。

SSTable 的格式


在一个 SSTable 中,文件末尾的 Footer[1] 是定长的,其他数据都被划分成一个个变长的 block:index block、metaindex block、meta blocks、data blocks。

  • Footer

Footer 的大小为 48 字节,内容是一个 8 字节的 magic number[2] 和两个 BlockHandle[3] —— index handle 和 meta index handle,index handle 指向 index block,meta index handle 指向 meta index block。BlockHandle 相当于一个 block 的“指针”,由这个 block 的 offset(varint64) 和 size(varint64) 组成。由于采用 varint64 进行编码,每个 varint64 最多占用 10 字节[4],所以一个 BlockHandle 最多占用 20 字节。因为 BlockHandle 是定长,而 BlockHandle 编码的结果是变长的,所以 Footer 编码的时候需要进行 padding[5]

  • Index Block

Index block 中的每条 key-value 指向一个 data block。value 比较简单直接,就是对应的 data block 的 BlockHandle。key 是一个大于等于当前 data block 中最大的 key 且小于下一个 block 中最小的 key,这一块的逻辑可以参考 FindShortestSeparator 的调用[6]实现[7]。这样做是为了减小 index block 的体积,毕竟我们希望程序运行的时候,index block 被尽可能 cache 在内存中。

  • Meta Index Block

Meta index block 中的每条 key-value 指向一个 meta block。目前 LevelDB 中只有一个 meta block,保存的是这个 SSTable 中的 key 组成的 bloom filter。

  • Data Block

Data block 是实际的 key-value 数据。

Block

Index block[8]meta index block[9]data block[10] 都是通过 BlockBuilder[11] 来生成,通过 Block[12] 来读取的。最简单的方式,block 里面只需要将一个个 key-value 有序保存。但是为了节省空间,LevelDB 在 block 的内部实现了前缀压缩[13]

前缀压缩利用了 key 的有序性(前缀相同的有序 key 会聚集在一起)对 key 进行压缩,每个 key 与前一个 key 相同的前缀部分可以不用保存。读取的时候再根据规则进行解码即可。

LevelDB 将 block 的一个 key-value 称为一条 entry。每条 entry 的格式如下:

  • shared_bytes:和前一个 key 相同的前缀长度。
  • unshared_bytes:和前一个 key不同的后缀部分的长度。
  • value_length:value 数据的长度。
  • key_delta:和前一个 key不同的后缀部分。
  • value:value 数据。

一个 block 的数据格式如下:

  • restarts:在 LevelDB 中,默认每 16 个 key[14] 就会重新计算前缀压缩,重新开始计算前缀压缩到第一个 key 称之为重启点(restart point)。restarts 数组记录了这个 block 中所有重启点的 offset。
  • num_restarts:是 restarts 数组的长度。

在 block 中查找一个 key(Block::Iter::Seek[15]):

  1. 先在 restarts 数组的基础上进行二分查找[16],确定 restart point。
  2. 从 restart point 开始遍历查找[17]

Filter

Meta block(bloom filter)由 FilterBlockBuilder[18] 来生成,通过 FilterBlockReader[19] 来读取。

后面会单独写一篇介绍 filter。

参考资料

[1]

Footer: https://github.com/google/leveldb/blob/1.22/table/format.h#L49

[2]

magic number: https://github.com/google/leveldb/blob/1.22/table/format.h#L77

[3]

BlockHandle: https://github.com/google/leveldb/blob/1.22/table/format.h#L24

[4]

10 字节: https://github.com/google/leveldb/blob/1.22/table/format.h#L27

[5]

padding: https://github.com/google/leveldb/blob/1.22/table/format.cc#L35

[6]

调用: https://github.com/google/leveldb/blob/1.22/table/table_builder.cc#L104

[7]

实现: https://github.com/google/leveldb/blob/1.22/util/comparator.cc#L29

[8]

Index block: https://github.com/google/leveldb/blob/1.22/table/table_builder.cc#L44

[9]

meta index block: https://github.com/google/leveldb/blob/1.22/table/table_builder.cc#L43

[10]

data block: https://github.com/google/leveldb/blob/1.22/table/table_builder.cc#L214

[11]

BlockBuilder: https://github.com/google/leveldb/blob/1.22/table/block_builder.h#L18

[12]

Block: https://github.com/google/leveldb/blob/1.22/table/block.h#L18

[13]

前缀压缩: https://github.com/google/leveldb/blob/1.22/table/block_builder.cc#L80-L84

[14]

每 16 个 key: https://github.com/google/leveldb/blob/1.22/include/leveldb/options.h#L105

[15]

Block::Iter::Seek: https://github.com/google/leveldb/blob/1.22/table/block.cc#L163

[16]

二分查找: https://github.com/google/leveldb/blob/1.22/table/block.cc#L166-L189

[17]

遍历查找: https://github.com/google/leveldb/blob/1.22/table/block.cc#L192-L200

[18]

FilterBlockBuilder: https://github.com/google/leveldb/blob/1.22/table/filter_block.h#L31

[19]

FilterBlockReader: https://github.com/google/leveldb/blob/1.22/table/filter_block.h#L53


文章转载自coredump,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论