redis的数据结构——字典

一、前言

字典又称作符号表、关联数组或映射,是一种用于保存键值对的数据结构。在字典中,一个键(key)可以和一个值(value)进行关联,这些关联的键和值称之为键值对。字典经常作为一种数据结构被内置在很多的高级语言中,但Redis所使用的C语言并没有内置这种数据结构,因此Redis构建了自己的字典模型。

字典在Redis中的使用十分广泛,如Redis的数据库就是使用字典作为底层实现,除了数据库之外,字典还是哈希键的底层实现之一,当一个哈希表包含的键值对较多,或者键值对中的元素都是比较长的字符串时,Redis就会使用字典作为哈希键的底层实现。

二、示例

        set  msg  "hellow"

        执行上面的命令,Redis会创建key为msg,值为hellow的键值对,这个键值对就是保存在字典中的。

三、字典的实现

Redis的字典使用哈希表作为底层实现,一个哈希表可以有多个哈希节点,而每个哈希节点就保存了字典中的一个键值对。接下来将分别介绍Redis的哈希表,哈希表节点和字典的实现。

3.1、哈希表

Redis字典使用的哈希表的结构如下:

typedef struct dictht {
      //哈希表数组
     dicEntry **table;
     //哈希表大小
     unsigned long size;
     //哈希表大小掩码,用于计算索引值
     //总是等于size-1
     unsigned long sizemask;
     //该哈希表已有节点数量
     unsigned long used;  

}dictht;

table属性是一个数组,数组中的每一个元素都是指向dicEntry结构的指针,每个dicEntry保存着一个键值对。

size属性记录哈希表的大小,也就是table数组的大小。

used属性则记录了哈希表目前已有节点(键值对)的数量。

sizemask属性的值总等于 size-1,这个属性和哈希值一起决定一个键应该放到table数组的哪个索引上面。

3.2、哈希表节点 

Redis的哈希表节点使用dictEntry数据结构表示,每一个dictEntry结构都保存着一个键值对:

typedef struct dictEntry{

    void *key;
 
   union {
           
          void *value;

          uint64_tu64;

          int64_ts64;
   } v;

   //指向下一个哈希表节点,形成链表
   struct dictEntry *next;

}

key属性保存着键值对中的键,而v属性则保存着键值对中的值,其中键值对中的值可以是一个指针,或者一个uint64_tu64整数,又或者是int64_ts64整数。

next属性是指向另一个哈希表节点的指针,这个指针可以将多个哈希值相同的键值对链接在一起,以解决键冲突问题。

如图是一个包含两个键值对的哈希表的结构:

 3.3、字典

 Redis中字典的结构如下所示:

typedef struct dict {
    //特定类型的函数
    dictType *type;
    //私有数据
    void *privdata;
    //哈希表
    dictht  ht[2];
    //rehash索引
    //当rehash不在进行时,值为-1
    int trehashidx;

}dict;

 type属性和privdata属性是针对不同类型的键值对,为创建多态字典而设置的;

ht属性是一个包含两个项的数组,数组中的每一项都是dictht哈希表,一般情况下,字典只是用ht[0]哈希表,ht[1]哈希表只会在对ht[0]进行rehash时使用。、

除了ht[1]之外,另一个和rehash有关的属性就是rehashidx,它记录了rehash目前的进度,如果目前没有进行rehash,那么它的值为-1.

下图展示了一个字典的结构:

 四、哈希算法

当要将一个新的键值对加入到字典里时,程序需要先根据键值对的键计算出哈希值和索引值,然后再根据索引值,将包含新键值对的哈希表节点放到哈希表数组的指定索引上面。

Redis计算哈希值和索引值的方法如下:

#使用字典设置的hash函数,计算键key的哈希值

hash = dict->type-hashFunction(key);

#使用sizemask属性和哈希值,计算出索引值,根据情况ht[x]可以是ht[0]或ht[1]

index = hash & dict ->ht[x].sizemask;

当字典被用作数据库底层实现或哈希键的底层实现时,Redis使用MurmurHash算法来计算哈希值。这种算法的优点是即使输入的键是有规律的,算法仍能给出一个很好的随机分布性,并且算法的计算速度也非常快。

五、解决键冲突

 当有两个或者以上的键被分配到了哈希表数组的同一个索引上面时,我们称这些键发生了冲突,Redis使用链地址法来解决键冲突,每个哈希表节点都有一个next指针,多个哈希表节点可以用next指针构成一个单向链表,被分配到同一个索引上的多个节点可以用这个单项链表链接起来,这就解决了键冲突问题

例如将k2和v2加入到字典中,并且计算得到k2的哈希值为2,那么k1和k2将发生冲突,解决的办法就是将k1和k2用next连接在一起。

 

六、rehash

随着操作的不断执行,哈希表中保存的键值对会不断的增多或减少,为了让哈希表的负载因子维持在一个合理的范围内,当哈希表保存的键值对数量太大或太少时,程序需要对哈希表进行相应的扩展或者收缩。扩展或收缩哈希表的操作可以通过Rehash来完成,Redis对字典的哈希表执行rehash操作步骤如下:

  1. 为字典的ht[1]哈希表分配空间,这个哈希表的空间大小取决于要执行的操作,以及ht[0]当前包含的键值对数量(也就是used属性的值)。如果执行扩展操作,那么ht[1]的大小为第一个大于等于ht[0].used*2的2n (2的n次幂);如果执行的是收缩操作,那么ht[1]的大小为第一个大于ht[0].used的2的n次幂。
  2. 将保存在ht[0]中的键值对rehash到ht[1]上面:rehash指的是重新计算键的哈希值和索引值,然后将键值对放到ht[1]哈希表指定的位置。
  3. 当ht[0]包含的所有键值对都迁移到ht[1]之后,释放ht[0],将ht[1]设置为ht[1],并在ht[1]创建新的空白哈希表,为下一次rehash做准备。

哈希表的扩展与收缩

当下面条件任意一个被满足时,程序会自动开始进行哈希表扩展操作。

  • 服务器目前没有执行BGSAVE命令或者BGREWRITEAOF命令,并且哈希表的负载因子大于等于1。
  • 服务器目前正在执行BGSAVE命令或者BGREWRITEAOF命令,并且哈希表的负载因子大于等于5。

 

laod_factor = ht[0].used / ht[0].size;

根据BGSAVE命令或者BGREWRITEAOF命令是否正在执行,服务器进行扩展操作所需要的负载因子并不相同,这是因为BGSAVE命令或者BGREWRITEAOF命令在执行过程中,Redis需要创建当前服务器进程的子进程,而大多数操作系统都采用写时复制技术来优化子进程的使用效率,所有在子进程执行期间,服务器会提高扩展所需要的负载因子,从而尽量避免在子进程存在期间进行哈希表扩展操作,这可以避免不必要的内存写入操作,最大限度的节约内存。

当哈希表的负载因子小于0.1时,程序自动对哈希表进行收缩操作。

七、渐进式rehash

Redis的字典对哈希表进行Rehash操作并不是一次性完成的,而是分多次、渐进式的进行,这样做的原因是为了对大量键值对进行rehash对服务器性能造成影响。

渐进式rehash步骤如下:

  1. 为ht[1]分配空间,让字典同时持有ht[0]和ht[1]两个哈希表。
  2. 在字典中维持一个索引计数器变量rehashidx,并将它的值设为0,表示rehash工作正式开始。
  3. 在rehash期间,每次对字典进行添加、删除、查找或者更新操作时,程序除了执行指定的操作以外,还会顺带将ht[0]哈希表在rehashidx索引上的所有键值对rehash到ht[1]上,当rehash完成时,程序将rehashidx属性值增加一。
  4. 随着字典操作的不断进行,最终在某个时间点ht[0]上的所有键值对会被rehash到ht[1]上,这时程序将rehashidx的值设置为-1,表示rehash操作完成。

渐进式rehash的好处在于它采用分而治之的方式,将rehash的工作量分摊到每次对字典的添加,删除,查找和更新的操作上,从而避免集中式rehash带来的庞大计算量。

八、总结

 字典被广泛用于实现Redis的各种功能中,包括数据库和哈希键。

Redis的字典使用哈希表作为底层实现,每个字典带有两个哈希表,一个平时使用,一个Rehash时使用

哈希表采用链地址法解决键冲突,。

字典采用渐进式Rehash而不是集中式rehash。

 

 

 

原文地址:https://www.cnblogs.com/ChenBingJie123/p/13490980.html