redis删除策略

过期数据

Redis是一种内存级数据库,所有数据均存放在内存中,内存中的数据可以通过TTL指令获取其状态

127.0.0.1:6379> keys *
1) "num"
2) "lock-num"
127.0.0.1:6379> ttl num
(integer) -1
127.0.0.1:6379> ttl lock-num
(integer) -1
  • XX :具有时效性的数据
  • -1 :永久有效的数据
  • -2 :已经过期的数据 或 被删除的数据 或 未定义的数据

数据删除策略

时效性数据的存储结构

数据删除策略的目标

在内存占用与CPU占用之间寻找一种平衡,顾此失彼都会造成整体redis性能的下降,甚至引发服务器宕机或 内存泄露

定时删除

创建一个定时器,当key设置有过期时间,且过期时间到达时,由定时器任务立即执行对键的删除操作

 优点:节约内存,到时就删除,快速释放掉不必要的内存占用

 缺点:CPU压力很大,无论CPU此时负载量多高,均占用CPU,会影响redis服务器响应时间和指令吞吐量

 总结:用处理器性能换取存储空间(拿时间换空间)

惰性删除

 数据到达过期时间,不做处理。等下次访问该数据时

 如果未过期,返回数据

 发现已过期,删除,返回不存在

 优点:节约CPU性能,发现必须删除的时候才删除

 缺点:内存压力很大,出现长期占用内存的数据

 总结:用存储空间换取处理器性能(拿时间换空间)

定期删除

 周期性轮询redis库中的时效性数据,采用随机抽取的策略,利用过期数据占比的方式控制删除频度

 特点1:CPU性能占用设置有峰值,检测频度可自定义设置

 特点2:内存压力不是很大,长期占用内存的冷数据会被持续清理

 总结:周期性抽查存储空间 expireIfNeeded() (随机抽查,重点抽查)

工作过程

 Redis启动服务器初始化时,读取配置server.hz的值,默认为10

127.0.0.1:6379> info server
# Server
redis_version:6.2.5
redis_git_sha1:00000000
redis_git_dirty:0
redis_build_id:b069bc8d4cbe7f1a
redis_mode:standalone
os:Linux 3.10.0-1160.el7.x86_64 x86_64
arch_bits:64
multiplexing_api:epoll
atomicvar_api:atomic-builtin
gcc_version:4.8.5
process_id:1124
process_supervised:no
run_id:efa3264450227f51ca763bb995728a82109c565b
tcp_port:6379
server_time_usec:1632361984654829
uptime_in_seconds:87374
uptime_in_days:1
hz:10
configured_hz:10
lru_clock:4972032
executable:/usr/local/bin/redis-server
config_file:/usr/local/bin/redis-config/redis-6379.conf
io_threads_active:0

 每秒钟执行server.hz次serverCron()

 activeExpireCycle()对每个expires[*]逐一进行检测,每次执行250ms/server.hz

 对某个expires[*]检测时,随机挑选W个key检测

 如果key超时,删除key

 如果一轮中删除的key的数量>W*25%,循环该过程

 如果一轮中删除的key的数量≤W*25%,检查下一个expires[*],0-15循环

 W取值=ACTIVE_EXPIRE_CYCLE_KEYS_PER_LOO(PACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP)属性值

注意:

文件是:redis源码下srcexpire.c

1、ACTIVE_EXPIRE_CYCLE_KEYS_PER_LOOP变量 (默认值:20)没有ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP变量

2、这个如何设置???有人说在配置文件中配置,具体怎么配置呢

 参数current_db用于记录activeExpireCycle() 进入哪个expires[*] 执行

 如果activeExpireCycle()执行时间到期,下次从current_db继续向下执行

逐出算法

当新数据进入redis时,如果内存不足怎么办?

Redis使用内存存储数据,在执行每一个命令前,会调用freeMemoryIfNeeded()检测内存是否充足。如 果内存不满足新加入数据的最低存储要求,redis要临时删除一些数据为当前指令清理存储空间。清理数据 的策略称为逐出算法。

注意:逐出数据的过程不是100%能够清理出足够的可使用的内存空间,如果不成功则反复执行。当对所 有数据尝试完毕后,如果不能达到内存清理的要求,将出现错误信息。

(error) OOM command not allowed when used memory >'maxmemory'

影响数据逐出的相关配置

最大可使用内存

maxmemory

占用物理内存的比例,默认值为0,表示不限制。生产环境中根据需求设定,通常设置在50%以上。

每次选取待删除数据的个数

maxmemory-samples

选取数据时并不会全库扫描,导致严重的性能消耗,降低读写性能。因此采用随机获取数据的方式作为待检测删除数据

删除策略

maxmemory-policy

达到最大内存后的,对被挑选出来的数据进行删除的策略

检测易失数据(可能会过期的数据集server.db[i].expires )

① volatile-lru:挑选最近最少使用的数据淘汰

② volatile-lfu:挑选最近使用次数最少的数据淘汰

③ volatile-ttl:挑选将要过期的数据淘汰

④ volatile-random:任意选择数据淘汰

检测全库数据(所有数据集server.db[i].dict )

⑤ allkeys-lru:挑选最近最少使用的数据淘汰

⑥ allkeys-lfu:挑选最近使用次数最少的数据淘汰

⑦ allkeys-random:任意选择数据淘汰  放弃数据驱逐

⑧ no-enviction(驱逐):禁止驱逐数据(redis4.0中默认策略),会引发错误OOM(Out Of Memory)

原文地址:https://www.cnblogs.com/WarBlog/p/15323323.html