• 2022/08/26 day11:redis:删除策略


    目录

    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ufdyqJA5-1661511168750)(en-resource://database/5283:1)]

    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ereLpDTZ-1661511168751)(en-resource://database/5285:1)]

    过期数据

    Redis中的数据特征

    • redis是一种内存级数据库,所有数据均存放在内存中,内存中的数据可以通过TTL指令获取其状态
      • XX :具有时效性的数据
      • -1 : 永久有效的数据
      • -2 : 已经过期的数据或被删除的数据或为定义的数据

    【疑问】过期的数据真的删除了吗?
    过期数据:曾经设置了有效期的数据,到达了期限而被留下来的的数据
    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-yWfclJ5p-1661511168751)(en-resource://database/5289:1)]
    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-xk6gKToL-1661511168751)(en-resource://database/5291:1)]

    数据删除策略
    控制的是有时效性的数据。已经到期且还占用内存的数据。

    1. 定时删除
    2. 惰性删除
    3. 定期删除

    数据删除策略

    时效性数据的存储结构
    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-YjvxkRgr-1661511168752)(en-resource://database/5293:1)]

    数据删除策略的目标

    在内存占用与CPU占用之间寻找一种平衡,顾此失彼都会造成整体redis性能的下降,甚至引发服务器宕机或内存泄露

    定时删除

    • 创建一个定时器,当key设置有过期时间,且过期时间到达时,由定时器任务立即执行对键的删除操作。(时间到达后,redis存储空间中对应地址斯消失,expires的数据也消失)
    • 优点:节约内存,到时就删除,快速释放掉不必要的内存空间
    • 缺点:CPU压力很大,无论CPU此时负载量多高,均占用CPU,会影响redis服务器响应时间和指令吞吐量。
    • 总结:用处理器性换取存储空间
      • 牺牲CPU的处理时长来保障内存能最大化的释放掉(拿时间换空间)

    惰性删除

    • 数据到达过期时间,不做处理。等下次访问该数据时删除。
      • 如果未过期,返回数据
      • 发现已过期,删除,返回不存在
      • [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-EXV52iiG-1661511168752)(en-resource://database/5297:1)]
    • 优点:节约CPU性能,发现必须删除的时候才删除
    • 缺点:内存压力很大,出现长期占用内存的数据(内存占用量大)
    • 总结:用存储空间换取处理器性能(拿空间换时间)

    定期删除
    【疑问】以上两种方案都走极端,有没有折中的方案呢?有,定期删除

    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-FNiWcu7l-1661511168753)(en-resource://database/5301:1)]

    • Redis启动服务器初始化时,读取配置server.hz的值,默认为10
      • 查看进程
        • ps -ef | grep redis-
      • 杀死进程
        • kill -s 9 1100
      • 启动进程
        • redis-server ./conf/redis-6379.conf
      • 查看hz
        • info server
    • 每秒钟执行server.hz次serverCron()
      • [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-LVIoVs8y-1661511168753)(en-resource://database/5299:1)]
    • activeExpireCycle()对每个expires[ * ]逐一进行检测,每次执行250ms/server.hz
    • 对某个expires[ * ]检测时,随机挑选W个key检测
      • 如果key超时,删除key
      • 如果一轮中删除的key的数量> W * 25%,循环该过程
      • 如果一轮中删除的key的数量<= W * 25% ,检查下一个expires[ * ] ,0-15循环
      • W的取值:ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP属性值(配置文件中设置)
    • 参数current_db用于记录activeExpireCycle()进入哪一个expires{ * ]执行

    总结:

    • 周期性轮询redis库中的时效性数据,采用随机抽取的策略,利用过期数据占比的方式控制删除频度
    • 特点1:CPU性能占用设置有峰值,检测频度可自定义设置
    • 特点2:内存压力不是很大,长期占用内存的冷数据会被持续清理
    • 总结:周期性抽查存储空间(随机抽查,重点 抽查)

    删除策略比对
    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-DY0KYnZm-1661511168753)(en-resource://database/5303:1)]

    逐出算法

    新数据进入检测

    【疑问】当新数据进入redis时,如果内存不足怎么办?
    (内存里面的数据全都是长期存在的,不带有效期的数据,这时候怎么玩?此时,删除策略就没有用了。)

    • Redis使用内存存储数据,在执行每一个命令前,会调用freeMemorylfNeeded()检测内存是否充足。如果内存不满足新加入数据的最低存储要求,redis要临时删除一些数据为当前指令清理存储空间。清理数据的策略称为逐出算法或淘汰算法。(临时删除这个操作叫做数据淘汰或者叫数据逐出)’
    • 注意:逐出数据的过程不是100%能够清理出足够的可使用的内存空间,如果不成功则反复执行。当对所有数据尝试完毕后,如果不能达到内存清理的要求,将出现错误信息。
      • [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Eh3NsrXf-1661511168754)(en-resource://database/5305:1)]

    影响数据逐出的相关配置

    • 最大可使用内存
      • maxmemory
      • 占用物理内存的比例,默认值为0,表示不限制。生产环境中根据需求设定,通常设置在50%以上。
    • 每次选取待删除数据的个数
      • maxmemory-samples
      • 选取数据时并不会全库扫描,导致严重的性能消耗,降低读写性能。因此采用随机获取数据的方式作为待检测删除数据。
    • 删除策略
      • maxmemory-policy
      • 达到最大内存后的,对被挑选出来的数据进行删除的策略

    影响数据逐出的相关配置
    在配置文件中使用:maxmemory-policy volatile-lru

    • 检测易失数据(可能会过期的数据集server.db[i].expires)(有时效性数据,这些数据早晚会被清除的)【建议设置此策略】
      1. volatile-lru:挑选最近最少使用的数据淘汰
      2. volatile-lfu:挑选最近使用次数最少的数据淘汰
      3. volatile-ttl:挑选将要过期的数据淘汰
      4. volatile-random:任意选择数据淘汰
      5. [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-xN676dAX-1661511168754)(en-resource://database/5307:0)]
    • 检测全库数据(所有数据集server.db[i].dict)
      1. allkeys-lru:挑选最近最少使用的数据淘汰
      2. allkeys-lfu:挑选最近使用次数最少的数据淘汰
      3. allkeys-random:任意选择数据淘汰
    • 放弃数据驱逐
      1. no-enciction(驱逐):禁止驱逐数据(redis4.0中默认策略),会引发错误OOM(Out Of Memory)

    数据逐出侧策略配置依据

    • 使用INFO命令输出监控信息,查询缓存hit(命中)和miss(丢失)的次数,根据业务需求调优Redis配置

    总结

    在这里插入图片描述

                                                                                     ——此文档为学习笔记!
    
    • 1
  • 相关阅读:
    NLP(六十九)智能文档问答助手升级
    杰理AD14N/AD15N---Timer定时器问题
    Leetcode.2786 访问数组中的位置使分数最大
    golang通过gorm操作sqlite设置主键自增
    MySQL -- mysql connect
    Leetcode84(柱状图中最大的矩形)
    IDEA 构建web项目-详细教程
    深入理解多线程(第二篇)
    Clip染色质免疫沉淀(CLIP测序)
    C# VisionPro 海康相机SDK源代码
  • 原文地址:https://blog.csdn.net/w2079930908/article/details/126548888