• Redis缓存穿透和缓存击穿和缓存雪崩


    缓存穿透(key一开始就不存在)

    含义:key对应的数据在数据库不存在,每次针对此key的请求从缓存获取不到,请求都会到数据库,从而可能压垮数据源。比如用一个不存在的用户id获取用户信息,不论缓存还是数据库都没有,若黑客利用此漏洞进行攻击可能压垮数据库。

    解决办法:

    首先做好参数校验,一些不合法的参数请求直接抛出异常信息返回给客户端。

    1.缓存无效key,设置 set(key,null)

    SET key value EX 10086
    
    • 1

    问题

    第一:value为null也会占用空间,如何黑客攻击每次构建不同key,那么Redis中会缓存大量无效key。可以设置一个较短的过期时间,让其自动消失。可以解决请求的 key 变化不频繁的情况。

    第二,缓存层和存储层的数据会有一段时间窗口的不一致例。设置的过期时间内,如果此时存储层添加了这个数据,那此段时间就会出现缓存层和存储层数据的不一致,此时可以利用消息系统或者其他方式清除掉缓存层中的空对象。

    2.布隆过滤器

    参考:https://blog.csdn.net/qq_41125219/article/details/119982158

    理解:可以把布隆过滤器理解为一个set集合,我们可以通过add往里面添加元素,通过contains来判断是否包含某个元素

    作用布隆过滤器说某个元素存在,小概率会误判。布隆过滤器说某个元素不在,那么这个元素一定不在。

    含义:布隆过滤器它实际上是一个很长的二进制向量和一系列随机映射函数。以Redis中的布隆过滤器实现为例,Redis中的布隆过滤器底层是一个大型位数组(二进制数组)+多个无偏hash函数。
    在这里插入图片描述
    增加元素

    往布隆过滤器增加元素,添加的key需要根据k个无偏hash函数计算得到多个hash值,然后对数组长度进行取模得到数组下标的位置,然后将对应数组下标的位置的值置为1

    • 通过k个无偏hash函数计算得到k个hash值
    • 依次取模数组长度,得到数组索引
    • 将计算得到的数组索引下标位置数据修改为1

    例如,key = Liziba,无偏hash函数的个数k=3,分别为hash1、hash2、hash3。三个hash函数计算后得到三个数组下标值,并将其值修改为1.
    在这里插入图片描述
    查询元素

    布隆过滤器最大的用处就在于判断某样东西一定不存在或者可能存在,而这个就是查询元素的结果。其查询元素的过程如下:

    • 通过k个无偏hash函数计算得到k个hash值
    • 依次取模数组长度,得到数组索引
    • 判断索引处的值是否全部为1,如果全部为1则存在(这种存在可能是误判),如果存在一个0则必定不存在

    过程:我们需要的就是判断 key 是否合法,然后把所有可能存在的请求的值都存放在布隆过滤器中,当用户请求过来,先判断用户发来的请求的值是否存在于布隆过滤器中。不存在的话,直接返回请求参数错误信息给客户端,存在的话才会走下面的流程。

    误判:其实非常好理解,hash函数在怎么好,也无法完全避免hash冲突,也就是说可能会存在多个元素计算的hash值是相同的,那么它们取模数组长度后的到的数组索引也是相同的,这就是误判的原因。例如李子捌和李子柒的hash值取模后得到的数组索引都是1,但其实这里只有李子捌,如果此时判断李子柒在不在这里,误判就出现啦!因此布隆过滤器最大的缺点误判只要知道其判断元素是否存在的原理就很容易明白了!
    修改元素

    无法修改元素

    删除元素

    布隆过滤器对元素的删除不太支持,目前有一些变形的特定布隆过滤器支持元素的删除!关于为什么对删除不太支持,其实也非常好理解,hash冲突必然存在,删除肯定是很苦难的!有hash冲突就会存在很多不同的数据直接存储时占用了相同的二进制位,这样就会可能会导致删除一个数据而引起其他数据的消失,不支持。

    布隆过滤器的优点:

    • 时间复杂度低,增加和查询元素的时间复杂为O(N),(N为哈希函数的个数,通常情况比较小)
    • 保密性强,布隆过滤器不存储元素本身
    • 存储空间小,如果允许存在一定的误判,布隆过滤器是非常节省空间的(相比其他数据结构如Set集合)

    布隆过滤器的缺点:

    • 有点一定的误判率,但是可以通过调整参数来降低
    • 无法获取元素本身
    • 很难删除元素

    缓存无效key和布隆过滤器
    在这里插入图片描述

    缓存击穿(一个key失效)

    含义: key对应的数据存在,但在redis中过期,此时若有大量并发请求过来,这些请求发现缓存过期一般都会从后端DB加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把后端DB压垮。

    解决办法:

    1.设置过期时间

    预先设置热门数据:在redis高峰访问时期,提前设置热门数据到缓存中,或适当延长缓存中key过期时间。或者设置key永不过期。

    从缓存层面来看,确实没有设置过期时间,所以不会出现热点key过期后产生的问题,也就是“物理”不过期。

    从功能层面来看,为每个value设置一个逻辑过期时间,当发现超过逻辑过期时间后,会使用单独的线程去更新缓
    在这里插入图片描述
    2.分布式互斥锁

    只允许一个线程重建缓存,其他线程等待重建缓存的线程执行完,重新从缓存获取数据即可。set(key,value,timeout)
    在这里插入图片描述
    优缺点:

    分布式互斥锁:这种方案思路比较简单,但是存在一定的隐患,如果在查询数据库 + 和 重建缓存(key失效后进行了大量的计算)时间过长,也可能会存在死锁和线程池阻塞的风险,高并发情景下吞吐量会大大降低!但是这种方法能够较好地降低后端存储负载,并在一致性上做得比较好。

    永远不过期:这种方案由于没有设置真正的过期时间,实际上已经不存在热点key产生的一系列危害,但是会存在数据不一致的情况,同时代码复杂度会增大。

    缓存雪崩(多个key失效

    含义:缓存在同一时间大面积的失效或者缓存服务器重启,后面的请求都直接落到了数据库上,造成数据库短时间内承受大量请求 。

    解决办法:

    • 事前:Redis 高可用,主从 + 哨兵集群模式,Redis Cluster,避免全盘崩溃。
    • 事中:本地 ehcache 缓存 + hystrix 限流 & 降级,避免数据库承受太多压力。
    • 事后:Redis 持久化,一旦重启,自动从磁盘上加载数据,快速恢复缓存数据。

    针对 Redis 服务不可用的情况:

    1. 采用 Redis 集群,避免单机出现问题整个缓存服务都没办法使用。
    2. 限流,避免同时处理大量的请求。
    3. 做二级缓存,或者双缓存策略:
      采用多级缓存,本地进程作为一级缓存,redis作为二级缓存,不同级别的缓存设置的超时时间不同,即使某级缓存过期了,也有其他级别缓存兜底( 用户请求先访问本地缓存,无命中后再访问 Redis,如果本地缓存和 Redis 都没有再查数据库,并把数据添加到本地缓存和 Redis);

    针对热点缓存失效的情况:

    1. 设置不同的失效时间比如随机设置缓存的失效时间。
    2. 缓存永不失效。
    3. 数据预热:
      可以通过缓存reload机制,预先去更新缓存,再即将发生大并发访问前手动触发加载缓存不同的key,设置不同的过期时间,让缓存失效的时间点尽量均匀
    4. 加锁排队. 限流-- 限流算法. 1.计数 2.滑动窗口 3. 令牌桶Token Bucket 4.漏桶 leaky bucket [1]
      在缓存失效后,通过加锁或者队列来控制读数据库写缓存的线程数量。比如对某个key只允许一个线程查询数据和写缓存,其他线程等待。
      业界比较常用的做法,是使用mutex。简单地来说,就是在缓存失效的时候(判断拿出来的值为空),不是立即去load db,而是先使用缓存工具的某些带成功操作返回值的操作(比如Redis的SETNX或者Memcache的ADD)去set一个mutex key,当操作返回成功时,再进行load db的操作并回设缓存;否则,就重试整个get缓存的方法
  • 相关阅读:
    前端学习2——CSS3
    【WSN通信】基于最佳簇半径的无线传感器网络分簇路由算法附matlab代码
    iceoryx之Roudi
    Unity 场景淡入淡出效果
    【开源】基于Vue.js的教学过程管理系统
    uni-app项目自动化测试
    学习ASP.NET Core Blazor编程系列二——第一个Blazor应用程序(完)
    HK2学习之基础知识
    基于Java实现的仓库管理系统设计与实现(源码+lw+部署文档+讲解等)
    微信公众号开发要点笔记
  • 原文地址:https://blog.csdn.net/mysnsds/article/details/126394070