• Redis 的缓存击穿,穿透,雪崩及其解决方案


    1 缓存穿透

    什么是缓存穿透?

    大量请求的 key 是不合理的,根本不存在于缓存中,也不存在于数据库中 。导致这些请求直接到了数据库上,根本没有经过缓存这一层,对数据库造成了巨大的压力,可能直接就被这么多请求弄宕机了。

    图片

    缓存穿透

    举个例子:某个黑客故意制造一些非法的 key 发起大量请求,导致大量请求落到数据库,结果数据库上也没有查到对应的数据。也就是说这些请求最终都落到了数据库上,对数据库造成了巨大的压力。

    有哪些解决办法?

    最基本的就是首先做好参数校验,一些不合法的参数请求直接抛出异常信息返回给客户端。比如查询的数据库 id 不能小于 0、传入的邮箱格式不对的时候直接返回错误消息给客户端等等。

    1)缓存无效 key

    如果缓存和数据库都查不到某个 key 的数据就写一个到 Redis 中去并设置过期时间,具体命令如下:SET key value EX 10086 。这种方式可以解决请求的 key 变化不频繁的情况,如果黑客恶意攻击,每次构建不同的请求 key,会导致 Redis 中缓存大量无效的 key 。很明显,这种方案并不能从根本上解决此问题。如果非要用这种方式来解决穿透问题的话,尽量将无效的 key 的过期时间设置短一点比如 1 分钟。

    另外,这里多说一嘴,一般情况下我们是这样设计 key 的:表名:列名:主键名:主键值 。

    如果用 Java 代码展示的话,差不多是下面这样的:

    1. public Object getObjectInclNullById(Integer id) {
    2.     // 从缓存中获取数据
    3.     Object cacheValue = cache.get(id);
    4.     // 缓存为空
    5.     if (cacheValue == null) {
    6.         // 从数据库中获取
    7.         Object storageValue = storage.get(key);
    8.         // 缓存空对象
    9.         cache.set(key, storageValue);
    10.         // 如果存储数据为空,需要设置一个过期时间(300秒)
    11.         if (storageValue == null) {
    12.             // 必须设置过期时间,否则有被攻击的风险
    13.             cache.expire(key60 * 5);
    14.         }
    15.         return storageValue;
    16.     }
    17.     return cacheValue;
    18. }

    2)布隆过滤器

    布隆过滤器是一个非常神奇的数据结构,通过它我们可以非常方便地判断一个给定数据是否存在于海量数据中。我们需要的就是判断 key 是否合法,有没有感觉布隆过滤器就是我们想要找的那个“人”。

    具体是这样做的:把所有可能存在的请求的值都存放在布隆过滤器中,当用户请求过来,先判断用户发来的请求的值是否存在于布隆过滤器中。不存在的话,直接返回请求参数错误信息给客户端,存在的话才会走下面的流程。

    加入布隆过滤器之后的缓存处理流程图如下。

    图片

    加入布隆过滤器之后的缓存处理流程图

    但是,需要注意的是布隆过滤器可能会存在误判的情况。总结来说就是:布隆过滤器说某个元素存在,小概率会误判。布隆过滤器说某个元素不在,那么这个元素一定不在。

    为什么会出现误判的情况呢? 我们还要从布隆过滤器的原理来说!

    我们先来看一下,当一个元素加入布隆过滤器中的时候,会进行哪些操作:

    1. 使用布隆过滤器中的哈希函数对元素值进行计算,得到哈希值(有几个哈希函数得到几个哈希值)。

    2. 根据得到的哈希值,在位数组中把对应下标的值置为 1。

    我们再来看一下,当我们需要判断一个元素是否存在于布隆过滤器的时候,会进行哪些操作:

    1. 对给定元素再次进行相同的哈希计算;

    2. 得到值之后判断位数组中的每个元素是否都为 1,如果值都为 1,那么说明这个值在布隆过滤器中,如果存在一个值不为 1,说明该元素不在布隆过滤器中。

    然后,一定会出现这样一种情况:不同的字符串可能哈希出来的位置相同。 (可以适当增加位数组大小或者调整我们的哈希函数来降低概率)

    更多关于布隆过滤器的内容可以看我的这篇原创:《不了解布隆过滤器?一文给你整的明明白白!》 ,强烈推荐,个人感觉网上应该找不到总结的这么明明白白的文章了。

    2 缓存击穿

    什么是缓存击穿?

    缓存击穿中,请求的 key 对应的是 热点数据 ,该数据 存在于数据库中,但不存在于缓存中(通常是因为缓存中的那份数据已经过期) 。这就可能会导致瞬时大量的请求直接打到了数据库上,对数据库造成了巨大的压力,可能直接就被这么多请求弄宕机了。

    图片

    缓存击穿

    举个例子:秒杀进行过程中,缓存中的某个秒杀商品的数据突然过期,这就导致瞬时大量对该商品的请求直接落到数据库上,对数据库造成了巨大的压力。

    有哪些解决办法?

    • 设置热点数据永不过期或者过期时间比较长。

    • 针对热点数据提前预热,将其存入缓存中并设置合理的过期时间比如秒杀场景下的数据在秒杀结束之前不过期。

    • 请求数据库写数据到缓存之前,先获取互斥锁,保证只有一个请求会落到数据库上,减少数据库的压力。

    3 缓存穿透 VS 缓存击穿

    缓存穿透中,请求的 key 既不存在于缓存中,也不存在于数据库中。

    缓存击穿中,请求的 key 对应的是 热点数据 ,该数据 存在于数据库中,但不存在于缓存中(通常是因为缓存中的那份数据已经过期) 。

    4 缓存雪崩

    什么是缓存雪崩?

    缓存雪崩描述的就是这样一个简单的场景:缓存在同一时间大面积的失效,导致大量的请求都直接落到了数据库上,对数据库造成了巨大的压力 这就好比雪崩一样,摧枯拉朽之势,数据库的压力可想而知,可能直接就被这么多请求弄宕机了。

    另外,缓存服务宕机也会导致缓存雪崩现象,导致所有的请求都落到了数据库上。

    图片

    缓存雪崩

    举个例子:数据库中的大量数据在同一时间过期,这个时候突然有大量的请求需要访问这些过期的数据。这就导致大量的请求直接落到数据库上,对数据库造成了巨大的压力。

    有哪些解决办法?

    针对 Redis 服务不可用的情况:

    1. 采用 Redis 集群,避免单机出现问题整个缓存服务都没办法使用。

    2. 限流,避免同时处理大量的请求。

    针对热点缓存失效的情况:

    1. 设置不同的失效时间比如随机设置缓存的失效时间。

    2. 缓存永不失效(不太推荐,实用性太差)。

    3. 设置二级缓存

    5 缓存雪崩 VS 缓存击穿

    缓存雪崩和缓存击穿比较像,但缓存雪崩导致的原因是缓存中的大量或者所有数据失效,缓存击穿导致的原因主要是某个热点数据不存在与缓存中(通常是因为缓存中的那份数据已经过期)。

    缓存预热

    在系统启动时,缓存是空的,如果这个时候有大量的请求到达服务器,那么这将会对数据库产生大量的压力,可能直接将数据库服务器打趴,出现缓存击穿的情况。解决方法包括在系统启动时,将一些常用的数据加载到缓存中,或者使用一些缓存预热的技术

    7 缓存更新

    在并发量大的情况下,可能出现缓存更新不及时的情况,导致数据不一致。解决方法包括使用分布式锁、消息队列等方式实现缓存的更新。

    缓存污染

    由于某些原因,缓存中可能存在大量的无效数据或者错误数据,这些数据可能会影响到真正需要的数据的获取。解决方法包括定期清理缓存,或者使用一些校验机制来避免错误数据的进入

    缓存容量问题

    随着时间的推移,缓存中的数据量可能会越来越大,可能超过缓存的容量,导致新的数据无法加入到缓存中。解决方法包括使用一些缓存淘汰策略,如LRU、LFU等

    10 延迟问题

    在某些场景下,对数据的实时性要求较高,而缓存可能导致数据的延迟。解决方法包括使用一些实时更新的技术,如消息队列等。

  • 相关阅读:
    el-select下拉多选框 el-select 设置默认值不可删除功能
    华为数通方向HCIP-DataCom H12-831题库(多选题:41-60)
    Fabric.js 使用纯色遮挡画布(前景色)
    【教程】多进程下载百度旋转验证码图片-制作数据集
    新房装修记录
    [附源码]计算机毕业设计springboot停车场管理系统
    太牛了,阿里这份Spring Cloud开发手册几乎涵盖了微服务的所有操作
    java 线上java应用CPU过高排查
    云南民族文化旅游网页设计制作 简单静态HTML网页作品 我的家乡网页作业成品 学生旅游网站模板
    头歌php 表单语言进阶
  • 原文地址:https://blog.csdn.net/u012867699/article/details/134272126