• 谷粒商城笔记+踩坑(25)——整合Sentinel实现流控和熔断降级


    导航:

    【Java笔记+踩坑汇总】Java基础+进阶+JavaWeb+SSM+SpringBoot+瑞吉外卖+SpringCloud+黑马旅游+谷粒商城+学成在线+MySQL高级篇+设计模式+常见面试题+源码

    SpringCloud基础5——微服务保护、Sentinel

    目录

    一、Sentinel概述

    1.1、服务流控、熔断和降级

    1.2、Sentinel 简介

    二、SpringBoot整合Sentinel

    三、流量控制

    3.0、簇点链路配置流控规则

    3.1、Sentinel-自定义流控响应

    3.2、Sentinel全服务引入

    四、熔断降级

    4.1、调用方编写熔断回调(降级方法)

    4.2、被调用方配置降级规则

    4.3、Sentinel自定义保护资源

    4.3.1、基于代码保护“获取秒杀方法”

    4.3.2、基于注解保护“获取秒杀方法”

    五、sentinel控制网关流量


    一、Sentinel概述

    1.1、服务流控、熔断和降级


    • 熔断

      • 当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,**进而熔断该节点微服务的调用,快速返回错误的响应信息。**检测到该节点微服务调用响应正常后恢复调用链路。

      • A服务调用 B服务的某个功能,由于网络不稳定问题,或者 B服务卡机,导致功能时间超长。如果这样的次数很多。我们就可以直接将 B服务段路了(A不再请求 B接口),凡是调用 B得直接返回降级数据,不必等待 B的超长执行。这样B的故障问题,就不会级联影响到 A服务。

    • 降级

      • 服务降级是指当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理,或换种简单的方式处理,从而释放服务器资源以保证核心业务正常运作或高效运作。说白了,就是尽可能的把系统资源让给优先级高的服务
      • 整个网站处于流量高峰期,服务器压力剧增,根据当前业务情况及流量,对一些服务和页面进行由策略的降级[停止服务,所有的调用直接返回降级数据]。以此缓解服务器资源的压力,以保证核心业务的正常运行,同时也保持了客户和大部分客户得到正确的对应。
    • 限流

      • 对打入服务的请求流量进行控制,使服务能够承担不超过自己能力的流量压力

    熔断和降级异同:

    • 相同点:
      1. 为了保证集群大部分服务的可用性和可靠性,防止崩溃,牺牲小我
      2. 用户最终都是体验到某个功能不可用
    • 不同点:
      1. 熔断时被调用方故障,触发的系统主动规则
      2. 降级是基于全局的考虑,通知一些正常服务,释放资源

    1.2、Sentinel 简介


    参考:

    SpringCloud基础5——微服务保护、Sentinel_sentinel 实时监控_vincewm的博客-CSDN博客

    简介

    ​ 随着微服务的流行,服务和服务之间的稳定性变得越来越重要。Sentinel 是面向分布式服务架构的流量控制组件,主要以流量为切入点,从限流、流量整形、熔断降级、系统负载保护、热点防护等多个维度来帮助开发者保障微服务的稳定性。

    Sentinel 分为两个部分:

    • 核心库(Java 客户端)不依赖任何框架/库,能够运行于所有 Java 运行时环境,同时对 Dubbo / Spring Cloud 等框架也有较好的支持。
    • 控制台(Dashboard)基于 Spring Boot 开发,打包后可以直接运行,不需要额外的 Tomcat 等应用容器。

    功能SentinelHystrix
    隔离策略信号量隔离/并发线程数限流线程池隔离/信号量隔离
    熔断降级策略基于响应时间、异常比率、异常数基于异常比率
    实时统计实现滑动窗口(LeapArray)滑动窗口(基于RxJava)
    动态规则配置支持多种数据源支持多种数据源
    扩展性多个扩展点插件形式
    注解支持支持支持
    限流支持基于QPS的限流,支持基于调用关系的限流有限的支持
    流量整形支持预热模式、匀速器模式、预热排队模式不支持
    系统自适应保护支持不支持
    控制台可配置规则、查看秒级监控、机器发现等简单的监控查看

    二、SpringBoot整合Sentinel

    • 整合Sentinel
      1. 导入sentinel依赖
      2. 下载sentinel的控制台
      3. 配置Sentinel
      4. 在控制台调整所有的参数[默认所有的流控设置保存在内存中,重启失效]

    第一步、在gulimall-common 服务中 导入依赖

    1. <dependency>
    2. <groupId>com.alibaba.cloudgroupId>
    3. <artifactId>spring-cloud-starter-alibaba-sentinelartifactId>
    4. dependency>
    5. <dependency>
    6. <groupId>org.springframework.bootgroupId>
    7. <artifactId>spring-boot-starter-actuatorartifactId>
    8. dependency>

    第二步、去官网下载项目里sentinel对应的版本的控制台官网下载

    1、在路径下执行

    hgw@HGWdeAir SpringCloudSentinel# java -jar sentinel-dashboard-1.6.3.jar --server.port=8333
    

    2、访问http://localhost:8333/

    • 用户名:sentinel

      密码:sentinel

    第三步、配置Sentinel

    在gulimall-seckill 服务的配置文件中:

    1. #sentinel控制台地址
    2. spring.cloud.sentinel.transport.dashboard=127.0.0.1:8333
    3. #sentinel传输端口
    4. spring.cloud.sentinel.transport.port=8713
    5. #Spring Boot声明哪些端点是可公开的,即暴露给外部访问的。
    6. #默认情况下会将所有端点都暴露出去,包括health、info等常用端点,这在生产环境中可能会存在一定的安全隐患。
    7. #一般暴露health,info就行了
    8. management.endpoints.web.exposure.include=*

    三、流量控制

    3.0、簇点链路配置流控规则

    簇点链路:当请求进入微服务时,首先会访问DispatcherServlet,然后进入Controller、Service、Mapper,这样的一个调用链就叫做簇点链路。簇点链路中被监控的每一个接口就是一个资源

    针对来源:default默认是不针对任何来源 

    阈值类型:只流量控制QPS

    单机阈值:这里先设置成1以供测试,就是说每秒只能有1个请求。

    流控模式:

    • 直接(默认):统计当前资源的请求,触发阈值时对当前资源直接限流,也是默认的模式
    • 关联:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
    • 链路:统计从指定链路访问到本资源的请求,触发阈值时,对指定链路限流。例如a、b访问资源c,只对指定的a到c的请求链路限流,b到c没指定就不管。

    流控效果:

    • 快速失败(默认):达到阈值后,新的请求会被立即拒绝并抛出FlowException异常,状态码429。是默认的处理方式。
    • warm up预热模式:对超出阈值的请求同样是拒绝并抛出异常。但这种模式阈值会动态变化,从一个较小值逐渐增加到最大阈值,阈值初始值是“最大阈值/冷启动因子”,默认冷启动因子coldFactor是3,也就是阈值默认会从1/3最大阈值到最大阈值。
    • 排队等待:让所有的请求按照先后次序排队执行,两个请求的间隔不能小于指定时长

    3.1、Sentinel-自定义流控响应

    1. package com.atguigu.gulimall.seckill.config;
    2. /**
    3. * Description: Sentinel-自定义流控响应
    4. */
    5. @Configuration
    6. public class SeckillSentinelConfig {
    7. public SeckillSentinelConfig() {
    8. WebCallbackManager.setUrlBlockHandler(new UrlBlockHandler() {
    9. @Override
    10. public void blocked(HttpServletRequest httpServletRequest, HttpServletResponse httpServletResponse, BlockException e) throws IOException {
    11. R error = R.error(BizCodeEnume.TO_MANY_REQUEST.getCode(), BizCodeEnume.TO_MANY_REQUEST.getMsg());
    12. httpServletResponse.setCharacterEncoding("UTF-8");
    13. httpServletResponse.setContentType("application/json");
    14. httpServletResponse.getWriter().write(JSON.toJSONString(error));
    15. }
    16. });
    17. }
    18. }

    3.2、Sentinel全服务引入

    1、为每个服务引入 actuator依赖

    1. <dependency>
    2. <groupId>org.springframework.bootgroupId>
    3. <artifactId>spring-boot-starter-actuatorartifactId>
    4. dependency>

    2、配置 sentinel

    1. #sentinel控制台地址
    2. spring.cloud.sentinel.transport.dashboard=127.0.0.1:8333
    3. management.endpoints.web.exposure.include=*

    四、熔断降级

    1)、调用方的熔断保护开启 feign.sentinel.enabled=true

    2)、调用方手动指定远程服务的降级策略。远程服务被降级处理,触发我们的熔断回调方法

    3)、超大浏览的时候,必须牺牲一些远程服务。在服务的提供方(远程服务)指定降级策略; 提供方是在运行。但是不运行自己的业务逻辑。返回的是默认的降级数据(限流的数据)

    默认情况下,sentinel是不会对feign进行监控的,需要开启配置

    在gulimall-product类配置文件添加配置

    1. #sentinel是不会对feign进行监控的,需要开启配置
    2. feign.sentinel.enabled=true

    4.1、调用方编写熔断回调(降级方法)


    熔断:调用方加入断路器,统计对服务提供者的调用,如果调用的失败比例过高,则熔断该调用,不允许访问该服务的提供者了。

    1、在gulimall-product类配置文件添加配置

    1. #sentinel是不会对feign进行监控的,需要开启配置
    2. feign.sentinel.enabled=true

    2、编写熔断回调类和方法

    商品模块feign.fallback包下创建秒杀feign客户端的熔断回调方法,也就是说商品服务远程调用秒杀服务熔断后

    1. package com.atguigu.gulimall.product.feign.fallback;
    2. @Slf4j
    3. @Component
    4. public class SeckillFeignServiceFallBack implements SeckillFeignService {
    5. @Override
    6. public R getSkuSeckillInfo(Long skuId) {
    7. log.error("熔断方法调用...getSkuSeckillInfo");
    8. return R.error(BizCodeEnume.TO_MANY_REQUEST.getCode(),BizCodeEnume.TO_MANY_REQUEST.getMsg());
    9. }
    10. }

    3、秒杀feign客户端@FeignClient注解指定“熔断回调方法”的class对象

    1. package com.atguigu.gulimall.product.feign;
    2. @FeignClient(value = "gulimall-seckill", fallback = SeckillFeignServiceFallBack.class)
    3. public interface SeckillFeignService {
    4. @GetMapping("/sku/seckill/{skuId}")
    5. R getSkuSeckillInfo(@PathVariable("skuId") Long skuId);
    6. }

    4.2、被调用方配置降级规则


    sentinel控制台设置服务提供方的降级规则:

    降级策略:对于要降级的服务提供者方法,选择而降级策略为RT(平均响应时间),如果平均响应时间超过指定阈值后,那么在接下来的时间窗口内这个被调用方触发熔断。

    这里RT设为1ms,时间窗口设为10s,也就是此被调用方平均响应时间超过1ms就触发熔断,接下来10s内都不可以被调用。实际中RT肯定设置久一点,这里只是便于测试。

    4.3、Sentinel自定义保护资源


    自定义受保护资源:除了熔断降级外,我们想自定义保护一段代码,有两种方式:基于代码、基于注解。

      1、基于代码保护代码块

    1. try(Entry entity = SphU.entry("自定义受保护资源名")) {
    2. // 业务逻辑
    3. } catch (BlockException e) {
    4. //一定要配置被限流以后的默认返回
    5. }

      2、基于注解保护方法

          @SentinelResource(value = "getCurrentSeckillSkusResource",blockHandler = "blockHandler")


    无论是1、2方式一定要配置被限流以后的默认返回。

    url请求可以设置统一返回:WebCallbackManager
     

    4.3.1、基于代码保护“获取秒杀方法”

    1. try(Entry entity = SphU.entry("自定义受保护资源名")) {
    2. // 业务逻辑
    3. } catch (BlockException e) {
    4. //一定要配置被限流以后的默认返回
    5. }

    1、编写自定义受保护资源

    修改“com.atguigu.gulimall.seckill.service.impl.SeckillServiceImpl”类 代码如下:

    1. /**
    2. * 获取当前参与秒杀的商品
    3. *
    4. * @return
    5. */
    6. @Override
    7. public List getCurrentSeckillSkus() {
    8. try(Entry entity = SphU.entry("seckillSkus")) {
    9. // 1、确定当前时间属于哪个秒杀场次
    10. long time = new Date().getTime();
    11. Set keys = redisTemplate.keys(SESSION_CACHE_PREFIX + "*");
    12. for (String key : keys) {
    13. // seckill:sessions:1650153600000_1650160800000
    14. String replace = key.replace(SESSION_CACHE_PREFIX, "");
    15. String[] s = replace.split("_");
    16. long start = Long.parseLong(s[0]);
    17. long end = Long.parseLong(s[1]);
    18. if (time >= start && time <= end) {
    19. // 2、获取指定秒杀场次需要的所有商品信息
    20. List range = redisTemplate.opsForList().range(key, -100, 100);
    21. BoundHashOperations hashOps = redisTemplate.boundHashOps(SKUKILL_CACHE_PREFIX);
    22. List list = hashOps.multiGet(range);
    23. if (list != null) {
    24. List collect = list.stream().map(item -> {
    25. SecKillSkuRedisTo redis = JSON.parseObject((String) item, SecKillSkuRedisTo.class);
    26. redis.setRandomCode(null); // 当前秒杀开始了需要随机码
    27. return redis;
    28. }).collect(Collectors.toList());
    29. return collect;
    30. }
    31. break;
    32. }
    33. }
    34. } catch (BlockException e) {
    35. log.error("资源被限流{}"+e.getMessage());
    36. }
    37. return null;
    38. }

    可以为自定义的受保护资源 加上流控、降级。

    4.3.2、基于注解保护“获取秒杀方法”

     @SentinelResource(value = "getCurrentSeckillSkusResource",blockHandler = "blockHandler",fallback = "fallback")
    
    • blockHandler 函数会在原方法被限流/降级/系统保护的时候调用
    • fallback 会针对所有类型的异常
    1. /**
    2. * getCurrentSeckillSkus()方法被限流/降级/系统保护的时候调用
    3. * @return
    4. */
    5. public List blockHandler(BlockException e){
    6. log.error("getCurrentSeckillSkus()方法被限流/降级/系统保护");
    7. return null;
    8. }
    9. /**
    10. * 获取当前参与秒杀的商品
    11. * blockHandler 函数会在原方法被限流/降级/系统保护的时候调用
    12. * fallback 会针对所有类型的异常
    13. * @return
    14. */
    15. @SentinelResource(value = "getCurrentSeckillSkusResource",blockHandler = "blockHandler")
    16. @Override
    17. public List getCurrentSeckillSkus() {
    18. try(Entry entity = SphU.entry("seckillSkus")) {
    19. // 1、确定当前时间属于哪个秒杀场次
    20. long time = new Date().getTime();
    21. Set keys = redisTemplate.keys(SESSION_CACHE_PREFIX + "*");
    22. for (String key : keys) {
    23. // seckill:sessions:1650153600000_1650160800000
    24. String replace = key.replace(SESSION_CACHE_PREFIX, "");
    25. String[] s = replace.split("_");
    26. long start = Long.parseLong(s[0]);
    27. long end = Long.parseLong(s[1]);
    28. if (time >= start && time <= end) {
    29. // 2、获取指定秒杀场次需要的所有商品信息
    30. List range = redisTemplate.opsForList().range(key, -100, 100);
    31. BoundHashOperations hashOps = redisTemplate.boundHashOps(SKUKILL_CACHE_PREFIX);
    32. List list = hashOps.multiGet(range);
    33. if (list != null) {
    34. List collect = list.stream().map(item -> {
    35. SecKillSkuRedisTo redis = JSON.parseObject((String) item, SecKillSkuRedisTo.class);
    36. redis.setRandomCode(null); // 当前秒杀开始了需要随机码
    37. return redis;
    38. }).collect(Collectors.toList());
    39. return collect;
    40. }
    41. break;
    42. }
    43. }
    44. } catch (BlockException e) {
    45. log.error("资源被限流{}"+e.getMessage());
    46. }
    47. return null;
    48. }

    五、sentinel控制网关流量

    Sentinel 1.6.3 引入了网关流控控制台的支持,用户可以直接在 Sentinel 控制台上查看 API Gateway 实时的 route 和自走义 API 分组监控,管理网关规则和 API 分组配置。 

    网关流控

    如果能在网关层就进行流控,可以避免请求流入业务,减小服务压力

    1、网关模块引入sentinel-gateway依赖

    1. <dependency>
    2. <groupId>com.alibaba.cloudgroupId>
    3. <artifactId>spring-cloud-alibaba-sentinel-gatewayartifactId>
    4. <version>2.1.0.RELEASEversion>
    5. dependency>

    注意:sentinel-gateway依赖版本要和公共模块的sentinel依赖一致

    2、配置流控

    下载启动sentinel 1.7.1版本的控制台,1.7.1增加了网关服务的“api管理”功能。

    API 名称就是: 网关中配置路由名

    比如说指定请求头被限流:

    3、网关流控后返回

    网关模块新建sentinel配置类

    1. package com.atguigu.gulimall.gateway.config;
    2. @Configuration
    3. public class SentinelGatewayConfig {
    4. public SentinelGatewayConfig() {
    5. GatewayCallbackManager.setBlockHandler(new BlockRequestHandler() {
    6. // 网关限制了请求,就会调用此回调 Mono Flux
    7. @Override
    8. public Mono handleRequest(ServerWebExchange serverWebExchange, Throwable throwable) {
    9. R error = R.error(BizCodeEnume.TO_MANY_REQUEST.getCode(), BizCodeEnume.TO_MANY_REQUEST.getMsg());
    10. String errJson = JSON.toJSONString(error);
    11. Mono body = ServerResponse.ok().body(Mono.just(errJson), String.class);
    12. return body;
    13. }
    14. });
    15. }
    16. }

  • 相关阅读:
    Pytest参数详解 — 基于命令行模式
    [交互]接口与路由问题
    (java版)排队枪毙小约参与了犹余游戏, 在这个游戏中最后活下来的人才能获得胜利.游戏规则是这样的, n个玩家们围成一个圈, 从第一个玩家开始报数
    MFC Windows 程序设计[334]之自定义编辑框(附源码)
    第一章 计算机网络体系结构
    计算机毕业设计Java高校教师工作量管理系统(源码+系统+mysql数据库+lw文档)
    qt pro如何增加自定义值为的字符串的宏
    3D Gaussian Splatting文件的压缩【3D高斯泼溅】
    小知识汇总8.29-2
    Python中的def函数
  • 原文地址:https://blog.csdn.net/qq_40991313/article/details/131054943