• SpringCloud微服务-----服务容错


    1. 高并发带来的问题

            在微服务架构中,我们将业务拆分成一个个的服务,服务与服务之间可以相互调用,但是由于网络原因或者自身的原因,服务并不能保证服务的100%可用,如果单个服务出现问题,调用这个服务就会出现网络延迟,此时若有大量的网络涌入,会形成任务堆积,最终导致服务瘫痪。

    例如: 对于一个依赖于30个服务的应用程序,每个服务都有99.99%的正常运行时间,你可以期望如下:

    99.9930  =  99.7% 可用

    也就是说一亿个请求的0.3% = 3000000 会失败

    接下来,我们来模拟一个高并发的场景

    1 编写java代码

    1. @GetMapping("/order/prod/{pid}")
    2. public Order order(@PathVariable("pid")Integer pid){
    3. log.info(">>客户下单,这时候要调用商品微服务查询商品信息");
    4. //这里直接使用productFeign调用接口中的方法,和我们原来controller调用service一样啊
    5. Product product = productFeign.findById(pid);
    6. //这里模拟shop-product 响应时间为2秒
    7. try {
    8. Thread.sleep(2000L);
    9. } catch (InterruptedException e) {
    10. e.printStackTrace();
    11. }
    12. log.info(">>商品信息,查询结果:" + JSON.toJSONString(product));
    13. Order order = new Order();
    14. order.setPid(product.getPid());
    15. order.setPname(product.getPname());
    16. order.setPprice(product.getPprice());
    17. order.setNumber(1);
    18. order.setUid(1);
    19. order.setUsername("张三");
    20. //为了不产生大量冗余数据 我们把添加订单的调用注释
    21. //orderService.save(order);
    22. return order;
    23. }
    24. @RequestMapping("order/ceshi")
    25. public String ceshi(){
    26. return "这是测试数据";
    27. }

    2 修改application.yml

    1. server:
    2. port: 8091
    3. tomcat: # 为了测试方便 我们把Tomcat中最大的线程数改为10
    4. max-threads: 10

    3 接下来使用压测工具,对请求进行压力测试

    下载地址https://jmeter.apache.org/

    第一步:修改配置,并启动软件

    进入bin目录,修改jmeter.properties文件中的语言支持为language=zh_CN,然后点击jmeter.bat

    启动软件。

     第二步:添加线程组

     第三步:配置线程并发数

     第四步:添加Http取样

     第五步:配置取样,并启动测试

     4 访问ceshi方法观察效果

    结论:

    此时会发现, 由于a方法囤积了大量请求, 导致b方法的访问出现了问题,这就是服务雪崩的雏形。

    2. 服务学崩效应

            在分布式系统中,由于网络原因或自身的原因,服务一般无法保证 100% 可用。如果一个服务出现了问题,调用这个服务就会出现线程阻塞的情况,此时若有大量的请求涌入,就会出现多条线程阻塞等待,进而导致服务瘫痪

            由于服务与服务之间的依赖性,故障会传播,会对整个微服务系统造成灾难性的严重后果,这就是服务故障的 雪崩效应

    雪崩问题

    微服务调用链路中的某个服务故障,引起整个链路中的所有微服务都不可用,这就是雪崩。

             雪崩发生的原因多种多样,有不合理的容量设计,或者是高并发下某一个方法响应变慢,亦或是某台机器的资源耗尽。我们无法完全杜绝雪崩源头的发生,只有做好足够的容错,保证在一个服务发生问题,不会影响到其它服务的正常运行。也就是"雪落而不雪崩"。

    解决雪崩问题的常见方式有四种:

    1.     超时处理:设定超时时间,请求超过一定时间没有响应就返回错误信息,不会无休止等待

    •  舱壁模式:限定每个业务能使用的线程数,避免耗尽整个tomcat的资源,因此也叫线程隔离。

    •  熔断降级:由断路器统计业务执行的异常比例,如果超出阈值则会熔断该业务,拦截访问该业务的一切请求。

    •  流量控制:限制业务访问的QPS,避免服务因流量的突增而故障。

    2.1 什么是雪崩问题?

    • 微服务之间相互调用,因为调用链中的一个服务故障,引起整个链路都无法访问的情况。

    如何避免因瞬间高并发流量而导致服务故障?

    • 流量控制

    如何避免因服务故障引起的雪崩问题?

    • 超时处理
    • 线程隔离
    • 降级熔断

    2.2 服务保护技术对比

    常见的容错组件  hystrix  sentinel

    Hystrix

    Hystrix是由Netflix开源的一个延迟和容错库,用于隔离访问远程系统、服务或者第三方库,防止级联失败,从而提升系统的可用性与容错性。

    Resilience4J

    Resilicence4J一款非常轻量、简单,并且文档非常清晰、丰富的熔断工具,这也是Hystrix官方推荐的替代产品。不仅如此,Resilicence4j还原生支持Spring Boot 1.x/2.x,而且监控也支持和 prometheus等多款主流产品进行整合。

    Sentinel

    Sentinel 是阿里巴巴开源的一款断路器实现,本身在阿里内部已经被大规模采用,非常稳定。

    下面是三个组件在各方面的对比:

     3 认识Sentinel

    Sentinel是阿里巴巴开源的一款微服务流量控制组件。

    官网地址:https://sentinelguard.io/zh-cn/index.html

    Sentinel 具有以下特征:

    • 丰富的应用场景:Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景,例如秒杀(即突发流量控制在系统容量可以承受的范围)、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。
    • 完备的实时监控:Sentinel 同时提供实时的监控功能。您可以在控制台中看到接入应用的单台机器秒级数据,甚至 500 台以下规模的集群的汇总运行情况。
    • 广泛的开源生态:Sentinel 提供开箱即用的与其它开源框架/库的整合模块,例如与 Spring Cloud、Dubbo、gRPC 的整合。您只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。
    • 完善的 SPI 扩展点:Sentinel 提供简单易用、完善的 SPI 扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。

    3.1 什么是Sentinel

    Sentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点, 流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性。

    Sentinel 分为两个部分:

    核心库(Java 客户端 微服务) 不依赖任何框架/,能够运行于所有 Java 运行时环境,同时对 Dubbo /Spring Cloud 等框架也有较好的支持。

    控制台(Dashboard==sentinel服务)基于 Spring Boot 开发,打包后可以直接运行,不需要额外的 Tomcat 等应用容器。

    3.2 安装Sentinel控制台

    Sentinel 提供一个轻量级的控制台, 它提供机器发现、单机资源实时监控以及规则管理等功能。

    1 下载jar,解压到文件夹

    https://github.com/alibaba/Sentinel/releases

    2 启动控制台,在jar包所在目录搜索cmd

    java -jar sentinel-dashboard-1.8.1.jar
    

    3.然后访问:localhost:8080 即可看到控制台页面,默认的账户和密码都是sentinel

    如果要修改Sentinel的默认端口、账户、密码,可以通过下列配置: 

    1. # 直接使用jar命令启动项目(控制台本身是一个SpringBoot项目)
    2. java -Dserver.port=8090 -jar sentinel-dashboard-1.8.1.jar

    输入密码以后就会来到这个界面.

    3.3 微服务集成Sentinel

    为微服务集成Sentinel非常简单, 只需要加入Sentinel的依赖即可

    我们可以给需要的微服务中都整合上sentinel,网关服务可以不用加.

    1 在微服务pom.xml中加入下面依赖

    1. <dependency>
    2. <groupId>com.alibaba.cloudgroupId>
    3. <artifactId>spring-cloud-starter-alibaba-sentinelartifactId>
    4. dependency>

    2 修改配置文件

    1. # 指定sentinel控制台的地址
    2. spring.cloud.sentinel.transport.dashboard=localhost:8080

    3 访问微服务的任意端点,触发sentinel监控,访问localhost:7000/order/buy/1/1

     4 查看Sentinel控制台

     可以看到我们的微服务已经整合上了sentinel.

    4 流控规则

    流量控制,其原理是监控应用流量的QPS(每秒查询率) 或并发线程数等指标,当达到指定的阈值时对流量进行控制,以避免被瞬时的流量高峰冲垮,从而保障应用的高可用性。

    4.1 簇点链路

    簇点链路:就是项目内的调用链路,链路中被监控的每个接口就是一个资源。默认情况下sentinel会监控SpringMVC的每一个端点(Endpoint),因此SpringMVC的每一个端点(Endpoint)就是调用链路中的一个资源。 流控、熔断等都是针对簇点链路中的资源来设置的,因此我们可以点击对应资源后面的按钮来设置规则:

    4.2 快速入门

    点击资源/order/buy/1/10后面的流控按钮,就可以弹出表单。表单中可以添加流控规则,如下图所示:

     其含义是限制 /order/buy/1/10这个资源的单机QPS为1,即每秒只允许1次请求,超出的请求会被拦截并报错。

    资源名:唯一名称,默认是请求路径,可自定义

    针对来源:指定对哪个微服务进行限流,默认指default,意思是不区分来源,全部限制

    阈值类型/单机阈值

    1. QPS(每秒请求数量): 当调用该接口的QPS达到阈值的时候,进行限流
    2. 线程数:当调用该接口的线程数达到阈值的时候,进行限流

    是否集群:暂不需要集群

    4.3 流控规则入门案例

    需求:给/order/buy/{pid}/{num}这个资源设置流控规则,QPS不能超过 5。然后利用jemeter测试。

    1.设置流控规则:

    我们先做一个简单配置,设置阈值类型为QPS,单机阈值为5。即每秒请求量大于5的时候开始限流

    接下来,在流控规则页面就可以看到这个配置

    2. jemeter测试(测压软件):

    察看结果树,2秒20请求20次,理论上应该有10个请求失败 

    可以证明我们的流控规则已经生效了,可以看到前五个请求可以正常发出,但是第六个开始就请求失败了,有时候可能并不符合自己的理想值,也许这些失败的请求导致Jemeter的并发出现了问题,让这10个请求没有在同一秒内发出,所以并不是理想值. 

    在jemeter测试过程中,我们迅速访问, 观察效果,此时发现,当QPS > 5的时候,服务就不能正常响应,而是返回Blocked by Sentinel (flflow limiting)结果。

    4.4 配置流控模式

    点击上面设置流控规则的编辑按钮,然后在编辑页面点击高级选项,会看到有流控模式一栏。

    在添加限流规则时,点击高级选项,可以选择三种流控模式:

    • 直接:统计当前资源的请求,触发阈值时对当前资源直接限流,也是默认的模式
    • 关联:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
    • 链路:统计从指定链路访问到本资源的请求,触发阈值时,对指定链路限流

    下面呢分别演示三种模式:

    4.4.1.直接流控模式

    直接流控模式是最简单的模式,当指定的接口达到限流条件时开启限流。上面案例使用的就是直接流控模式。

    上边演示的就是直接流控模式。

    4.4.2.流控模式-关联

    • 关联模式:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
    • 使用场景:比如用户支付时需要修改订单状态,同时用户要查询订单。查询和修改操作会争抢数据库锁,产生竞争。业务需求是有限支付和更新订单的业务,因此当修改订单业务触发阈值时,需要对查询订单业务限流。

    满足下面条件可以使用关联模式:

    • 两个有竞争关系的资源
    • 一个优先级较高,一个优先级较低

    案例:当修改的并发请求量大时,限制对查询的请求(我们可以理解为修改的优先级要大于查询的优先级).

    目的: 当/update资源访问量触发阈值时,就会对/query资源限流,避免影响/update资源。
    1.在OrderController新建两个端点:/order/query和/order/update,无需实现业务

     2.配置流控规则,当/order/ update资源被访问的QPS超过5时,对/order/query请求限流

    要明确,对谁限流,就对谁设置,所以我们应该对/order/query进行设置.

    3. 在Jemeter中对/order/update进行压测,让他每秒的请求量大于5,然后在浏览器中访问/order/query,查看是否可以访问 

    此时,我们可以看到/order/query被限流,证明关联模式流控规则生效.

    4.4.3.流控模式-链路

      链路流控模式指的是,当从某个接口过来的资源达到限流条件时,开启限流。它的功能有点类似于针对来源配置项,区别在于:针对来源是针对上级微服务,而链路流控是针对上级接口,也就是说它的粒度更细。        

    例如有两条请求链路:
    /test1 -> /common
    /test2  -> /common

    如果只希望统计从/test2进入到/common的请求,则可以这样配置:

     需求:有查询订单和创建订单业务,两者都需要查询商品。针对从查询订单进入到查询商品的请求统计,并设置限流。

    步骤:

    1.在OrderController中创建两个端口都去调用OrderService中的queryGoods方法,不用实现业务

    2.在OrderController中,添加/order/queryOrder端点,调用OrderService中的queryGoods方法

    3.在OrderController中添加一个/order/saveOrder的端点,调用OrderService的queryGoods方法

    这里我们要注意一点,Sentinel默认只会标记Controller中的方法为资源,如果想要将service中的方法标记为资源,则需要在service层对应的方法上加@SentinelResource注解,并且在配置文件中追加配置,关闭context整合,才能使该注解生效:

    Sentinel默认只标记Controller中的方法为资源,如果要标记其它方法,需要利用@SentinelResource注解

    修改配置文件 

    Sentinel默认会将Controller方法做context整合,导致链路模式的流控失效,需要修改application.yml,添加

    1. # 关闭context整合
    2. spring.cloud.sentinel.web-context-unify=false

     然后重启该服务.在Sentinel控制台中就可以看到我们新添加的资源:"getGoodsMsg".(记得先访问一次才能在控制台中显示)

    4.给queryGoods设置限流规则,从/order/queryOrder进入queryGoods的方法限制QPS必须小于2

     使用压测工具Jemeter同时对/order/queryOrder 和 /order/saveOrder两条链路做压测,让他们5秒内都请求20次. 

    因为上边对queryOrder限流,并发量大于2的时候queryOrder会请求失败,saveOrder不影响

     察看queryOrder结果树:

     察看saveOrder结果树:

     实验结果表示流控规则----链路模式设置成功.

    流控模式有哪些?

    • 直接:对当前资源限流
    • 关联:高优先级资源触发阈值,对低优先级资源限流。
    • 链路:阈值统计时,只统计从指定资源进入当前资源的请求,是对请求来源的限流

    4.5. 流控效果

    流控效果是指请求达到流控阈值时应该采取的措施,包括三种:

    • 快速失败:达到阈值后,新的请求会被立即拒绝并抛出FlowException异常。是默认的处理方式。
    • warm up:预热模式,对超出阈值的请求同样是拒绝并抛出异常。但这种模式阈值会动态变化,从一个较小值逐渐增加到最大阈值。
    • 排队等待:让所有的请求按照先后次序排队执行,两个请求的间隔不能小于指定时长

    4.5.1 流控效果-warm up(预热模式)

    warm up也叫预热模式,是应对服务冷启动的一种方案。请求阈值初始值是 threshold / coldFactor,持续指定时长后,逐渐提高到threshold值。而coldFactor的默认值是3.

    例如,我设置QPS的threshold为10,预热时间为5秒,那么初始阈值就是 10 / 3 ,也就是3,然后在5秒后逐渐增长到10.

    案例:给/order/getOrder这个资源设置限流,最大QPS为10,利用warm up效果,预热时长为5秒

    1.设置流控规则:

    2.在Jemeter中进行压测该资源,让他每秒发送10次请求,持续10秒: 

    查看结果树 

     图中可以看出,一开始,每秒发送的10次请求只能通过三个,到中间慢慢的每秒通过的请求逐渐增多,到最后每秒发送的10次请求全部通过.这符合我们一开始设置的预热效果.

    4.5.2 流控效果-排队等待

            当请求超过QPS阈值时,快速失败和warm up 会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中,然后按照阈值允许的时间间隔依次执行。后来的请求必须等待前面执行完成,如果请求预期的等待时间超出最大时长,则会被拒绝。

            例如:QPS = 5,意味着每200ms处理一个队列中的请求;timeout = 2000,意味着预期等待超过2000ms的请求会被拒绝并抛出异常

    排队等待适合处理脉冲型的流量:当流量波形为脉冲形式时(即一阵流量大一阵流量小,形成脉冲的形式),我们可以利用起流量少的时间,作为排队等待时间.让QPS过滤掉的请求在等待时间内去处理,等待时间过了没有处理的请求都让他直接失败.

    案例:给/order/getOrder这个资源设置限流,最大QPS为5,利用排队的流控效果,超时时长设置为5s

    1.设置流控规则:

     2.在Jemeter中进行压测该资源,让他每秒发送20次请求,持续5秒: 

     查看结果树 

     

    4.6 热点参数限流

    之前的限流是统计访问某个资源的所有请求,判断是否超过QPS阈值。而热点参数限流是分别统计参数值相同的请求,判断是否超过QPS阈值。

     配置示例:

     代表的含义是:对hot这个资源的0号参数(第一个参数)做统计,每1秒相同参数值的请求数不能超过5

    在热点参数限流的高级选项中,可以对部分参数设置例外配置:

    结合上一个配置,这里的含义是对0号的long类型参数限流,每1秒相同参数的QPS不能超过5,有两个例外:

    • 如果参数值是100,则每1秒允许的QPS为10
    • 如果参数值是101,则每1秒允许的QPS为15

    案例:

    给/order/buy/{pid}/{num}这个资源添加热点参数限流,规则如下:

    默认的热点参数规则是每1秒请求量不超过2
    给pid=1这个参数设置例外:每1秒请求量不超过4
    给pid=2这个参数设置例外:每1秒请求量不超过10

    注意:

            热点参数限流对默认的SpringMVC资源无效

    热点参数默认不会对springmvc的资源进行限制,我们可以使用@SentinelResourse自定义资源

    所以我们在设置之前,要先给该资源设置@SentinelResource.让热点参数能够对该资源起作用.


     1.在OrderController端口上加注解@SentinelResourse

      配置文件不要忘了关闭context整合

    这时我们重启服务,并按照要求设置热点资源限流规则
    我们不能直接点该资源右边的热点,这样点没有高级设置.我们需要在左侧菜单热点规则---->新建热点规则.

     2. 设置热点规则:

     

    配置已经完成,我们继续使用我们的压测工具Jmeter实验一下.

    我们2秒请求20次,理论上pid=1时1秒通过5次参数请求;pid=2设置1秒通过10次请求.其他情况通过5次请求。根据我们设置的热点参数规则, 他们都会有一个请求被判定失败.让我们直接看看结果是不是这样:

    当pid为1时,查看结果树

    当pid为2时,查看结果树 

     其他情况下,

     我们想象的结果达到了,有时候会有一定偏差,不过无伤大雅。

    5. 隔离和降级

    • FeignClient整合
    • Sentinel 线程隔离(舱壁模式)
    • 熔断降级

            虽然限流可以尽量避免因高并发而引起的服务故障,但服务还会因为其它原因而故障。而要将这些故障控制在一定范围,避免雪崩,就要靠线程隔离(舱壁模式)和熔断降级手段了。 不管是线程隔离还是熔断降级,都是对客户端(调用方)的保护。

     5.1 OpenFeign整合Sentinel

    SpringCloud中,微服务调用都是通过Feign来实现的,因此做客户端保护必须整合Feign和Sentinel。

    1.修改spring-order微服务的配置文件,开启Feign的Sentinel功能

    1. # 整合sentinel和openfeign
    2. feign.sentinel.enabled=true

    2.给FeignClient编写失败后的降级逻辑

    • 方式一:FallbackClass,无法对远程调用的异常做处理
    • 方式二:FallbackFactory,可以对远程调用的异常做处理,我们选择这种

    ①在springcloud-order微服务中创建FallbackFactory工厂类,实现FallbackFactory

    1. package com.wzh.feign;
    2. import com.wzh.pojo.Product;
    3. import feign.hystrix.FallbackFactory;
    4. import lombok.extern.slf4j.Slf4j;
    5. import org.springframework.context.annotation.Bean;
    6. import org.springframework.stereotype.Component;
    7. @Component
    8. @Slf4j
    9. public class ProductFeignFactory implements FallbackFactory {
    10. @Override
    11. public Object create(Throwable throwable) {
    12. // 创建ProductFeign接口实现类,实现其中的方法,编写失败降级的处理逻辑
    13. ProductFeign productFeign = new ProductFeign() {
    14. //这是getById方法的兜底方案
    15. @Override
    16. public Product getById(Integer pid) {
    17. // 记录异常信息
    18. log.error("出现了问题,调用该兜底方法");
    19. Product p = new Product();
    20. //返回文字描述和异常信息
    21. p.setPname("服务器正忙,请稍后再试"+throwable.getMessage());
    22. return p;
    23. }
    24. };
    25. return productFeign;
    26. }
    27. }

    我们可以使用@Component注解把该类交给spring容器管理,也可以使用@Bean 

    ②在feignClient指定fallbackFactory工厂类的反射

    配置完成后重启项目,访问一遍该路径,在Sentinel控制台中就可以看到这个资源:

      我们之后的降级操作都是对该资源进行操作的.

     Sentinel支持的雪崩解决方案:

    • 线程隔离(仓壁模式)
    • 降级熔断

    Feign整合Sentinel的步骤:

    • 在application.yml中配置:feign.sentienl.enable=true
    • 给FeignClient编写FallbackFactory并注册为Bean
    • 将FallbackFactory配置到FeignClient

    5.2 线程隔离

    线程隔离有两种方式实现:

    • 线程池隔离
    • 信号量隔离(Sentinel默认采用)

    线程池隔离会创建出新的线程,而信号量隔离是增加一个计数器,没有额外增加新的线程.

    使用Sentinel设置线程隔离(舱壁模式)

    在添加限流规则时,可以选择两种阈值类型:

    •  QPS:就是每秒的请求数,在快速入门中已经演示过
    • 线程数:是该资源能使用用的tomcat线程数的最大值。也就是通过限制线程数量,实现舱壁模式。

     案例:

    1.我们给GET:http://springcloud-product/product/getById/{pid}设置线程隔离,线程数不能超过2.

    我们用Jemeter进行测试.

    我们给/order/buy/1/1这个请求进行测试,他同样会调取我们设置线程隔离的这个资源.我们设置0秒发送10次请求. 

     可以看到,我们请求只通过了两个,剩下的8个线程都被拒绝掉了.

    5.3 熔断降级

            熔断降级是解决雪崩问题的重要手段。其思路是由断路器统计服务调用的异常比例、慢请求比例,如果超出阈值则会熔断该服务。即拦截访问该服务的一切请求;而当服务恢复时,断路器会放行访问该服务的请求。

     断路器熔断策略有三种:慢调用、异常比例、异常数
    慢调用:业务的响应时长(RT)大于指定时长的请求认定为慢调用请求。在指定时间内,如果请求数量超过设定的最小数量,慢调用比例大于设定的阈值,则触发熔断。例如:

     解读:RT超过500ms的调用是慢调用,统计最近10000ms内的请求,如果请求量超过10次,并且慢调用比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。

    5.3.1 熔断策略-慢调用

    为了方便演示,我们给host资源的业务代码增加100ms的睡眠时间

    这样远程调用我们这个方法时,如果传入的id=1,那么就睡眠100ms.其他的正常运行.

    传入id=1时,耗时在100ms以上.

     其他情况,正常在100以内

      这样我们就可以以100ms为界限规定是否为慢调用.10s内如果发送请求大于5个,那么如果发送的这些请求中,慢调用的比例大于0.5,就让断路器对该服务进行熔断.

     

     我们在浏览器中疯狂刷新一下http://localhost:8091/order/buy/1/2的请求,让其熔断.

     可以看到,已经被熔断了.我们这时就算访问不是慢调用的请求一样是显示熔断效果

     对于熔断的半开请求,注意,当熔断的时间到了以后,会使熔断处于半开状态.这时第一个访问的请求如果还是慢调用的请求,那么该服务继续熔断.如果是正常请求,那么就关闭熔断状态.

    5.3.2 熔断策略----异常比例、异常数

    断路器熔断策略有三种:慢调用、异常比例或异常数
    异常比例或异常数:统计指定时间内的调用,如果调用次数超过指定请求数,并且出现异常的比例达到设定的比例阈值(或超过指定异常数),则触发熔断。例如:

     解读:统计最近1000ms内的请求,如果请求量超过10次,并且异常比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。

     我们再演示一个异常比例的熔断策略.我们修改一下业务代码,让其pid=2时产生一个异常.

    然后设置降级规则.当 10s内发送请求大于5个时,发送的请求中如果发生异常的比例大于0.5就熔断.

     

     熔断前:

    疯狂请求一波,,熔断后:

    6 自定义异常

    默认情况下,发生限流、降级、授权拦截时,都会抛出异常到调用方。如果要自定义异常时的返回结果,需要实现BlockExceptionHandler接口:

    1. public interface BlockExceptionHandler {
    2. /**
    3. * 处理请求被限流、降级、授权拦截时抛出的异常:BlockException
    4. */
    5. void handle(HttpServletRequest request, HttpServletResponse response, BlockException e) throws Exception;
    6. }

    而BlockException包含很多个子类,分别对应不同的场景:

    我们在springcloud-order服务中定义类,实现BlockExceptionHandler接口:

    1. package com.wzh.handler;
    2. import com.alibaba.csp.sentinel.adapter.spring.webmvc.callback.BlockExceptionHandler;
    3. import com.alibaba.csp.sentinel.slots.block.BlockException;
    4. import com.alibaba.csp.sentinel.slots.block.authority.AuthorityException;
    5. import com.alibaba.csp.sentinel.slots.block.degrade.DegradeException;
    6. import com.alibaba.csp.sentinel.slots.block.flow.FlowException;
    7. import com.alibaba.csp.sentinel.slots.block.flow.param.ParamFlowException;
    8. import org.springframework.stereotype.Component;
    9. import javax.servlet.http.HttpServletRequest;
    10. import javax.servlet.http.HttpServletResponse;
    11. @Component
    12. public class SentinelBlockHandler implements BlockExceptionHandler {
    13. @Override
    14. public void handle(
    15. HttpServletRequest httpServletRequest,
    16. HttpServletResponse httpServletResponse, BlockException e) throws Exception {
    17. String msg = "未知异常";
    18. int status = 429;
    19. if (e instanceof FlowException) {
    20. msg = "请求被限流了!";
    21. } else if (e instanceof DegradeException) {
    22. msg = "请求被降级了!";
    23. } else if (e instanceof ParamFlowException) {
    24. msg = "热点参数限流!";
    25. } else if (e instanceof AuthorityException) {
    26. msg = "请求没有权限!";
    27. status = 401;
    28. }
    29. httpServletResponse.setContentType("application/json;charset=utf-8");
    30. httpServletResponse.setStatus(status);
    31. httpServletResponse.getWriter().println("{\"message\": \"" + msg + "\", \"status\": " + status + "}");
    32. }
    33. }

     随后重启服务.我们测试一个限流异常:

     7. 持久化规则

    Sentinel的控制台规则管理有三种模式:

    原始模式:控制台配置的规则直接推送到Sentinel客户端,也就是我们的应用。然后保存在内存中,服务重启则丢失

     pull模式:控制台将配置的规则推送到Sentinel客户端,而客户端会将配置规则保存在本地文件或数据库中。以后会定时去本地文件或数据库中查询,更新本地规则。

     push模式:控制台将配置规则推送到远程配置中心,例如Nacos。Sentinel客户端监听Nacos,获取配置变更的推送消息,完成本地配置更新。

    7.1  实现pull模式

    1 编写处理类

    1. package com.wzh.config;
    2. import com.alibaba.csp.sentinel.command.handler.ModifyParamFlowRulesCommandHandler;
    3. import com.alibaba.csp.sentinel.datasource.*;
    4. import com.alibaba.csp.sentinel.init.InitFunc;
    5. import com.alibaba.csp.sentinel.slots.block.authority.AuthorityRule;
    6. import com.alibaba.csp.sentinel.slots.block.authority.AuthorityRuleManager;
    7. import com.alibaba.csp.sentinel.slots.block.degrade.DegradeRule;
    8. import com.alibaba.csp.sentinel.slots.block.degrade.DegradeRuleManager;
    9. import com.alibaba.csp.sentinel.slots.block.flow.FlowRule;
    10. import com.alibaba.csp.sentinel.slots.block.flow.FlowRuleManager;
    11. import com.alibaba.csp.sentinel.slots.block.flow.param.ParamFlowRule;
    12. import com.alibaba.csp.sentinel.slots.block.flow.param.ParamFlowRuleManager;
    13. import com.alibaba.csp.sentinel.slots.system.SystemRule;
    14. import com.alibaba.csp.sentinel.slots.system.SystemRuleManager;
    15. import com.alibaba.csp.sentinel.transport.util.WritableDataSourceRegistry;
    16. import com.alibaba.fastjson.JSON;
    17. import com.alibaba.fastjson.TypeReference;
    18. import org.springframework.beans.factory.annotation.Value;
    19. import java.io.File;
    20. import java.io.IOException;
    21. import java.util.List;
    22. public class FilePersistence implements InitFunc {
    23. @Value("${spring.application.name}")
    24. private String appcationName;
    25. @Override
    26. public void init() throws Exception {
    27. String ruleDir = System.getProperty("user.home") + "/sentinel-rules/" + appcationName;
    28. String flowRulePath = ruleDir + "/flow-rule.json";
    29. String degradeRulePath = ruleDir + "/degrade-rule.json";
    30. String systemRulePath = ruleDir + "/system-rule.json";
    31. String authorityRulePath = ruleDir + "/authority-rule.json";
    32. String paramFlowRulePath = ruleDir + "/param-flow-rule.json";
    33. this.mkdirIfNotExits(ruleDir);
    34. this.createFileIfNotExits(flowRulePath);
    35. this.createFileIfNotExits(degradeRulePath);
    36. this.createFileIfNotExits(systemRulePath);
    37. this.createFileIfNotExits(authorityRulePath);
    38. this.createFileIfNotExits(paramFlowRulePath);
    39. // 流控规则
    40. ReadableDataSource> flowRuleRDS = new FileRefreshableDataSource<>(
    41. flowRulePath,
    42. flowRuleListParser
    43. );
    44. FlowRuleManager.register2Property(flowRuleRDS.getProperty());
    45. WritableDataSource> flowRuleWDS = new FileWritableDataSource<>(
    46. flowRulePath,
    47. this::encodeJson
    48. );
    49. WritableDataSourceRegistry.registerFlowDataSource(flowRuleWDS);
    50. // 降级规则
    51. ReadableDataSource> degradeRuleRDS = new FileRefreshableDataSource<>(
    52. degradeRulePath,
    53. degradeRuleListParser
    54. );
    55. DegradeRuleManager.register2Property(degradeRuleRDS.getProperty());
    56. WritableDataSource> degradeRuleWDS = new FileWritableDataSource<>(
    57. degradeRulePath,
    58. this::encodeJson
    59. );
    60. WritableDataSourceRegistry.registerDegradeDataSource(degradeRuleWDS);
    61. // 系统规则
    62. ReadableDataSource> systemRuleRDS = new FileRefreshableDataSource<>(
    63. systemRulePath,
    64. systemRuleListParser
    65. );
    66. SystemRuleManager.register2Property(systemRuleRDS.getProperty());
    67. WritableDataSource> systemRuleWDS = new FileWritableDataSource<>(
    68. systemRulePath,
    69. this::encodeJson
    70. );
    71. WritableDataSourceRegistry.registerSystemDataSource(systemRuleWDS);
    72. // 授权规则
    73. ReadableDataSource> authorityRuleRDS = new FileRefreshableDataSource<>(
    74. authorityRulePath,
    75. authorityRuleListParser
    76. );
    77. AuthorityRuleManager.register2Property(authorityRuleRDS.getProperty());
    78. WritableDataSource> authorityRuleWDS = new FileWritableDataSource<>(
    79. authorityRulePath,
    80. this::encodeJson
    81. );
    82. WritableDataSourceRegistry.registerAuthorityDataSource(authorityRuleWDS);
    83. // 热点参数规则
    84. ReadableDataSource> paramFlowRuleRDS = new FileRefreshableDataSource<>(
    85. paramFlowRulePath,
    86. paramFlowRuleListParser
    87. );
    88. ParamFlowRuleManager.register2Property(paramFlowRuleRDS.getProperty());
    89. WritableDataSource> paramFlowRuleWDS = new FileWritableDataSource<>(
    90. paramFlowRulePath,
    91. this::encodeJson
    92. );
    93. ModifyParamFlowRulesCommandHandler.setWritableDataSource(paramFlowRuleWDS);
    94. }
    95. private Converter> flowRuleListParser = source -> JSON.parseObject(
    96. source,
    97. new TypeReference>() {
    98. }
    99. );
    100. private Converter> degradeRuleListParser = source -> JSON.parseObject(
    101. source,
    102. new TypeReference>() {
    103. }
    104. );
    105. private Converter> systemRuleListParser = source -> JSON.parseObject(
    106. source,
    107. new TypeReference>() {
    108. }
    109. );
    110. private Converter> authorityRuleListParser = source -> JSON.parseObject(
    111. source,
    112. new TypeReference>() {
    113. }
    114. );
    115. private Converter> paramFlowRuleListParser = source -> JSON.parseObject(
    116. source,
    117. new TypeReference>() {
    118. }
    119. );
    120. private void mkdirIfNotExits(String filePath) throws IOException {
    121. File file = new File(filePath);
    122. if (!file.exists()) {
    123. file.mkdirs();
    124. }
    125. }
    126. private void createFileIfNotExits(String filePath) throws IOException {
    127. File file = new File(filePath);
    128. if (!file.exists()) {
    129. file.createNewFile();
    130. }
    131. }
    132. private String encodeJson(T t) {
    133. return JSON.toJSONString(t);
    134. }
    135. }

    2 添加配置

    在resources下创建配置目录 META-INF/services ,然后添加文件

    com.alibaba.csp.sentinel.init.InitFunc

    在文件中添加配置类的全路径

    com.wzh.config.FilePersistence

  • 相关阅读:
    Spring Cloud 2023 新特性 同步网关
    【经验分享】如何构建openGauss开发编译提交一体化环境
    【RT-Thread】nxp rt10xx 设备驱动框架之--rtc搭建和使用
    在人物第一次死亡后会退出第一个循环,图片却一直卡在人物死亡的画面不动而不是重新开始(标签-游戏)
    【贝叶斯回归】【第 1 部分】--pyro库应用
    vue3+antdv 表格封装
    网络编程:组播发送接收
    Yolov5 v7.0目标检测——详细记录环境配置、自定义数据处理、模型训练与常用错误解决方法(数据集为河道漂浮物)
    PV操作经典问题通解
    互联网摸鱼日报(2023-05-28)
  • 原文地址:https://blog.csdn.net/weixin_68509156/article/details/126505336