SpringCloudAlibaba入门之Sentinel(SCA)

微服务保护和熔断降级技术Sentinel

1.微服务调用存在问题

由于一个服务不可用，有可能会导致一连串的微服务跟着不可用[服务器支持的线程和并发数有限，请求一直阻塞，会导 致服务器资源耗尽，从而导致所有其它服务都不可用], 形成级联失败，最终会导致服务雪崩问题。针对服务雪崩，有如 下几种解决方案:

• 方案 1：超时处理：设定超时时间，请求超过一定时间没有响应就返回错误信息，不会无休止等待
• 方案 2: 仓壁模式, 仓壁模式来源于船舱的设计
• 方案 3: 断路器模式：由断路器统计业务执行的异常比例，如果超出阈值则会熔断该业务，拦截访问该业务的一切请求。 断路器会统计访问某个服务的请求数量，异常比, 当发现访问服务 D 的请求异常比例过高时，认为服务 D 有导致雪崩的 风险，会拦截访问服务 D 的一切请求，形成熔断
  
• 方案 4: 限流,流量控制：限制业务访问的 QPS，避免服务因流量的突增而故障
  

什么是雪崩问题？

微服务之间相互调用，因为调用链中的⼀个服务故障，引起整个链路都无法访问的情况。

限流是对服务的保护，避免因瞬间高并发流量而导致服务故障，进而避免雪崩。是⼀种预防措施。
超时处理、线程隔离、降级熔断是在部分服务故障时，将故障控制在⼀定范围，避免雪崩。是⼀种补救措施

2.前面整合了SpringCloud Hystrix实现了服务的降级,熔断,限流.那Sentinel和Hystrix有什么区别呢?

3.Sentinel 入门

①Sentinel安装

我使用的是docker安装方式,大家也可以自行用其他的方式.安装好了以后直接在浏览器访问:http://192.168.137.72:8858/

②Sentinel官网

https://sentinelguard.io/zh-cn/index.html

③流控、熔断等都是针对簇点链路中的资源来设置的，因此我们可以点击对应资源后面的按钮来设置规则

• 流控：流量控制
• 降级：降级熔断
• 热点：热点参数限流，是限流的⼀种
• 授权：请求的权限控制

④阈值类型

(1)测试QPS（Query Per Second）：每秒请求数，就是说服务器在一秒的时间内处理了多少个请求

快速刷新页面会出现下图

(2)测试线程数流控:最大并发数是 3，超过 3 将直接流控,这里我们借助于 Jemeter 测试:。

Jemeter参数设置

测试结果

⑤流控模式

• 直接：统计当前资源的请求，触发阈值时对当前资源直接限流，也是默认的模式
• 关联：统计与当前资源相关的另一个资源，触发阈值时，对当前资源限流
• 链路：统计从指定链路访问到本资源的请求，触发阈值时，对指定链路限流

(1)在sentinel-consumer-user9001服务controller中添加两个接口用于测试

@Value("${server.port}")
private String port;

@GetMapping("/findById")
public User findById(Integer id) {
	User user = userService.findById(id);
	return user;
}

@GetMapping("/write")
public String write() {
	return port;
}

设置关联流控规则

Jemeter参数设置

测试结果

当两个有竞争关系的资源 ⼀个优先级较高，⼀个优先级较低 ===> 可以使用关联模式

注意:测试后面的规则,最好把前面的规则删除掉,不然出现问题自己都蒙了......

⑥测试链路模式

(1)修改Service代码

@Override
@SentinelResource // Sentinel 默认只标记 Controller 中的方法为资源，如果要标记其它方法，需要利用@SentinelResource 注解
public void hello() {
	System.out.println("你好");
}

(2)修改Controller代码

 @GetMapping("/write")
public String write() {
	userService.hello();
	return port;
}

@GetMapping("/read")
public String read() {
	userService.hello();
	return port;
}

(3)修改yml配置文件

sentinel:
      web-context-unify: false #如果不关闭，所有controller层的方法对service层调用都认为是同一个根链路

(4)设置流控规则

测试结果:

流控模式小结

• 直接：对当前资源限流
• 关联：高优先级资源触发阈值，对低优先级资源限流
• 链路：阈值统计时，只统计从指定资源进入当前资源的请求，是对请求来源的限流

⑦流控效果

测试Warm up(预热)流控模式:当系统运行时,有并发请求来访问系统时，为了避免系统崩溃，可以设置一个阈值，让项目可以处理请求的数量逐渐增加 到设定的阈值

测试结果:

测试 排队等待:方式会严格控制请求通过的间隔 时间，也即是让请求以均匀的速度通过，对应的是漏桶算法.请求会进入队列，按照阈值允许的时间间隔依次执行请求；如果请求预期等待时⻓大于超时时间，直接拒绝

编辑流控规则

修改代码

@GetMapping("/findById")
    public Movie findById(@RequestParam("id") Integer id){
        try {
            Thread.sleep(3000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        System.out.println(port);
        return movieService.findById(id);
    }

测试结果:

⑧热点 key 限流:是分别统计参数值相同的请求，判断是 否超过 QPS 阈值。

添加请求接口

@SentinelResource(value = "hot")
@GetMapping("/resource/{hid}")
public String testHotResource(@PathVariable("hid") Long hid) {
	System.out.println(hid);
	return port;
}

修改热点key规则,点击左侧菜单栏配置信息更完善

参数为1时,每秒请求数最大为3

参数为2是,每秒请求数最大为5

虽然限流可以尽量避免因高并发而引起的服务故障，但服务还会因为其它原因而故障。而要将这些故障控制在一定范围， 避免雪崩，就要靠线程隔离（舱壁模式）和熔断降级手段了。 不管是线程隔离还是熔断降级，都是对客户端（调用方）的保护。

⑨线程隔离

线程隔离有两种方式实现：

• 1.线程池隔离 (Hystrix 两种隔离方式都支持)
• 2.信号量隔离（Sentinel 只支持信号量隔离）
  

线程池隔离和信号量隔离的区别:

线程池隔离与信号量隔离各自的应用场景:

Hystrix 支持信号量隔离与线程池隔离，默认使用的是线程池隔离,配置方式如下

hystrix: 
	command: 
		default: 
			execution: 
				isolation: 
					strategy: Thread # 默认是Thread, 可选Thread(线程池隔离)｜Semaphore(信号量隔离)

Sentinel 只支持信号量隔离,配置方式如下

这里的线程数是:该资源能使用用的 tomcat 线程数的最大值。也就是通过限制线程数量，实现舱壁模式。

线程隔离小结:

• 线程隔离的两种手段是？信号量隔离、线程池隔离
• 信号量隔离的特点是？基于计数器模式，简单，开销小
• 线程池隔离的特点是？基于线程池模式，有额外开销，但隔离控制更强

⑩熔断降级

sentinel 与 feign 整合之方式⼀：FallbackClass,无法对远程调用的异常做处理

(1)修改ymlp配置文件

feign:
  sentinel:
    enabled: true # 开启feign对sentinel的支持

(2)编写一个降级类,实现远程调用的接口

package com.qbb.cloud2022.feign;

import com.qbb.cloud2022.com.qbb.springcloud.entity.Movie;
import org.springframework.stereotype.Component;

/**
 * @author QiuQiu&LL (个人博客:https://www.cnblogs.com/qbbit)
 * @version 1.0
 * @date 2022-04-07  23:34
 * @Description:
 */
@Component
public class FeignMovieServiceFallBack implements FeignMovieService {
    @Override
    public Movie findById(Integer id) {
        Movie movie = new Movie(-1, "网络异常,请稍后再试~~~~");
        return movie;
    }
}

(3)在远程调用的接口上添加属性

@FeignClient(value = "sentinel-provider-user9101",fallback = FeignMovieServiceFallBack.class)

测试一下:

sentinel 与 feign 整合之方式二：FallbackFactory,可以对远程调用的异常做处理，我们选择这种

(1)修改ymlp配置文件

feign:
  sentinel:
    enabled: true # 开启feign对sentinel的支持

(2)创建一个Factory类实现FallBackFactory接口

package com.qbb.cloud2022.feign;

import com.qbb.cloud2022.com.qbb.springcloud.entity.Movie;
import feign.hystrix.FallbackFactory;
import org.springframework.stereotype.Component;

/**
 * @author QiuQiu&LL (个人博客:https://www.cnblogs.com/qbbit)
 * @version 1.0
 * @date 2022-04-07  23:34
 * @Description:
 */
@Component
public class FeignMovieServiceFallBackFactory implements FallbackFactory {
    @Override
    public Object create(Throwable throwable) {
        throwable.printStackTrace();
        return new Movie(-1, "网络异常,请稍后再试~~~~");
    }
}

(3)在远程调用的接口上添加属性

@FeignClient(value = "sentinel-provider-user9101",fallbackFactory = FeignMovieServiceFallBackFactory.class)

测试一下:

控制台直接报错

熔断器的三种状态

熔断降级是解决雪崩问题的重要手段。其思路是由断路器统计服务调用的异常比例、慢请求比例，如果超出阈值则会熔 断该服务。即拦截访问该服务的一切请求；而当服务恢复时，断路器会放行访问该服务的请求

断路器熔断策略有三种：慢调用、异常比例、异常数

上图的意思是:RT 超过 500ms 的调用是慢调用，如果请求量超过 10 次，并且慢调用比例不低于 0.5，则触发熔断，熔断时长为 5 秒。然后进入 half-open 状态，放行一次请求做测试

修改被调用方的代码

@GetMapping("/findById")
    public Movie findById(@RequestParam("id") Integer id) {
        if (id == 2) {
            try {
                Thread.sleep(3000);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
        System.out.println(port);
        return movieService.findById(id);
    }

测试一下:

Sentinel 熔断降级的策略有哪些？

• 慢调用比例：超过指定时⻓的调用为慢调用，统计单位时⻓内慢调用的比例，超过阈值则熔断
• 异常比例：统计单位时⻓内异常调用的比例，超过阈值则熔断
• 异常数：统计单位时⻓内异常调用的次数，超过阈值则熔断

最后一个系统保护规则

系统规则包含下面几个重要的属性:

至此SpringCloudAlibaba入门之Sentinel配置完毕

• 微服务保护和熔断降级技术Sentinel
•     1.微服务调用存在问题
•         什么是雪崩问题？
•     2.前面整合了SpringCloud Hystrix实现了服务的降级,熔断,限流.那Sentinel和Hystrix有什么区别呢?
•     3.Sentinel 入门
•         ①Sentinel安装
•         ②Sentinel官网
•         ③流控、熔断等都是针对簇点链路中的资源来设置的，因此我们可以点击对应资源后面的按钮来设置规则
•         ④阈值类型
•             (1)测试QPS（Query Per Second）：每秒请求数，就是说服务器在一秒的时间内处理了多少个请求
•                 快速刷新页面会出现下图
•             (2)测试线程数流控:最大并发数是 3，超过 3 将直接流控,这里我们借助于 Jemeter 测试:。
•                 Jemeter参数设置
•                 测试结果
•         ⑤流控模式
•             (1)在sentinel-consumer-user9001服务controller中添加两个接口用于测试
•                 设置关联流控规则
•                 Jemeter参数设置
•                 测试结果
•                 当两个有竞争关系的资源 ⼀个优先级较高，⼀个优先级较低 ===> 可以使用关联模式
•         ⑥测试链路模式
•             (1)修改Service代码
•             (2)修改Controller代码
•             (3)修改yml配置文件
•             (4)设置流控规则
•                 测试结果:
•         流控模式小结
•         ⑦流控效果
•             测试Warm up(预热)流控模式:当系统运行时,有并发请求来访问系统时，为了避免系统崩溃，可以设置一个阈值，让项目可以处理请求的数量逐渐增加 到设定的阈值
•             测试结果:
•             测试 排队等待:方式会严格控制请求通过的间隔 时间，也即是让请求以均匀的速度通过，对应的是漏桶算法.请求会进入队列，按照阈值允许的时间间隔依次执行请求；如果请求预期等待时⻓大于超时时间，直接拒绝
•                 编辑流控规则
•                 修改代码
•                 测试结果:
•         ⑧热点 key 限流:是分别统计参数值相同的请求，判断是 否超过 QPS 阈值。
•             添加请求接口
•             修改热点key规则,点击左侧菜单栏配置信息更完善
•         ⑨线程隔离
•             线程隔离有两种方式实现：
•             线程池隔离和信号量隔离的区别:
•             线程池隔离与信号量隔离各自的应用场景:
•             Hystrix 支持信号量隔离与线程池隔离，默认使用的是线程池隔离,配置方式如下
•             Sentinel 只支持信号量隔离,配置方式如下
•             线程隔离小结:
•         ⑩熔断降级
•             sentinel 与 feign 整合之方式⼀：FallbackClass,无法对远程调用的异常做处理
•                 (1)修改ymlp配置文件
•                 (2)编写一个降级类,实现远程调用的接口
•                 (3)在远程调用的接口上添加属性
•                 测试一下:
•             sentinel 与 feign 整合之方式二：FallbackFactory,可以对远程调用的异常做处理，我们选择这种
•                 (1)修改ymlp配置文件
•                 (2)创建一个Factory类实现FallBackFactory接口
•                 (3)在远程调用的接口上添加属性
•                 测试一下:
•             熔断器的三种状态
•                 上图的意思是:RT 超过 500ms 的调用是慢调用，如果请求量超过 10 次，并且慢调用比例不低于 0.5，则触发熔断，熔断时长为 5 秒。然后进入 half-open 状态，放行一次请求做测试
•                 修改被调用方的代码
•                 测试一下:
•             Sentinel 熔断降级的策略有哪些？
•         最后一个系统保护规则
•             系统规则包含下面几个重要的属性:
•             至此SpringCloudAlibaba入门之Sentinel配置完毕

__EOF__