gateway之整合sentinel流控降级

什么是流控降级

流控降级是一种在高并发场景下保护系统可用性的策略，它通过对系统的流量进行控制和管理，以防止系统资源耗尽和崩溃。当系统面临压力过大或者异常情况时，流控降级可以暂时关闭或切换非关键功能，保障核心服务的正常运行。下面详细介绍流控降级的几个关键概念。

流量控制：流量控制是指通过限制系统的请求处理能力，确保系统在承受范围内运行。通过设置QPS（每秒请求数）或并发请求数的上限，防止系统被大量请求击穿。流量控制可以避免系统负载过重，导致响应时间延长或系统崩溃。

降级处理：当系统出现异常、资源不足或外部依赖故障等情况时，为了保护核心功能的可用性，可以暂时关闭或切换某些非关键或可降级的功能。降级可以提前定义好备用方案，当系统负载过高或出现异常时，快速切换到备用方案，保证核心功能的稳定运行。

触发条件：流控降级的触发条件可以根据业务需求和系统负载情况进行配置。常见的触发条件包括请求频率超过阈值、请求失败率超过阈值、系统负载过高等。根据实际情况，可以设置不同的触发条件来实现精细化的流控降级策略。

降级策略：降级策略指定了在流控降级条件触发时执行的操作。常见的降级策略包括返回默认数据、返回静态页面、调用备用接口、延迟响应等。选择合适的降级策略可以最大程度地保障系统可用性，并提供更好的用户体验。

动态调整：流控降级的设置应该具备动态调整能力，以便根据实际情况及时调整流控规则和降级策略。通过监控系统的实时指标（如QPS、响应时间、错误率等），可以根据实际负载情况对流控降级策略进行动态调整，提升系统的灵活性和适应性。

为什么要流控降级

保护核心服务：流控降级可以保护系统的核心服务免受异常或过载的影响。当系统面临压力过大时，降级策略可以通过关闭或切换非关键功能来保证核心服务的正常运行，防止系统崩溃或无法响应。

提高系统可用性：通过合理的流量控制和降级处理，系统可以更好地应对突发流量和高并发请求，避免资源耗尽和性能下降。这提高了系统的可用性，确保用户能够正常访问和使用系统。

避免雪崩效应：在分布式系统中，当一个节点/服务出现故障或延迟时，其他节点/服务可能会出现级联故障，形成雪崩效应。流控降级可以限制对故障节点的访问，避免因单个节点的故障导致整个系统的崩溃。

节约资源开销：在高并发情况下，系统的资源可能会被过多的请求占用，导致其他请求无法得到及时处理。通过流控降级，可以限制系统的负载，合理分配和利用系统资源，避免资源浪费和不必要的开销。

提升用户体验：流控降级可以保证核心功能的正常响应和快速处理，提高用户的访问效率和体验。即使在高峰期或异常情况下，用户仍然可以获得稳定和可接受的系统响应，减少因网络延迟或超时导致的用户体验下降。

预防恶意攻击：一些恶意攻击可能会通过大量的请求消耗系统资源，导致服务不可用。通过设置流量控制规则，可以限制来自单个IP或用户的请求频率，防止恶意攻击对系统的影响。

流控降级带来的好处

gateway如何整合sentinel

安装和配置Sentinel：首先，根据Sentinel的官方文档，下载并安装Sentinel。然后，根据需要进行配置，包括定义规则、设置流控策略等。

添加Sentinel依赖：在您的网关项目中，添加Sentinel的相关依赖库。这通常是通过在项目的构建文件（如pom.xml）中添加相应的依赖项来完成的。

创建网关过滤器：为了将Sentinel应用于网关，您需要创建一个过滤器来拦截传入的请求，并将其交给Sentinel进行流量控制和降级处理。这个过滤器可以在网关的请求处理链中进行配置。

配置规则和资源：将需要进行流控的API或服务定义为Sentinel中的资源，并为其配置相应的流控规则。您可以根据需求，使用Sentinel提供的注解或编程方式来实现这一步骤。

异常处理和降级：当请求被Sentinel标记为不通过时，网关可以根据您的业务需求进行相应的异常处理和降级操作。这可能包括返回自定义的错误信息、转发到备用服务或返回预设的默认响应。

监控和管理：Sentinel提供了许多监控和管理功能，您可以选择使用Sentinel Dashboard进行实时监控、规则配置和流量统计等。

请注意，在实施过程中，您需要根据具体的网关框架和技术选型，进行相应的配置和集成。例如，在Spring Cloud Gateway中，您可以使用Spring Cloud Alibaba提供的Sentinel组件来简化整合过程。

代码示例

以下是一个示例代码，展示如何将Spring Cloud Gateway与Sentinel进行整合：

首先，确保已经添加了必要的依赖。在 pom.xml 文件中添加以下依赖：

<!-- Spring Cloud Gateway -->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-gateway</artifactId>
</dependency>

<!-- Spring Cloud Alibaba Sentinel -->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-alibaba-sentinel-gateway</artifactId>
</dependency>
1
2
3
4
5
6
7
8
9
10
11

接下来，创建一个配置类来进行网关的配置和整合

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.cloud.gateway.filter.GlobalFilter;
import org.springframework.cloud.gateway.route.RouteLocator;
import org.springframework.cloud.gateway.route.builder.RouteLocatorBuilder;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class GatewayConfig {

    @Autowired
    private CustomBlockHandler customBlockHandler; // 自定义的流控异常处理器

    @Value("${backend.service.url}")
    private String backendServiceUrl;

    @Bean
    public RouteLocator customRouteLocator(RouteLocatorBuilder builder) {
        return builder.routes()
                .route(r -> r.path("/api")
                        .filters(f -> f.stripPrefix(1)
                                .filter(new SentinelGatewayFilter()))
                        .uri(backendServiceUrl))
                .build();
    }

    @Bean
    public GlobalFilter sentinelGlobalFilter() {
        return new SentinelGatewayFilter();
    }

    @Bean
    public CustomBlockHandler customBlockHandler() {
        return new CustomBlockHandler(); // 自定义的流控异常处理器
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37

在上面的示例中，我们配置了一个处理路径为/api的路由，并应用了 SentinelGatewayFilter 进行流控。

然后，创建一个自定义的流控异常处理器：

import java.util.HashMap;
import java.util.Map;

import com.alibaba.csp.sentinel.slots.block.BlockException;
import org.springframework.http.HttpStatus;
import org.springframework.http.MediaType;
import org.springframework.http.server.reactive.ServerHttpResponse;
import org.springframework.web.server.ServerWebExchange;
import org.springframework.web.server.WebExceptionHandler;

public class CustomBlockHandler implements WebExceptionHandler {

    @Override
    public Mono<Void> handle(ServerWebExchange exchange, Throwable ex) {
        if (exchange.getResponse().isCommitted()) {
            return Mono.error(ex);
        }
        ServerHttpResponse response = exchange.getResponse();
        response.getHeaders().setContentType(MediaType.APPLICATION_JSON);
        response.setStatusCode(HttpStatus.TOO_MANY_REQUESTS);
        Map<String, Object> result = new HashMap<>();
        result.put("code", HttpStatus.TOO_MANY_REQUESTS.value());
        result.put("message", "Too many requests");
        return response.writeWith(Mono.just(response.bufferFactory().wrap(result.toString().getBytes())));
    }
}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27

当请求被Sentinel流控时，会返回一个包含错误信息的JSON响应。

最后，确保在配置文件中设置了 backend.service.url 的值，指向您实际的后端服务地址。

总结

通过将Spring Cloud Gateway与Sentinel进行整合，可以实现对API或服务的流量控制和降级处理。这样可以提高系统的稳定性和可靠性，并且提供实时的监控和管理能力。

在实施过程中，需要完成以下步骤：

添加必要的依赖：在项目的构建文件中，添加Spring Cloud Gateway和Spring Cloud Alibaba Sentinel的相关依赖。

创建网关配置类：创建一个配置类，在其中定义自定义的路由和过滤器，配置Sentinel的流控策略。

配置路由规则：使用RouteLocatorBuilder来定义需要进行流控的API或服务的路由规则。

使用SentinelGatewayFilter：在路由配置中，将SentinelGatewayFilter应用到指定的路由上，以进行流量控制和降级处理。

自定义流控异常处理器：创建一个自定义的流控异常处理器，用于根据业务需求对被流控的请求进行处理，如返回自定义错误信息。

监控和管理：使用Sentinel提供的功能，如Sentinel Dashboard，可以实现对流量控制规则的实时监控、动态配置和流量统计。

通过以上步骤，您可以将Sentinel集成到Spring Cloud Gateway中，实现对流经网关的请求进行流量控制和降级处理，从而保障系统的稳定性和可靠性。

整合后，您可以根据业务需求，在Sentinel中定义流控规则，例如基于QPS、线程数等进行限制，并根据需要返回自定义的错误信息或转发到备用服务。同时，您还可以通过Sentinel Dashboard对规则和流量进行实时监控和管理，便于调整和优化系统性能。