阿里云k8s环境下，因slb限额导致的发布事故

一、背景

阿里云k8s容器，在发布java应用程序的时候，客户端访问出现500错误。

后端服务是健康且可用的，网关层大量500错误请求，slb没有流入和流出流量。

经过回滚，仍未能解决错误。可谓是一次血的教训，特此记录下来，如果你也使用的是阿里云slb来实现k8s的service，值得一看，希望对你有所帮助。

在讲述这个事故前，我们还是照旧把系统架构交待清楚。

补充说明

指标的区别：一个k8s节点允许注册到slb的数量限制与一个slb允许注册的端口数量限制

前者在本文也未能找到查看之处，还望知晓的同学指点一二。示意图见下：
在这里插入图片描述

后者在文末的总结有说明，为了和前者进行对比，也画出其示意图：
在这里插入图片描述

这两个指标的理解对本文发生的事故非常重要。

二、系统架构

在这里插入图片描述

1、kong upsteam

配置的是slb的内网IP+端口号
在这里插入图片描述

2、k8s的服务service

在这里插入图片描述

3、slb监听虚拟服务器

在这里插入图片描述

下面是重点需要关注的，，虚拟服务器组下的四个服务器，对应的就是4个pod的ip地址。

本文所述的发布事故，就是这里的服务器没有及时更新导致。

在这里插入图片描述

4、pod的ip地址

在这里插入图片描述
绿色的“Running”，表示Pod节点运行健康。
我这里使用了服务注册中心consul，从consul也能佐证java服务是健康无疑。

在这里插入图片描述

当然我还进一步验证，直接访问pod的接口，比如/info和/health接口，返回的版本号和健康状态也都是正常。

三、问题排查

1、kong网关报错

23937#0: *2832787172 connect() failed (111: Connection refused) while connecting to upstream
request: request: "PUT /api/v3/pub/user/extend HTTP/1.1"
1
2

在这里插入图片描述

2、slb监控

可以看到，出现故障之后，连接数和流量将至零。也就是说，http请求没有能够进入后端pod节点。

在这里插入图片描述

3、k8s容器的服务service

在这里插入图片描述

Error syncing load balancer [lb-bpxxxxxxxxxx6ndspgh]: Message: There is backend server has reached to the quota limit number of load balancers that it could be related to.
1

根据错误信息，查找阿里云的帮助文档，https://help.aliyun.com/zh/slb/classic-load-balancer/developer-reference/api-slb-2014-05-15-errorcodes

见下：

在这里插入图片描述
由此可见，是配额限制了。