• Haproxy集群

    Haproxy集群

    一、常见的web集群调度器

    1. 目前常见的web集群调度器分为软件和硬件
    2. 软件通常使用开源的LVS、Haproxy、Nginx
    3. 硬件一般使用比较多的是F5，也有很多人使用国内的一些产品，如梭子鱼、绿盟、深信服等

    二、Haproxy应用分析

    1.LVS在企业应用中抗负载能力很强，但存在不足

    • LVS不支持正则处理，不能实现动静分离
    • 对于大型网站，LVS的实施配置复杂，维护成本相对较高

    2.Haproxy是一款可提供高可用性、负载均衡、及基于TCP和HTTP应用的代理软件

    • 适用于负载大的web站点
    • 运行在硬件上可支持数以万计的并发连接的连接请求

    三、Haproxy调度算法原理

    Haproxy 支持多种调度算法，最常用的有三种

    （1）RR（Round Robin）

    RR算法是最简单最常用的一种算法，即轮询调度

    例如：

    • 有三个节点A、B、C

    • 第一个用户访问会被指派到节点A

    • 第一个用户访问会被指派到节点B

    • 第一个用户访问会被指派到节点C

    • 第四个用户访问会被指派到节点A，轮询分配访问请求实现负载均衡效果

    （2）LC（Leas3t Connections）

    最小连接数算法，根据后端的节点连接数大小动态分配前端请求

    例如：

    • 有三个节点A、B、C,各节点的连接数分别为A:4、B:5、 C:6

    • 第一个用户连接请求，会被指派到A上,连接数变为A:5、B:5、 C:6

    • 第二个用户请求会继续分配到A上，连接数变为A:6、B:5、 C:6; 再有新的请求会分配给B，每次将新的请求指派给连接数最小的客户端

    • 由于实际情况下A、B、C的连接数会动态释放，很难会出现一样连接数的情况

    • 此算法相比较rr算法有很大改进，是目前用到比较多的一-种算法

    （3）SH（Source Hashing）

    基于来源访问调度算法，用于一些有Session会记录在服务器端的场景，可以基于来源的IP、Cookie等做集群调度

    例如：

    • 有三个节点A、B、C,第一个用户第一次访问被指派到了A,第二个用户第一次访问被指派到了B

    • 当第一个用户第二次访问时会被继续指派到A,第二个用户第二次访问时依旧会被指派到B，只要负载均衡调度器不重启，第一个用户访问都会被指派到A,第二个用户访问都会被指派到B,实现集群的调度

    • 此调度算法好处是实现会话保持，但某些IP访问量非常大时会引|起负载不均衡，部分节点访问量超大，影响业务使用

    四、Haproxy特性

    HAProxy是可提供高可用性、负载均衡以及基于TCP和HTTP应用的代理，是免费、快速并且可靠的一种解决方案。HAProxy非常适用于并发大（并发达1w以上）web站点，这些站点通常又需要会话保持或七层处理。HAProxy的运行模式使得它可以很简单安全的整合至当前的架构中，同时可以保护web服务器不被暴露到网络上。

    Haproxy的主要特性有：

    • 可靠性和稳定性非常好，可以与硬件级的F5负载均衡设备相媲美；
    • 最高可以同时维护40000-50000个并发连接，单位时间内处理的最大请求数为20000个，最大处理能力可达10Git/s；
    • 支持多达8种负载均衡算法，同时也支持会话保持；
    • 支持虚机主机功能，从而实现web负载均衡更加灵活；
    • 支持连接拒绝、全透明代理等独特的功能；
    • 拥有强大的ACL支持，用于访问控制；
    • 其独特的弹性二叉树数据结构，使数据结构的复杂性上升到了0(1)，即数据的查寻速度不会随着数据条目的增加而速度有所下降；
    • 支持客户端的keepalive功能，减少客户端与haproxy的多次三次握手导致资源浪费，让多个请求在一个tcp连接中完成；
    • 支持TCP加速，零复制功能，类似于mmap机制；
    • 支持响应池（response buffering）；
    • 支持RDP协议；
    • 基于源的粘性，类似nginx的ip_hash功能，把来自同一客户端的请求在一定时间内始终调度到上游的同一服务器；
    • 更好统计数据接口，其web接口显示后端集群中各个服务器的接收、发送、拒绝、错误等数据的统计信息；
    • 详细的健康状态检测，web接口中有关于对上游服务器的健康检测状态，并提供了一定的管理功能；
    • 基于流量的健康评估机制；
    • 基于http认证；
    • 基于命令行的管理接口；
    • 日志分析器，可对日志进行分析。

    HAProxy负载均衡策略非常多，常见的有如下8种：

    • roundrobin：表示简单的轮询。
    • static-rr：表示根据权重。
    • leastconn：表示最少连接者先处理。
    • source：表示根据请求的源IP，类似Nginx的IP_hash机制。
    • ri：表示根据请求的URI。
    • rl_param：表示根据HTTP请求头来锁定每一次HTTP请求。
    • rdp-cookie(name)：表示根据据cookie(name)来锁定并哈希每一次TCP请求。

    LVS、Nginx、HAproxy的区别：

    • LVS基于Linux操作系统实现软负载均衡，而HAProxy和Nginx是基于第三方应用实现的软负载均衡；
    • LVS是可实现4层的IP负载均衡技术，无法实现基于目录、URL的转发。而HAProxy和Nginx都可以实现4层和7层技术，HAProxy可提供TCP和HTTP应用的负载均衡综合解决方案；
    • LVS因为工作在ISO模型的第四层，其状态监测功能单一，而HAProxy在状监测方面功能更丰富、强大，可支持端口、URL、脚本等多种状态检测方式；
    • HAProxy功能强大，但整体性能低于4层模式的LVS负载均衡。
    • Nginx主要用于Web服务器或缓存服务器。

    五、Haproxy搭建 Web 群集

    环境准备

    haproxy服务器:20.0.0.20

    nginx节点服务器1:20.0.0.10

    nginx节点服务器2:20.0.0.11

    image-20220803105907729

    部署haproxy服务器（20.0.0.20）

    1. #关闭防火墙，将安装Haproxy所需软件包传到/opt目录下
systemctl stop firewalld
setenforce 0
 
cd /opt
haproxy-1.5.19.tar.gz
 
2. #安装依赖软件
yum install -y pcre-devel bzip2-devel gcc gcc-c++ make
 
3. #解压安装包，并切换至该软件包
tar zxf haproxy-1.5.19.tar.gz 
cd haproxy-1.5.19/
 
4. #编译安装Haproxy
make TARGET=linux2628 ARCH=x86_64
make install
####################参数说明###################
TARGET=linux26 #内核版本，
#使用uname -r查看内核，如：2.6.18-371.el5，此时该参数用TARGET=linux26；kernel大于2.6.28的用TARGET=linux2628
ARCH=x86_64 #系统位数，64位系统
 
5. #Haproxy服务器配置
mkdir /etc/haproxy
cp examples/haproxy.cfg /etc/haproxy/
 
cd /etc/haproxy/
vim haproxy.cfg
global
--4~5行--修改，配置日志记录，local0为日志设备，默认存放到系统日志
		log /dev/log   local0 info		
        log /dev/log   local0 notice
        #log loghost    local0 info
        maxconn 4096					#最大连接数，需考虑ulimit -n限制
--8行--注释，chroot运行路径，为该服务自设置的根目录，一般需将此行注释掉
        #chroot /usr/share/haproxy
        uid 99							#用户UID
        gid 99							#用户GID
        daemon							#守护进程模式
 		nbproc 1						#添加，设置并发进程数，建议与当前服务器CPU核数相等或为其2倍
defaults        
		log     global					#定义日志为global配置中的日志定义
        mode    http					#模式为http
        option  httplog					#采用http日志格式记录日志
        option  dontlognull				#不记录健康检查日志信息
        retries 3						#检查节点服务器失败次数，连续达到三次失败，则认为节点不可用
        redispatch						#当服务器负载很高时，自动结束当前队列处理比较久的连接
        maxconn 2000					#最大连接数
        #contimeout      5000			#连接超时时间
        #clitimeout      50000			#客户端超时时间
        #srvtimeout      50000			#服务器超时时间
 		timeout http-request 10s     	#默认http请求超时时间
		timeout queue 1m             	#默认队列超时时间
		timeout connect 10s  	     	#默认连接超时时间，新版本中替代contimeout，该参数向后兼容
		timeout client 1m  	     		#默认客户端超时时间，新版本中替代clitimeout，该参数向后兼容
		timeout server 1m 	     		#默认服务器超时时间，新版本中替代srvtimeout，该参数向后兼容
		timeout http-keep-alive 10s  	#默认持久连接超时时间
		timeout check 10s            	#设置心跳检查超时时间

--删除下面所有listen项--，添加
listen  webcluster 0.0.0.0:80			#定义一个名为webcluster的应用
        option httpchk GET /test.html 	#检查服务器的test.html文件
        balance roundrobin				#负载均衡调度算法使用轮询算法roundrobin
        ##轮询算法：roundrobin；最小连接数算法：leastconn；来源访问调度算法：source类似于nginx的ip_hash
        server inst1 20.0.0.10:80 check inter 2000 fall 3		#定义在线节点
        server inst2 20.0.0.11:80 check inter 2000 fall 3
		##check inter 2000 表示启用对此后端服务器执行健康检查，设置健康状态检查的时间间隔，单位为毫秒
		#fall 3 表示连续三次检测不到心跳频率则认为该节点失效
		#若节点配置后带有“backup”表示该节点只是个备份节点，仅在所有在线节点都失效该节点才启用。不携带“backup”，表示为主节点，和其它在线节点共同提供服务。
 
6. #添加haproxy系统服务
cp /opt/haproxy-1.5.19/examples/haproxy.init /etc/init.d/haproxy
cd /etc/init.d/
chmod +x haproxy 
chkconfig --add /etc/init.d/haproxy 
ln -s /usr/local/sbin/haproxy /usr/sbin/haproxy
service haproxy start
 
7. #在客户端测试
在客户端使用浏览器打开 http://20.0.0.20/test.html ，不断刷新浏览器测试负载均衡效果

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64
    • 65
    • 66
    • 67
    • 68
    • 69
    • 70
    • 71
    • 72
    • 73
    • 74
    • 75
    • 76
    • 77
    • 78
    • 79
    • 80

    11

    #关闭防火墙，将安装Haproxy所需软件包传到/opt目录下

    image-20220803112246720

    image-20220803112135068

    #安装依赖软件

    image-20220803112440684

    #解压安装包，并切换至该软件包

    image-20220803112615320

    image-20220803112654210

    #编译安装Haproxy

    image-20220803114232788

    image-20220803113010995

    #Haproxy服务器配置

    image-20220803114351313

    image-20220803120221752

    #添加haproxy系统服务

    image-20220803121035994

    image-20220803140823495

    nginx服务器1（20.0.0.10）

    1. #关闭防火墙
systemctl stop firewalld
setenforce 0
 
2. #安装依赖关系包
yum -y install pcre-devel zlib-devel gcc gcc-c++ make
 
3. #新建用户和组便于管理
useradd -M -s /sbin/nologin nginx
 
4. #rpm安装nginx的yum源（nginx官网下载地址）
rpm -Uvh http://nginx.org/packages/centos/7/noarch/RPMS/nginx-release-centos-7-0.el7.ngx.noarch.rpm
############or##############
yum install -y epel-release.noarch #epel为一个网络软件库

5.#安装nginx
yum install -y nginx
systemctl start nginx
########小tips#########
# yum install 包名 -y --downloadonly          下载RPM包而不安装
# yum reinstall -y bash --downloadonly　　　　下载已安装过的rpm包
# yum install 包名 -y --downloadonly --downloaddir=/tmp/   下载RPM包到指定目录


6. #创建站点目录，先找到html文件所在位置
#rpm -qc nginx
#cat /etc/nginx/conf.d/default.conf
echo "
    啊要辣油啊！
    " > /usr/share/nginx/html/test.html
 
10. #重新加载单元.启动服务
systemctl daemon-reload 
systemctl start nginx
#######or########
systemctl restart nginx
 
11. #查看是否能成功启动
ss -ntap|grep nginx
http://20.0.0.10/
########or#########
curl 20.0.0.10/test.html

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40

    1. #关闭防火墙

    2. #安装依赖关系包
      image-20220803142945195

    3. #新建用户和组便于管理
      image-20220803143005723

    4. #rpm安装nginx的yum源（nginx官网下载地址）
      image-20220803143359222

    image-20220803143721869

    image-20220803150501536

    image-20220803144215919

    image-20220803153807354

    image-20220803153928139

    nginx服务器2（20.0.0.11）

    1. #关闭防火墙
systemctl stop firewalld
setenforce 0
 
2. #安装依赖关系包
yum -y install pcre-devel zlib-devel gcc gcc-c++ make
 
3. #新建用户和组便于管理
useradd -M -s /sbin/nologin nginx
 
4. #rpm安装nginx的yum源（nginx官网下载地址）
rpm -Uvh http://nginx.org/packages/centos/7/noarch/RPMS/nginx-release-centos-7-0.el7.ngx.noarch.rpm
############or##############
yum install -y epel-release.noarch #epel为一个网络软件库

5.#安装nginx
yum install -y nginx
systemctl start nginx
########小tips#########
# yum install 包名 -y --downloadonly          下载RPM包而不安装
# yum reinstall -y bash --downloadonly　　　　下载已安装过的rpm包
# yum install 包名 -y --downloadonly --downloaddir=/tmp/   下载RPM包到指定目录


6. #创建站点目录，先找到html文件所在位置
#rpm -qc nginx
#cat /etc/nginx/conf.d/default.conf
echo "
    再斩个鸭子！
    " > /usr/share/nginx/html/test.html


 
10. #重新加载单元.启动服务
systemctl daemon-reload 
systemctl start nginx
#######or########
systemctl restart nginx
 
11. #查看是否能成功启动
ss -ntap|grep nginx
http://20.0.0.11/
########or#########
curl 20.0.0.11/test.html

    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42

    1. #关闭防火墙

    2. #安装依赖关系包
      image-20220803142945195

    3. #新建用户和组便于管理
      image-20220803143005723

    4. #rpm安装nginx的yum源（nginx官网下载地址）
      image-20220803143359222

      image-20220803153520487

      image-20220803153605847

      image-20220803144215919

      image-20220803153807354

    5. #创建站点目录，先找到html文件所在位置
      image-20220803151324893

    image-20220803153928139

    测试

    image-20220803154653312

    三、Haproxy集群日志重新定义

    默认haproxy的日志是输出到系统的syslog中，查看起来不是非常方便，为了更好的管理haproxy的日志，我们在生产环境中一般单独定义出来。需要将haproxy的info及notice日志分别记录到不同的日志文件中。

    需要修改rsyslog配置，为了便于管理。将haproxy相关的配置独立定义到haproxy.conf，并放到/etc/rsyslog.d/下，rsyslog启动时会自动加载此目录下的所有配置文件

    vim /etc/haproxy/haproxy.cfg
#更改日志文件
global
	log /dev/log local0 info
	log /dev/log local0 notice
#重启haproxy服务
service haproxy restart
#为了便于管理将haproxy相关的配置独立定义到haproxy.conf
vim /etc/rsyslog.d/haproxy.conf
if ($programname == 'haproxy' and $syslogseverity-text == 'info')
then -/var/log/haproxy/haproxy-info.log
&~
if ($programname == 'haproxy' and $syslogseverity-text == 'notice')
then -/var/log/haproxy/haproxy-notice.log
&~
#将haproxy的info日志记录到/var/log/haproxy/haproxy-info.log下，将notice日志记录到/var/log/haproxy/haproxy-notice.log下
#“&~”表示当日志写入到日志文件后，rsyslog停止处理这个信息。
#重启服务
systemctl restart rsyslog.service


    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20

    image-20220803160953953

    image-20220803161009845

    image-20220803161152170

    使用网页访问20.0.0.20，则会产生对应的日志文件

    image-20220803161538831

    停止掉某个节点服务器，然后再刷新页面，再开启节点服务器，则会产生haproxy-notice.log
    查看

    image-20220803161903264

    image-20220803161911193

    使用tail -f /var/log/haproxy/haproxy-info.log命令可以追踪请求日志信息

  • 相关阅读:
    java实用代码-----HttpsUtil
    大促来咯，有些事情不得不提
    最新AI智能聊天对话问答系统源码（详细图文搭建部署教程）+AI绘画系统，DALL-E3文生图， Whisper & TTS 语音识别，文档分析
    Python3，os模块还可以这样玩，自动删除磁盘文件，非必要切勿操作。
    vue3+ts+element-plus实际开发之统一掉用弹窗封装
    剑指offer专项突击版第22天
    MongoDB的UTCDateTime如何使用
    连夜解决 maven 阿里云镜像无法下载 gexin-rp-* 的问题
    基于.NetCore开发博客项目 StarBlog - (5) 开始搭建Web项目
    ShareSDK for Flutter
  • 原文地址：https://blog.csdn.net/weixin_43554927/article/details/126157075