• LVS+keepalive高可用集群

    keepalive简介

    keepalive为LVS应用延伸的高可用服务。lvs的调度器无法做高可用。但keepalive不是为lvs专门集群服务的，也可以为其他的的代理服务器做高可用。
    keepalive在lvs的高可用集群，主调度器和备调度器(可以有多个) 一主两备或一主一备。

    VRRP: keepalived是基于vrrp协议实现Ivs服务的高可用。解决了调度器单节点的故障问题。
    VRRP协议：提高网络路由器的可靠性开发的一种协议。

    vrrp工作原理
    ·选举出主和备，预先设定主备的优先级。主的优先级较高，备的优先级低，一旦开启服务器，优先级高的，会自定抢占主的位置。
    ·VRRP组播通信: 224.0.0.18 VRRP协议当中的主备服务器通过组播地进行通信，交换主备服务器之间的运行状态。主服务会周期性的发送vrrp协议报文，告诉备：主的当前状态。
    ·主备切换：主服务器发生故障,或者不可达，VRRP协议会把请求转义到备服务器。通过组播地址，VRRP可以迅速的通知其他服务器发生了主备切换，确保新的主服务器可以正常处理客户端的请求。
    ·故障恢复: 一旦主服务器恢复通信，由组播地址进行通信，发现在恢复的主服务器优先级更高，会抢占原主服务器的位置，成为主服务器，调度和接受请求。

    keepalive工作原理

    主调度器能够正常运行时，由主调度器进行后端真实服务器的分配处理。其余的备用调度器处于冗余状态。
    不参与集群的运转。主调度器故障无法运行，备调度器才会承担主调度器的工作。
    一旦主调度恢复工作，继续由主调度器进行处理，备调度器又成了冗余。

    keepalive的体系模块:

    全局模块：core模块，负载整个keepalived启动加载和维护
                      VRRP模块：实现vrrp协议，主备切换
                      check模块：负责后端真实服务器健康检查，配置真实服务器的模块当中。


    安装keepalived                yum -y install keepalived ipvsadm

    vim /etc/keepalived/keepalived.conf下配置说明

    1. ·邮箱地：smtp_server
    2. ·主备服务的id,主和备的id不能一致：router_id_01
    3. ·取消严格遵守vrrp协议功能，不取消VIP无法连接：#vrrp_strict
    4. ·标识主身份：state MASTER
    5. ·指定vip地址的物理接口：interface ens33
    6. ·虚拟路由器的id号：virtual_router_id 10
    7. ·发送报文的间隔时间：advert_int 30
    8. ·指定集群的vip地址：virtual_ipaddress
    9. ·健康检查的间隔时间：delay_loop 6		单位s
    10. ·负载均衡的调度算法：lb algo rr
    11. ·指定lvs集群的工作方式(要大写)：lb_kind NAT
    12. ·连接保持：persistence_timeout 50 	单位s
    13. ·VIP模块：virtual server 192.168.233.100 80 
    14. ·后端真实服务器的轮询权重：real_server 192.168.233.30 80 
    15. ·检测目标的端口号：connect_port 80
    16. ·连接超时时间：connect_timeout 3		单位s
    17. ·重试的次数：nb_get_retry 3
    18. ·重试间隔秒数：delay_before_retry 4

    实验(LVS-DR)-keepalive

    主192.168.10.10

    备192.168.10.40

    web服务器

    192.168.10.20----nginx

    192.168.10.30----nginx

    客户端访问：任意一台

    主192.168.10.10

    1. yum -y install keepalived ipvsadm
    2. vim /etc/keepalived/keepalived.conf
    3. .............
    4.  
    5. smtp_server 127.0.0.1
    6.  
    7. router_id LVS_01
    8.  
    9. vrrp_strict 注释掉
    10.  
    11. interface ens33
    12.  
    13. persistence_timeout 0
    14.  
    15. virtual_ipaddress {
    16.         192.168.10.99
    17. }
    18. 修改上面的，并删掉最后一个下面所有的内容，并添加以下内容
    19.  
    20. virtual_server 192.168.10.99 80 {
    21.     delay_loop 6
    22.     lb_algo rr
    23.     lb_kind DR
    24.     persistence_timeout 0
    25.     protocol TCP
    26.  
    27.     real_server 192.168.10.20 80 {
    28.         weight 1
    29.         TCP_CHECK {
    30.             connect_port 80
    31.             connect_timeout 3
    32.             nb_get_retry 3
    33.             delay_before_retry 4
    34.  
    35.         }
    36. }
    37. real_server 192.168.10.30 80 {
    38.         weight 1
    39.         TCP_CHECK {
    40.             connect_port 80
    41.             connect_timeout 3
    42.             nb_get_retry 3
    43.             delay_before_retry 4
    44.     }
    45. }
    46. }
    47.  
    48. .............
    49.  
    50. systemctl restart keepalived.service
    51. systemctl restart ipvsadm.service
    52. ipvsadm-save > /etc/sysconfig/ipvsadm
    53. systemctl restart ipvsadm.service
    54. ipvsadm -ln
    55. ipvsadm-save > /etc/sysconfig/ipvsadm
    56. systemctl restart ipvsadm.service
    57.  
    58.  
    59. vim /etc/sysctl.conf 
    60. .....................
    61.  
    62. net.ipv4.ip_forward = 0
    63. net.ipv4.conf.all.send_redirects = 0
    64. net.ipv4.conf.default.send_redirects = 0
    65. net.ipv4.conf.ens33.send_redirects = 0
    66.  
    67. .....................
    68.  
    69. sysctl -p 立即加载
    70.  
    71.  
    72.

    备192.168.10.40

    1. yum -y install keepalived ipvsadm
    2. vim /etc/keepalived/keepalived.conf
    3. .............
    4.  
    5. smtp_server 127.0.0.1
    6.  
    7. router_id LVS_02
    8.  
    9. priority 90
    10.  
    11. vrrp_strict 注释掉
    12.  
    13. state BACKUP
    14.  
    15. interface ens33
    16.  
    17. persistence_timeout 0
    18.  
    19. virtual_ipaddress {
    20.         192.168.10.99
    21. }
    22. 修改上面的，并删掉最后一个下面所有的内容，并添加以下内容
    23.  
    24. virtual_server 192.168.10.99 80 {
    25.     delay_loop 6
    26.     lb_algo rr
    27.     lb_kind DR
    28.     persistence_timeout 0
    29.     protocol TCP
    30.  
    31.     real_server 192.168.10.20 80 {
    32.         weight 1
    33.         TCP_CHECK {
    34.             connect_port 80
    35.             connect_timeout 3
    36.             nb_get_retry 3
    37.             delay_before_retry 4
    38.  
    39.         }
    40. }
    41. real_server 192.168.10.30 80 {
    42.         weight 1
    43.         TCP_CHECK {
    44.             connect_port 80
    45.             connect_timeout 3
    46.             nb_get_retry 3
    47.             delay_before_retry 4
    48.     }
    49. }
    50. }
    51.  
    52. .............
    53.  
    54. systemctl restart keepalived.service
    55. systemctl restart ipvsadm.service
    56. ipvsadm-save > /etc/sysconfig/ipvsadm
    57. systemctl restart ipvsadm.service
    58. ipvsadm -ln
    59. ipvsadm-save > /etc/sysconfig/ipvsadm
    60. systemctl restart ipvsadm.service
    61.  
    62.  
    63. vim /etc/sysctl.conf 
    64. .....................
    65.  
    66. net.ipv4.ip_forward = 0
    67. net.ipv4.conf.all.send_redirects = 0
    68. net.ipv4.conf.default.send_redirects = 0
    69. net.ipv4.conf.ens33.send_redirects = 0
    70.  
    71. .....................
    72.  
    73. sysctl -p 立即加载

    web服务器

    192.168.10.20

    192.168.10.30

    1. vim /etc/sysconfig/network-scripts/ifcfg-lo:0
    2. .........................
    3.  
    4. DEVICE=lo:0
    5. IPADDR=192.168.10.99
    6. NETMASK=255.255.255.255
    7. ONBOOT=yes
    8.  
    9. .........................
    10.  
    11. 重启lo:0网卡
    12. ifup ifcfg-lo:0 
    13.  
    14. 绑定vip
    15. route add -host 192.168.10.99 dev lo:0
    16.  
    17. vim /etc/sysctl.conf
    18. ...................
    19.  
    20. net.ipv4.conf.lo.arp_ignore = 1
    21. net.ipv4.conf.lo.arp_announce = 2
    22. net.ipv4.conf.all.arp_ignore = 1
    23. net.ipv4.conf.all.arp_announce = 2
    24.  
    25. ...................
    26. sysctl -p

    结果

    1. 停止主的
    2. systemctl stop ipvsadm.service
    3. systemctl stop keepalived.service
    4.  
    5. vip漂移到备服务器
    6. ip addr 看
    7.  
    8. 页面访问服务正常

    keepalive基于nginx高可用

    主192.168.10.10--nginx

    1. yum -y install keepalived
    2. vim /etc/keepalived/keepalived.conf
    3. ...................
    4. global_defs模块中
    5.    smtp_server 127.0.0.1
    6.    router_id LVS_01
    7.    #vrrp_strict
    8.     
    9.  
    10. 在global和vrrp_instance之间加
    11. .......
    12. vrrp_script check_nginx {
    13.         script "/opt/check_nginx.sh"
    14.         interval 5
    15. #5秒执行一次脚本
    16. }
    17. .......
    18.  
    19. vrrp_instance模块中
    20.  
    21. virtual_ipaddress {
    22.    192.168.10.99
    23. }
    24. vrrp_instance内最后加
    25. track_script {
    26.    check_nginx
    27. }
    28.  
    29.  
    30. ...................
    31.  
    32. vrrp_instance模块后的都删除
    33.  
    34. chmod 777 /opt/check_nginx.sh
    35. systemctl restart keepalived.service
    1. 传递nginx的状态
    2. vim /opt/check_nginx.sh
    3.  
    4. #!/bin/bash
    5. /usr/bin/curl -I http://localhost &> /dev/null
    6. if [ $? -ne 0 ]
    7. then
    8.         systemctl stop keepalived
    9. fi

    备192.168.10.20--nginx

    1. yum -y install keepalived
    2. vim /etc/keepalived/keepalived.conf
    3. ...................
    4. global_defs模块中
    5.    smtp_server 127.0.0.1
    6.    router_id LVS_02
    7.    #vrrp_strict
    8.     
    9.  
    10. 在global和vrrp_instance之间加
    11. .......
    12. vrrp_script check_nginx {
    13.         script "/opt/check_nginx.sh"
    14.         interval 5
    15. #5秒执行一次脚本
    16. }
    17. .......
    18.  
    19. vrrp_instance模块中
    20.  
    21. state BACKUP
    22. priority 90
    23. virtual_ipaddress {
    24.    192.168.10.99
    25. }
    26. vrrp_instance内最后加
    27. track_script {
    28.    check_nginx
    29. }
    30.  
    31.  
    32. ...................
    33.  
    34. vrrp_instance模块后的都删除
    35.  
    36. chmod 777 /opt/check_nginx.sh
    37. systemctl restart keepalived.service
    1. 传递nginx的状态
    2. vim /opt/check_nginx.sh
    3.  
    4. #!/bin/bash
    5. /usr/bin/curl -I http://localhost &> /dev/null
    6. if [ $? -ne 0 ]
    7. then
    8.         systemctl stop keepalived
    9. fi

    结果：

    当主故障后切换到备，主要恢复需要

    1. 主故障
    2. systemctl stop nginx.service
    3.  
    4.  
    5. 主恢复需要
    6. systemctl restart nginx.service
    7. systemctl restart keepalived.service

    脑裂

    脑裂：主备同时拥有VIP地址，在高可用系统当中，联系两个节点的心跳线，本来是一体的,动作协调的高可用系统。

    心跳线断开后，分裂成了两个独立的个体。主备之间失去了联系，都以为是对方出现了故。两个调度器，就像脑裂人一样，开始抢占主的位置，抢占VIP。主也有vip,备也有vip,导致整个集群失败。
    解决方法：
    ·软件层面：    1、配置文件
                            2、tcpdump抓包方向
                            解决方法：重启主keepalived 后重启备keepalived
    ·网络层面：    1、高可用服务器之间，心跳线检测设备。主备之间通信段开
    ·硬件层面：    1、连接主备之间心跳线老化
                            2、网卡或网卡驱动设备失效，IP地址配置冲突
                            3、防火墙没有配置心跳线消息的传输通道，导致检测失败
                            4、后端服务器的配置问题，心跳方式不同。心跳广播冲突。软件BUG
                           硬件解决方法：准备两条心跳线，这样断了一条，依然能够传送心跳消息
                              设置防火墙一定要让心跳线的消息通过
                              监控软件，实时监测（zabbix） 

  • 相关阅读:
    vite 关于 global is not defined 问题
    Android-从本质层面了解数据结构与算法
    latex模板列出所有参考文献并加上超链接（xiaoming et al. 2022； xiaohong et al. 2021）
    工艺边与定位孔设计经验规则总结
    Java数据类型
    挠场的科学丨五、二十一世纪的挠力文明
    奶茶行业竞争加剧，奈雪全自动化制作，亲身示范如何“内卷”
    ES6-匿名函数
    排序算法(Java实现)
    软件开发行业的乱象——低价引流中途收费？299？399？
  • 原文地址：https://blog.csdn.net/qq_61843057/article/details/134013830