LVS和keepalived

Keepalived及其工作原理

Keepalived 是一个基于VRRP协议来实现的LVS服务高可用方案，可以解决静态路由出现的单点故障问题。

在一个LVS服务集群中通常有主服务器（MASTER）和备份服务器（BACKUP）两种角色的服务器，但是对外表现为一个虚拟IP（VIP），主服务器会发送VRRP通告信息给备份服务器，当备份服务器收不到VRRP消息的时候，即主服务器异常的时候，备份服务器就会接管虚拟IP，继续提供服务，从而保证了高可用性。

高可用（HA）群集与普通群集的区别

普通群集

普通的群集的部署是通过一台度器控制调配多台节点服务器进行业务请求的处理，但是仅仅是一台调度器，就会存在极大的单点故障风险，当该调度器的链路或则调度器本身出现故障时，就会导致整个业务的无法正常进行。

高可用群集(HA)

高可用集群是由一台主调度器和一台或多台备用调度器。在主调度器能够正常运转时，由主调度器进行节点服务器业务的分配处理，其余备用调度器处于待机状态，不参与当前的集群运转。当主调度器出现故障无法运转时，此时备用调度器会由优先级最高的调度承担主调度器的工作，而出现故障的主调调度器便会退出当前工作，由人工维修后返回集群。

Keepalived体系主要模块及其作用：

keepalived体系架构中主要有三个模块，分别是core、check和vrrp。
●core模块：为keepalived的核心，负责主进程的启动、维护及全局配置文件的加载和解析。
●vrrp模块：是来实现VRRP协议的。（调度器之间的健康检查和主备切换）
●check模块：负责健康检查，常见的方式有端口检查及URL检查。（节点服务器的健康检查）

高可用集群的脑裂现象及其诱发原因

脑裂现象

在"双机热备"高可用（HA）系统中，当联系两个节点的"心跳线"断开时(即两个节点断开联系时)，本来为一个整体、动作协调的HA系统，就分裂成为两个独立的节点(即两个独立的个体)。由于相互失去了联系，都以为是对方出了故障，此时备用调度器会运转起来争做主调度器的工作，而主调度器依然保持着调度工作，两个调度的同时运转导致整个系统的紊乱。就会发生严重后果:（1）共享资源被瓜分、两边"服务"都起不来了.(2）或者两边"服务"都起来了，但同时读写"共享存储"，导致数据损坏（常见如数据库轮询着的联机日志出错）。

产生脑裂的常见原因

硬件原因：

1. 高可用服务器各节点之间心跳线链路发生故障，导致无法正常通信。
2. 因心跳线坏了（包括断了，老化）。
3. 因网卡及相关驱动坏了，ip配置及冲突问题（网卡直连）。
4. 因心跳线间连接的设备故障（网卡及交换机）。
5. 因仲裁的机器出问题（采用仲裁的方案）。

运用配置原因：

1. 高可用服务器上开启了iptables防火墙阻挡了心跳消息传输。

2. 高可用服务器上心跳网卡地址等信息配置不正确，导致发送心跳失败。

3. 其他服务配置不当等原因，如心跳方式不同，心跳广插冲突、软件Bug等

4. Keepalived配置里同一VRRP实例如果virtual_router_id两端参数配置不一致也会导致裂脑问题发生。

脑裂预防预防措施

针对脑裂现象的产生，运维人员第一时间要做的不是处理发生故障的调度器或则故障线路，而是首先确保业务不会因此中断，进行脑裂的预防尤为重要。出现问题，先保证业务的进行，再进行排障。

方式一： 添加冗余的心跳线 添加冗余的心跳线支持HA多线路的进行，在多线路的加持下，一条线路故障后，也会有其余的线路也可传输心跳信息，让主备调度器继续保持正常运转。此方案可减少脑裂产生的概率。

方式二：脚本配合周期任务计划检测，调度器自我裁决 脑裂分析：产生脑裂的最主要最常见的原因是备调度器接收不到主调度器的的心跳信息。首先调度器大多数情况下都会是在统一局域网中，是通过网络来进行心跳信息的传送。所以心跳信息的检测可以基于icmp协议来进行检测

方式三：第三方工具，监控软件 利用主流的监控软件，例如zabbix。当两个节点出现分歧时，由第3方的仲裁者决定听谁的。这个仲裁者，可能是一个锁服务，一个共享盘或者其它什么东西。例如设置参考IP（如网关IP），当心跳线完全断开时，2个节点都各自ping一下参考IP，不通则表明断点就出在本端。不仅"心跳"、还兼对外"服务"的本端网络链路断了，即使启动（或继续）应用服务也没有用了，那就主动放弃竞争，让能够ping通参考IP的一端去起服务。更保险一些，ping不通参考IP的一方干脆就自我重启，以彻底释放有可能还占用着的那些共享资源。

搭建LVS和Keepalived高可用集群

主keepalived服务器：192.168.222.102
备keepalived服务器：192.168.222.103
web1服务器：192.168.222.104
web2服务器：192.168.222.105  
vip：192.168.222.200
客户机：192.168.222.101

配置负载调度器（主keepalived服务器：192.168.222.102）

关闭防火墙

systemctl stop firewalld.servic

setenforce 0

安装服务

yum install ipvsadm keepalived -y

修改配置文件

cd /etc/keepalived/
cp keepalived.conf keepalived.conf.bak
vim keepalived.conf
 
......
global_defs {                        #定义全局参数
--10行--修改，邮件服务指向本地
    smtp_server 127.0.0.1
--12行--修改，指定服务器（路由器）的名称，主备服务器名称须不同，主为LVS_01，备为LVS_02
    router_id LVS_01
}
 
vrrp_instance VI_1 {                #定义VRRP热备实例参数
--20行--修改，指定热备状态，主为MASTER，备为BACKUP
    state MASTER
--21行--修改，指定承载vip地址的物理接口
    interface ens33
--22行--修改，指定虚拟路由器的ID号，每个热备组保持一致    
    virtual_router_id 10
--23行--修改，指定优先级，数值越大优先级越高，主为100，备为99
    priority 100
    advert_int 1                    #通告间隔秒数(心跳频率)
    authentication {                #定义认证信息,每个热备组保持一致
        auth_type PASS                #认证类型
--27行--修改，指定验证密码，主备服务器保持一致
        auth_pass 123123
    }
    virtual_ipaddress {                #指定群集vip地址
        192.168.222.200
    }
}
--36行--修改，指定虚拟服务器地址(VIP)、端口，定义虚拟服务器和Web服务器池参数
virtual_server 192.168.222.200 80 {
    delay_loop 6                    #健康检查的间隔时间(秒)
    lb_algo rr                        #指定调度算法，轮询(rr)
--39行--修改，指定群集工作模式，直接路由(DR)
    lb_kind DR
    persistence_timeout 50            #连接保持时间(秒)
    protocol TCP                    #应用服务采用的是 TCP协议
--43行--修改，指定第一个Web节点的地址、端口
    real_server 192.168.222.104 80 {
        weight 1                    #节点的权重
--45行--删除，添加以下健康检查方式        
        TCP_CHECK {
            connect_port 80            #添加检查的目标端口
            connect_timeout 3        #添加连接超时(秒)
            nb_get_retry 3            #添加重试次数
            delay_before_retry 3    #添加重试间隔
        }
    }
 
    real_server 192.168.222.105 80 {        #添加第二个 Web节点的地址、端口
        weight 1
        TCP_CHECK {
            connect_port 80
            connect_timeout 3
            nb_get_retry 3
            delay_before_retry 3
        }
    }
}
##删除后面多余的配置##

启动服务，查看vip

systemctl start keepalived

ip addr show dev ens33

调整proc响应参数，关闭Linux内核的重定向参数响应

vim /etc/sysctl.conf
net.ipv4.ip_forward = 1
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0

刷新

sysctl -p

配置负载均衡分配策略并重启服务

ipvsadm-save >/etc/sysconfig/ipvsadm

systemctl start ipvsadm.service

清空iptables，重新设置策略

ipvsadm -C
ipvsadm -A -t 192.168.222.200:80 -s rr
ipvsadm -a -t 192.168.222.200:80 -r 192.168.222.104:80 -g
ipvsadm -a -t 192.168.222.200:80 -r 192.168.222.105:80 -g

保存策略

ipvsadm

ipvsadm -ln

ipvsadm-save >/etc/sysconfig/ipvsadm

配置负载调度器（备keepalived服务器：192.168.222.103）

操作和主服务器一致，只是在修改配置文件里将优先级降低

配置节点服务器（web1服务器：192.168.222.104）

1. #关闭防火墙
systemctl stop firewalld
setenforce 0
 
2. #安装并开启httpd服务
yum -y install httpd
systemctl start httpd

3. #配置站点文件
vim /var/www/html/index.html
111111111
 
4. #配置虚拟vip
vim /etc/sysconfig/network-scripts/ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.222.200
NETMASK=255.255.255.255
 
5. #重启网络服务，开启虚拟网卡
systemctl restart network
ifup lo:0
ifconfig lo:0

6. #设置路由
route add -host 192.168.222.200 dev lo:0
route -n
 
7. #调整 proc 响应参数
#添加系统只响应目的IP为本地IP的ARP请求
#系统不使用原地址来设置ARP请求的源地址，而是物理mac地址上的IP
vim /etc/sysctl.conf
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
net.ipv4.conf.default.arp_ignore = 1
net.ipv4.conf.default.arp_announce = 2
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2

8. #刷新proc参数
sysctl -p

配置节点服务器（web2服务器：192.168.222.105）

操作和节点服务器1 类似

最后在测试服务器上访问vip可以正常负载均衡

断开主keepalived服务器后再访问还是可以正常负载均衡 

同时使用  ip a  命令查看备keepalived服务器可以查看vip在备keepalived服务器上