redis高可用
在web服务器中,高可用是指服务器可以正常访问的时间,衡量的标准是在多长时间内可以提供正常服务(99.9%、99.99%、99.999%等等)。
在Redis语境中,高可用的含义似乎要宽泛一些,除了保证提供正常服务(如主从分离、快速容灾技术),还需要考虑数据容量的扩展、数据安全不会丢失等。
在Redis中,实现高可用的技术主要包括持久化、主从复制、哨兵和Cluster集群,下面分别说明它们的作用,以及解决了什么样的问题。
持久化:持久化是最简单的高可用方法(有时甚至不被归为高可用的手段),主要作用是数据备份,即将数据存储在硬盘,保证数据不会因进程退出而丢失。
主从复制:主从复制是高可用Redis的基础,哨兵和集群都是在主从复制基础上实现高可用的。主从复制主要实现了数据的多机备份,以及对于读操作的负载均衡和简单的故障恢复。缺陷:故障恢复无法自动化:写操作无法负载均衡:存储能力受到单机的限制。
哨兵:在主从复制的基础上,哨兵实现了自动化的故障恢复。缺陷:写操作无法负载均衡;存储能力受到单机的限制。
cluster集群:通过集群,Redis解决了写操作无负载均衡,以及存储能力受到单机限制的问题,实现了较为完善的高可用方案。
Redis持久化
持久化的功能:Redis是内存数据库,数据都是存储在内存中,为了避免服务器断电等原因导致Redis进程异常退出后数据的永久丢失,需要定期将Redis中的数据以某种形式(数据或命令)从内存保存到硬盘;当下次Redis重启时,利用持久化文件实现数据恢复。除此之外,为了进行灾难备份,可以将持久化文件拷贝到一个远程位置。
Redis提供两种方式进行持久化
RDB持久化:原理是将Reids在内存中的数据库记录定时保存到磁盘上。
AOF持久化:原理是将Reids的操作日志以追加的方式写入文件,类似于MysQL的binlog。
RDB自动触发
在自动触发RDB持久化时,Redis也会选择bgsave而不是save来进行持久化。
save m n这年LR动触发最常见的情况是在配置文件中通过save mn,指定当m秒内发生n次变化时,会触发bgsave。
vim /etc/redis/6379.conf
–219行–以下三个save条件满足任意一个时,都会引起bgsave的调用
save 900 1:#当时间到900秒时,如果redis数据发生了至少1次变化,则执行bgsave
save 300 10:#当时间到300秒时,如果redis数据发生了至少10次变化,则执行bgsave
save 60 10000: #当时间到60秒时,如果redis数据发生了至少10000次变化,则执行bgsave
–254行-- #指定RDB文件名
dbfilename dump.rdb
–264行-- #指定RDB文件和AOF文件所在目录
dir /var/lib/redis/6379
–242行-- #是否开启RDB文件压缩
rdbcompression yes
AOF 持久化
开启AOF
Redis服务器默认开启RDB,关闭AOF;要开启AOF,需要在配置文件中配置:
vim/etc/redis/6379.conf
–700行–#修改,开启AOF
appendonly yes
–704行–#指定AOF文件名称
appendfilename"appendonly.aof"
–796行–#是否忽略最后一条可能存在问题的指令
aof-load-truncated yes
/etc/init.d/redis_6379 restart #重启服务
AOE的执行流程
由于需要记录Redis的每条写命令,因此A0F不需要触发,
命令追加(append):将Redis的写命令追加到缓冲区aof buf;
文件写入(write)和文件同步(sync):根据不同的同步策略将aof buf中的内容同步到硬盘;
文件重写(rewrite):定期重写AoF文件,达到压缩的目的。
Redis 主从复制
主从复制,是指将一台Redis服务器的数据,复制到其他的Redis服务器。前者称为主节点(Master),后者称为从节点(Slave);数据的复制是单向的,只能由主节点到从节点。
默认情况下,每台Redis服务器都是主节点;且一个主节点可以有多个从节点(或没有从节点),但一个从节点只能有一个主节点。
主从复制的作用
数据冗余:主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式。
故障恢复:当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复;实际上是一种服务的冗余。
负载均衡:在主从复制的基础上,配合读写分离,可以由主节点提供写服务,由从节点提供读服务(即写Redis数据时应用连接主节点,读Redis数据时应用连接从节点),分担服务器负载;尤其是在写少读多的场景下,通过多个从节点分担读负载,可以大大提高Redis服务器的并发量。
高可用基石:除了上述作用以外,主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础。
搭建redis主从复制
master 192.168.239.10
slave1 192.168.239.20
slave2 192.168.239.30
初始化环境
#关闭防火墙
systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0
所有服务器安装redis
yum install -y gcc gcc-c++ make #安装依赖包环境
cd /opt
tar -zxvf redis-5.0.7.tar.gz #解压软件报
cd redis-5.0.7/ #进入目录
make #编译
make PREFIX=/usr/local/redis install #指定安装目录去安装
cd utils/
./install_server.sh
一路回车
Please select the redis executable path[/usr/local/bin/redis-server]/usr/local/redis/bin/redis-server
#需要手动修改为/usr/local/redis/bin/redis-server,注意要一次性正确输入
Port : 6379 #默认监听端口为6397
Config file : /etc/redis/6379.conf #配置文件路劲
Log file : /var/log/redis_6379.log #日志文件路劲
Data dir : /var/lib/redis/6379 #数据文件路劲
Executable : /usr/local/redis/bin/redis-server #可执行文件路劲
Cli Executable : /usr/local/redis/bin/redis-cli #客户端命令工具
#把redis的可执行程序文件放入路径环境变量的目录中便于系统识别
ln -s /usr/local/redis/bin/* /usr/local/bin/
#当installserver.sh 脚本运行完毕,Redis服务就已经启动,默认监听端口为6379
修改Redis配置文件(Master节点操作)
vim/etc/redis/6379.conf
bind 0.0.0.0 #70行,修改监听地址为0.0.0.0
daemontze yes #137行,开启守护进程
logfile/var/log/redis_6379.1og #172行,指定日志文件目录
dir/var/lib/redis/6379 #264行,指定工作目录
appendonly yes #700行,开启AOF持久化功能
/etc/init.d/redis_6379 restart
修改Redis配置文件(slave节点操作)
slave节点配置与master节点类似这里我直接用scp命令进行远程传输后进行修改
vim /etc/redis/6379.conf
bind 0.0.0.0 #70行,修改监听地址为0.0.0.0
daemonize yes #137行,开启守护进程
logfile/var/log/redis 6379.1og #172行,指定日志文件目录
dir/var/lib/redis/6379 #264行,指定工作目录
replicaof 192.168.239.10 6379#288行,指定要同步的Master节点IP和端口
appendonly yes #700行,开启AOF持久化功能
/etc/init.d/redis_6379 restart
进入两台slave服务器进行修改
vim /etc/redis/6379.conf
replicaof 192.168.239.10 6379#288行,指定要同步的Master节点IP和端口
/etc/init.d/redis_6379 restart
Redis哨兵模式
主从切换技术的方法是:当服务器宕机后,需要手动一台从机切换为主机,这需要人工干预,不仅费时费力而且还会造成一段时间内服务不可用。为了解决主从复制的缺点,就有了哨兵机制。
哨兵的核心功能:在主从复制的基础上,哨兵引入了主节点的自动故障转移。
哨兵模式的作用
监控:哨兵会不断地检查主节点和从节点是否运作正常。
自动故障转移:当主节点不能正常工作时,哨兵会开始自动故障转移操作,它会将失效主节点的其中一个从节点升级为新的主节点,并让其它从节点改为复制新的主节点。
通知(提醒):哨兵可以将故障转移的结果发送给客户端。
哨兵结构由两部分组成,哨兵节点和数据节点
哨兵节点:哨兵系统由一个或多个哨兵节点组成,哨兵节点是特殊的redis节点,不存储数据。
数据节点:主节点和从节点都是数据节点。
搭建redis哨兵模式
master 192.168.239.10
slave1 192.168.239.20
slave2 192.168.239.30
sentinel-1: 1992.168.239.40
sentinel-2: 1992.168.239.50
sentinel-3: 1992.168.239.60
所有哨兵服务器安装好redis服务
修改任意一台sentinel哨兵模式配置文件
vim /opt/redis-5.0.7/sentinel.conf
protected-mode no #17行,关闭保护模式
port 26379 #21行,Redis哨兵默认的监听端口
daemonize yes #26行,指定sentine1为后台启动
logfile"/var/log/sentinel.log" #36行,指定日志存放路径
dir"/var/lib/redis/6379" #65行,指定数据库存放路径
sentinel monitor mymaster 192.168.239.10 6379 2
#84行,修改指定该哨兵节点监控192.168.239.10:6379这个主节点,该主节点的名称是mymaster,最后的2的含义与主节点的故障判定有关:至少需要2个哨兵节点同意,才能判定主节点故障并进行故障转移
sentinel down-after-milliseconds mymaster 3000
#113行,判定服务器down掉的时间周期,默认30000毫秒(30秒)
sentinel failover-timeout mymaster 180000
#146行,同一个sentine1对同一个master两次failover之间的间隔时间(180秒)
#远程传续将配置文件传输给其他哨兵服务器
scp /opt/redis-5.0.7/sentinel.conf 192.168.239.50:/opt/redis-5.0.7/
scp /opt/redis-5.0.7/sentinel.conf 192.168.239.60:/opt/redis-5.0.7/
启动哨兵模式
查看哨兵消息
Redis 群集模式
集群,即Redis cluster,是Redis3.0开始引入的分布式存储方案。
集群由多个节点(Node)组成,Redis的数据分布在这些节点中。集群中的节点分为主节点和从节点:只有主节点负责读写请求和集群信息的维护;从节点只进行主节点数据和状态信息的复制。
集群的作用
数据分区:数据分区(或称数据分片)是集群最核心的功能。
集群将数据分散到多个节点,一方面突破了Redis单机内存大小的限制,存储容量大大增加;另一方面每个主节点都可以对外提供读服务和写服务,大大提高了集群的响应能力。
Redis单机内存大小受限问题,在介绍持久化和主从复制时都有提及;例如,如果单机内存太大,bgsave和bgrewriteaof的fork操作可能导致主进程阻塞,主从环境下主机切换时可能导致从节点长时间无法提供服务,全量复制阶段主节点的复制缓冲区可能溢出。
高可用:集群支持主从复制和主节点的自动故障转移(与哨兵类似);当任一节点发生故障时,集群仍然可以对外提供服务。
搭建Redis 群集模式
redis的集群一般需要6个节点,3主3从。
初始化环境
#关闭防火墙
systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0
修改任意一台服务器配置文件
vim /opt/redis-5.0.7/redis.conf
bind 192.168.239.10 #69行,注释掉bind项,改为自己
protected-mode no #88行,修改,关闭保护模式
port 6379 #92行redis默认监听端口,
daemonize yes #136行,开启守护进程,以独立进程启动
cluster-enabled yes #832行,取消注释,开启群集功能
cluster-config-file nodes-6001.conf #840行,取消注释,群集名称文件设置
cluster-node-timeout 15000 #846行,取消注释群集超时时间设置
appendonly yes #700行,修改,开启AOF持久化
#远程传输完要修改监听地址为自己
scp /opt/redis-5.0.7/redis.conf 192.168.239.20:/opt/redis-5.0.7/
scp /opt/redis-5.0.7/redis.conf 192.168.239.30:/opt/redis-5.0.7/
scp /opt/redis-5.0.7/redis.conf 192.168.239.40:/opt/redis-5.0.7/
scp /opt/redis-5.0.7/redis.conf 192.168.239.50:/opt/redis-5.0.7/
scp /opt/redis-5.0.7/redis.conf 192.168.239.60:/opt/redis-5.0.7/
修改其他节点给服务器配置文件监控地址
启动redis节点
所有节点执行
cd /opt/redis-5.0.7/
redis-server redis.conf #启动redis节点
启动集群
redis-cli --cluster create 192.168.239.20:6379 192.168.239.30:6379 192.168.239.10:6379 192.168.239.40:6379 192.168.239.50:6379 192.168.239.60:6379 --cluster-replicas 1
#六个示例分为三组,每组一主一从,前面的做主节点后面的做从节点下面交互的时候需要输入yes才可以创建 --replicas 1表示每个主节点有一个从节点