• MySQL主从复制与读写分离


    在实际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。因此,通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力。

    主从复制

    是指slave服务器复制master服务器的数据 的过程,可以保证数据完整性 。

    MySQL的复制类型

    1、基于语句的复制:在服务器上执行sql语句,在从服务器上执行同样的语句。

    2、基于行的复制:把改变的内容复制过去,而不是把命令在从服务器上执行一遍。

    3、混合类型的复制:默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制。

    主从复制的架构

    一主多备架构

     总结:一般用来读写分离, master写,slave读,这种架构最大的问题“I/O” 压力集中在master 上,多台同步影响“I/O”。

    M-S-S架构

     总结:slave 中间 使用black-hole 存储引擎,不会把数据存储的磁盘,只记录在二进制日志当中。

    M-M架构

     总结:很多人误以为这样可以做mysql负载均衡,实际上没有好处,每个服务器需要同样的同步更新,破坏了事物的隔离性和数据的一致性。

    主从复制的工作过程

     

    1、当数据写入到master节点的数据库中,master节点会通知存储引擎提交事务,同时会将数据保存在二进制文件中。

    2、slave节点会开启 I/O 线程,用于监听master的二进制日志的更新,一旦发生更新内容,则向master的dump线程发出同步请求。

    3、master的dump线程在接收到salve的I/O请求后,会读取二进制日志文件中更新的数据,并发送给slave的I/O线程。

    4、slave的I/O线程接收到数据后,会保存在slave节点的中继日志中。

    5、同时,slave节点中的SQL线程,会读取中继日志中的数据,更新在本地的mysql数据库中。

    主从复制延迟

    主要原因有:

    1、master服务器高并发,形成大量事务。

    2、网络延迟。

    3、主从硬件设备导致。

     4、本来就不是同步复制、而是异步复制

    解决方案:

    从数据库优化Mysql参数。比如增大innodb_buffer_pool_size,让更多操作在Mysql内存中完成,减少磁盘操作。

    从数据库使用高性能主机。包括cpu强悍、内存加大。避免使用虚拟云主机,使用物理主机,这样可以提升了i/o性能。

    从数据库使用SSD磁盘。

    网络优化,避免跨机房实现同步。

    同步复制,半同步复制与异步复制

    异步复制

    MySQL默认的复制即是异步的,主库在执行完客户端提交的事务后会立即将结果返给客户端,并不关心从库是否已经接收并处理。

    同步复制

    指当master执行完一个事务,所有的从都完成同步数据,master就返回给客户端。

    半同步复制

    只要有一个从完成同步数据,master就返回给客户端。

    相关命令

    1. Mysql主从服务器时间同步
    2. yum install ntp -y
    3. ntpdate ntp.aliyun.com
    4. 主服务器设置
    5. vim /etc/my.cnf
    6. server-id = 1
    7. log-bin=master-bin 添加,主服务器开启二进制日志
    8. binlog_format = MIXED
    9. log-slave-updates=true 添加,允许slave从master复制数据时可以写入到自己的二进制日志
    10. systemctl restart mysqld
    11. mysql -u root -p123456
    12. grant replication slave on * .* to 'root'@'192.168.11.%' identified by '123456';
    13. flush privileges;
    14. show master status;

    1. 从服务器设置
    2. vim /etc/my.cnf
    3. server-id = 2 id要与Master的不同,两个Slave的id也要不同
    4. relay-log=relay-log-bin 添加,开启中继日志,从主服务器上同步日志文件记录到本地
    5. relay-log-index=slave-relay-bin.index
    6. 添加,定义中继日志文件的位置和名称,一般和relay-log在同一目录
    7. relay_log_recovery = 1
    8. systemctl restart mysqld
    9. mysql -u root -p123456
    10. change master to master_host='192.168.11.11',master_user='root',master_password='123456',master_log_file='master-bin.000001',master_log_pos=154;
    11. show slave status\G #查看 Slave 状态

    当 Slave_IO_Running和Slave_SQL_Running都是YES时 ,表示主从同步状态成功。

    排障

    如果I/O不是yes,如何排查

    首先排查网络问题,使用ping 命令查看从服务器是否能与主服务器通信。

    再查看防火墙和核心防护是否关闭(增强功能)。

    接着查看从服务slave是否开启。

    两个从服务器的server-id 是否相同导致只能连接一台。

    master_log_file master_log_pos的值跟master值是否一致。

    读写分离

    读写分离,基本的原理是让主数据库处理事务性增、改、删操作,而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

    MySQL 读写分离原理

    读写分离就是只在主服务器上写,只在从服务器上读。基本的原理是让主数据库处理事务性操作,而从数据库处理 select 查询。数据库复制被用来把主数据库上事务性操作导致的变更同步到集群中的从数据库 。

    为什么要读写分离

    数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用。利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能。

    所以读写分离,解决的是,数据库的写入,影响了查询的效率。

    MySQL 读写分离形式

    1、基于程序代码内部实现。

    2、基于中间代理层实现(Amoeba,MySQL-Proxy等)。

    进行读写分离

    1、在主从复制的基础上进行
    1. Master 服务器:192.168.11.11 mysql5.7
    2. Slave1 服务器:192.168.11.44 mysql5.7
    3. Slave2 服务器:192.168.11.55 mysql5.7
    4. Amoeba 服务器:192.168.11.66 jdk1.6、Amoeba
    5. 客户端 服务器:192.168.11.66 mysql
    2、 Amoeba服务器配置
    1. 安装 Java 环境
    2. cd /opt/
    3. cp jdk-6u14-linux-x64.bin /usr/local/
    4. cd /usr/local/
    5. chmod +x jdk-6u14-linux-x64
    6. ./jdk-6u14-linux-x64.bin
    7. mv jdk1.6.0_14/ /usr/local/jdk1.6
    8. vim /etc/profile
    9. export JAVA_HOME=/usr/local/jdk1.6
    10. export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
    11. export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin
    12. export AMOEBA_HOME=/usr/local/amoeba
    13. export PATH=$PATH:$AMOEBA_HOME/bin
    14. source /etc/profile
    15. java -version
    3、安装 Amoeba软件
    1. mkdir /usr/local/amoeba
    2. tar zxvf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/
    3. chmod -R 755 /usr/local/amoeba/
    4. /usr/local/amoeba/bin/amoeba
    5. 如显示amoeba start|stop说明安装成功
    4、授权
    1. 在Master、Slave1、Slave2的mysql上开放权限给Amoeba访问
    2. grant all on *.* to test@'192.168.11.%' identified by '123456';
    5、配置amoeba服务
    1. cd /usr/local/amoeba/conf/
    2. cp amoeba.xml amoeba.xml.bak
    3. vim amoeba.xml
    4. --30行--
    5. <property name="user">amoeba</property>
    6. --32行--
    7. <property name="password">123456</property>
    8. --115行--
    9. <property name="defaultPool">master</property>
    10. --117-去掉注释-
    11. <property name="writePool">master</property>
    12. <property name="readPool">slaves</property>
    6、修改数据库配置文件
    1. --23行--注释掉 作用:默认进入test库 以防mysql中没有test库时,会报错
    2. <!-- <property name="schema">test</property> -->
    3. --26--修改
    4. <property name="user">test</property>
    5. --29--去掉注释
    6. <property name="password">123456</property>
    7. --45--修改,设置主服务器的名Master
    8. <dbServer name="master" parent="abstractServer">
    9. --48--修改,设置主服务器的地址
    10. <property name="ipAddress">192.168.11.11</property>
    11. --52--修改,设置从服务器的名slave1
    12. <dbServer name="slave1" parent="abstractServer">
    13. --55--修改,设置从服务器1的地址
    14. <property name="ipAddress">192.168.11.44</property>
    15. --58--复制上面6行粘贴,设置从服务器2的名slave2和地址
    16. <dbServer name="slave2" parent="abstractServer">
    17. <property name="ipAddress">192.168.11.55</property>
    18. --65行--修改
    19. <dbServer name="slaves" virtual="true">
    20. --71行--修改
    21. <property name="poolNames">slave1,slave2</property>
    7、启动服务
    1. /usr/local/amoeba/bin/amoeba start&
    2. netstat -anpt | grep java
    3. 查看8066端口是否开启,默认端口为TCP 8066
  • 相关阅读:
    Linux内核源码分析 (B.2)虚拟地址空间布局架构
    Vue3生命周期
    XSS-labs靶场实战(六)——第15关及Angular JS利用
    C++:类和对象(上)
    js动态获取当前时间并显示星期数
    【Maxent物种分布模型】气候变化对响尾蛇地理分布的影响
    14 【TS类型声明 keepAlive】
    计算机毕业设计选题推荐-教务管理系统-Java/Python项目实战
    洛谷 P2014 [CTSC1997] 选课(树形dp, 分组背包)
    ElasticSearch第四讲:ES详解:ElasticSearch和Kibana安装
  • 原文地址:https://blog.csdn.net/ffdtj/article/details/132707150