主mysql上的数据,新增,修改库,表,表里的数据,都会同步到从mysql上
1、异步复制,mysql的默认复制就是异步复制,只要执行完之后,客户端提交事务,主mysql会立刻把结果,返回给从服务器,主mysql并不关心从mysql是否已经接受,并且处理
主一旦崩溃,主mysql的事务可能没有传到mysql,这个时候强行把从提升为主,可能到新的主mysql,数据不完整(很少见,工作当中异步复制)
2、全同步复制,主库执行完成一个事务,所有的从库都执行了该事务之后才会返回客户端
因为需要等待所有库全部执行完成,性能必然下降(对数据一致性,和数据完整要求很好的场景)
3、半同步复制:介于异步复制和全同步复制之间,主库执行完一个客户端提交的事务之后,至少等待一个从库接受并处理完成之后,才会返回客户端,半同步在一定程度上提高了数据的安全性,也会有一定的延迟
这个延迟一般是一个tcp/ip的往返时间(从发送到接受的时间,单位是毫秒),半同步复制最好在电视的网络中使用
时间<1ms: round-triptime RTT
主从复制的工作过程
1、主节点的数据记录发生变化会记录在二进制日志
2、slave节点一定时间内对主库的二进制日志文件进行探测,看其是否发生变化,如果有变化,从库会开启一个I/o的线程请求的主库的二进制事件
3、主库会给每一个I/O的线程启动一个dump,用于发送二进制时间给从从库,从库通过I/O线程获取更行,slave_sql负责将更新写入到从库本地,实现主从一致
主从复制问题
1、只能在主库上发生变化,然后同步到从
2、复制过程是串行化过程,在从库上复制是串行的,主库的并行更新不能在库上并行操作
3、主从复制的设计目的,就是为了主库上写,在从库上查,读写分离,实现高可用
要实现读写分离,必须要先实现主从复制
读写分离
所有的写入操作都在主库,从库只负责读(select),如果有更新,是从主库复制到从库
为什么要有读写分离
1、数据库在写入数据时,比较耗时(mysql写一万条数据用时3分30秒)
2、数据库在读的时候,速度很快(读10000条,4.96s)
读写分离之后,数据库的写入和读取是分开的,哪怕写入的数据量比较大,但是不影响查询的效率
在什么场景下需要读写分离
数据库不是一定需要读写分离的,只有在某些程序在使用数据库过程中,更新少,但是查询较多,这种情况下可以考虑读写分离
读和查的需求差不多,也可以考虑读写分离
生产一般都会做读写分离
测试库一般不管
在工作中,数据库的读写不会在同一个库中完成,既不安全,也不能满足高可用,也不能实现高并发,工作中都会做读写分离
mysql读写分离的原理
1、根据脚本实现,在代码中实现路由分类,select insert进行路由分类,这种方式最多的
性能好, 在代码中就可以实现,不需要额外的硬件设备
缺点:开发实现的,跟我们无关,如果大型的复杂的应用,设计改动的代码非常多
2、基于中间代理层实现
mysql-proxy自带的开源项目,基于自带的lua脚本,这些lua脚本不是现成的,要自己写,不熟悉他的内置变量写不出来的
atlas 360 内部做自己使用的代理工具,每天的读写请求承载量可以到几十亿条,支持事务,支持存储过程
amoeba 是由java开发的一个开源团建,不支持事务,也不支持存储过程,但是amoeba还是用的最多的功能比较强大的软件
如何实现主从复制
架构主从复制和读写分离
mysql1 主 20.0.0.50
mysql2 从 20.0.0.51
mysql3 从 20.0.0.52
test1 读写分离的服务器 20.0.0.10
test2 客户端 20.0.0.20
- 关闭防火墙和安全机制
-
- mysql服务器
- 1、主从服务器的时间也要同步
-
- 安装同步时间工具
-
- yum -y install ntp ntpdate
-
- mysql1主
-
- vim /etc/ntp.conf
-
- server 127.127.233.0
- fudge 127.127.233.0 stratum 8
- #数字越小,时间精确度越高,设置fudge 8 时间层级是8 最高到15,从本地获取时间源同步,不走网络获取
-
- 重启服务
- service ntpd start
-
- 从
-
- /usr/sbin/ntpdate 20.0.0.50
-
- crontab -e
- */30 * * * * /usr/sbin/ntpdate 20.0.0.50
-
- 2、改mysql主配置文件
-
- vim /etc/my.cnf
- log-bin=master-bin
- binlog_format=MIXED
- log-slave-updates=true
- #允许从服务器,复制数据时,可以从主的二进制日志写到自己的二进制日志当中
-
- 重启mysql服务
-
- 进入mysql
-
- grant replication slave on * . * to 'myslave'@'20.0.0.% ' identified by '123456'
-
- 刷新权限
-
- flush privileges
-
- 查看位置点
-
- show master status
-
- 从 mysql2
- vim /etc/my.cnf
-
- server-id = 2
- relay-log=relay-log-bin
- 自定义中继名称
- relay-log-index=slave-relay-bin.index
- relay_log_recovery=1
- 默认是0,1开启中继日志的服务,从服务器出现异常或者崩溃时,从服务器会从主服务器的二进制的争取读取和应用中继日志,同步
-
- 重启mysql服务
-
- 从 mysql3
-
- server-id = 3
- relay-log=relay-log-bin
- 自定义中继名称
- relay-log-index=slave-relay-bin.index
- relay_log_recovery=1
-
- 重启mysql服务
-
- mysql2和mysql3进入数据库
- mysql -u root -p123456
- 同步
- CHANGE master to master_host='20.0.0.50',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=604;
-
- 开启slave
- start slave;
-
- 查看slave
- show slave status;
- Slave-IO_Running:Yes
- 负责和主库的IO的通信
- Slave_SQL_Running:Yes
- 负责自己的slave mysql进程
Amoeba实现读写分离
- Amoeba服务器配置
- cd /opt/
- cp jdk-6u14-linux-x64.bin /usr/local/
- cd /usr/local/
- chmod +x jdk-6u14-linux-x64.bin
- ./jdk-6u14-linux-x64.bin
- //按yes,按enter
-
- mv jdk1.6.0_14/ /usr/local/jdk1.6
-
- vim /etc/profile
- export JAVA_HOME=/usr/local/jdk1.6
- export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
- export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin
- export AMOEBA_HOME=/usr/local/amoeba
- export PATH=$PATH:$AMOEBA_HOME/bin
-
- source /etc/profile
- java -version
-
- ##安装 Amoeba软件##
- mkdir /usr/local/amoeba
- tar zxvf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/
- chmod -R 755 /usr/local/amoeba/
- /usr/local/amoeba/bin/amoeba
- //如显示amoeba start|stop说明安装成功
-
- ##配置 Amoeba读写分离,两个 Slave 读负载均衡##
- #先在Master、Slave1、Slave2 的mysql上开放权限给 Amoeba 访问
-
- grant all on *.* to amoeba@'20.0.0.%' identified by '123456';
-
- flush privileges;
-
- #再回到amoeba服务器配置amoeba服务:
- cd /usr/local/amoeba/conf/
-
- cp amoeba.xml amoeba.xml.bak
- vim amoeba.xml #修改amoeba配置文件
- --30行--
- <property name="user">amoeba</property>
-
- --32行--
- <property name="password">123456</property>
-
- --115行--
- <property name="defaultPool">master</property>
-
- --117-去掉注释-
- <property name="writePool">master</property>
- <property name="readPool">slaves</property>
-
- cp dbServers.xml dbServers.xml.bak
- vim dbServers.xml #修改数据库配置文件
- --23行--注释掉 作用:默认进入test库 以防mysql中没有test库时,会报错
- <!-- <property name="schema">test</property> -->
-
- --26--修改
- <property name="user">amoeba</property>
-
- --28-30--去掉注释
- <property name="password">123456</property>
-
- --45--修改,设置主服务器的名Master
- <dbServer name="master" parent="abstractServer">
-
- --48--修改,设置主服务器的地址
- <property name="ipAddress">192.168.233.21</property>
-
- --52--修改,设置从服务器的名slave1
- <dbServer name="slave1" parent="abstractServer">
-
- --55--修改,设置从服务器1的地址
- <property name="ipAddress">192.168.233.22</property>
-
- --58--复制上面6行粘贴,设置从服务器2的名slave2和地址
- <dbServer name="slave2" parent="abstractServer">
- <property name="ipAddress">192.168.233.23</property>
-
- --65行--修改
- <dbServer name="slaves" virtual="true">
-
- --71行--修改
- <property name="poolNames">slave1,slave2</property>
-
-
- /usr/local/amoeba/bin/amoeba start & #启动Amoeba软件,按ctrl+c 返回
- netstat -anpt | grep java #查看8066端口是否开启,默认端口为TCP 8066
-
-
- ----测试读写分离 ----
- yum install -y mariadb-server mariadb
- systemctl start mariadb.service
-
- #在主从服务器上开启查询日志
- general_log=ON
- general_log_file=/usr/local/mysql/data/mysql_general.log
-
- 在客户端服务器上测试:
- mysql -u amoeba -p123456 -h 192.168.233.10 -P8066