ShardingSphere实现数据库读写分离，主从库分离，docker详细教程

一.什么是 ShardingSphere

引用官方的话：
Apache ShardingSphere 是一款分布式的数据库生态系统， 可以将任意数据库转换为分布式数据库，并通过数据分片、弹性伸缩、加密等能力对原有数据库进行增强。

Apache ShardingSphere 设计哲学为 Database Plus，旨在构建异构数据库上层的标准和生态。 它关注如何充分合理地利用数据库的计算和存储能力，而并非实现一个全新的数据库。 它站在数据库的上层视角，关注它们之间的协作多于数据库自身。

ShardingSphere-JDBC
ShardingSphere-JDBC 定位为轻量级 Java 框架，在 Java 的 JDBC 层提供的额外服务。

ShardingSphere-Proxy
ShardingSphere-Proxy 定位为透明化的数据库代理端，通过实现数据库二进制协议，对异构语言提供支持。

官方文档 - 英文版
官方文档 - 中文版

这里采用ShardingSphere-Proxy实现，介绍ShardingSphere-Proxy的搭建过程，基于ShardingSphere-Proxy实现数据库读写分离，主从复制，对于想了解数据库分片分库等其他功能的同学，建议仔细看官方文档，都有比较详细的说明

二.安装数据库，一主两重，数据库版本：8.0.28

我这里测试三台数据库都只是安装在本地，端口号不一样，真实业务情景肯定是建议多台服务器分离安装的。

1.docker安装mysql8.0.28

A.主数据库

docker pull mysql:8.0.28

docker run -p 3306:3306 --name mysql-master \
-v /home/mysql/master/log:/var/log/mysql \
-v /home/mysql/master/data:/var/lib/mysql \
-v /home/mysql/master/conf:/etc/mysql \
-e MYSQL_ROOT_PASSWORD=h@L.xZ_i20@2 \
-d mysql:8.0.28
1
2
3
4
5
6
7
8

修改配置

vim /home/mysql/master/conf/my.cnf
1

配置模板如下：

[client]
default-character-set=utf8
[mysql]
default-character-set=utf8
[mysqld]
pid-file        = /var/run/mysqld/mysqld.pid
socket          = /var/run/mysqld/mysqld.sock
datadir         = /var/lib/mysql
secure-file-priv= NULL

max_connections=2000
init_connect='SET collation_connection = utf8_unicode_ci'
init_connect='SET NAMES utf8'
character-set-server=utf8
collation-server=utf8_unicode_ci
skip-character-set-client-handshake
#注意：skip-name-resolve 一定要加，不然连接 mysql 会超级慢
skip-name-resolve
#添加 master 主从复制部分配置
server-id=1
log-bin=mysql-bin
#说明一下这是主库
read-only=0
#同步的数据库有这些
binlog-do-db=test
#不需要同步的数据库有这些
replicate-ignore-db=mysql
replicate-ignore-db=sys
replicate-ignore-db=information_schema
replicate-ignore-db=performance_schema
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30

配置完成，重启

docker restart mysql-master
1

B.从数据库01

docker pull mysql:8.0.28

docker run -p 3317:3306 --name mysql-slaver-01 \
-v /home/mysql/slaver/log:/var/log/mysql \
-v /home/mysql/slaver/data:/var/lib/mysql \
-v /home/mysql/slaver/conf:/etc/mysql \
-e MYSQL_ROOT_PASSWORD=h@L.xZ_i20@2 \
-d mysql:8.0.28
1
2
3
4
5
6
7
8

修改配置

vim /home/mysql/slaver/conf/my.cnf
1

配置模板如下：

[client]
default-character-set=utf8
[mysql]
default-character-set=utf8
[mysqld]
pid-file        = /var/run/mysqld/mysqld.pid
socket          = /var/run/mysqld/mysqld.sock
datadir         = /var/lib/mysql
secure-file-priv= NULL

max_connections=2000
init_connect='SET collation_connection = utf8_unicode_ci'
init_connect='SET NAMES utf8'
character-set-server=utf8
collation-server=utf8_unicode_ci
skip-character-set-client-handshake
#注意：skip-name-resolve 一定要加，不然连接 mysql 会超级慢
skip-name-resolve
#添加 master 主从复制部分配置
server-id=2
log-bin=mysql-bin
#从库只读 read-only=1
read-only=1
#同步的 库
binlog-do-db=test
#不需要同步的数据库有这些
replicate-ignore-db=mysql
replicate-ignore-db=sys
replicate-ignore-db=information_schema
replicate-ignore-db=performance_schema
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30

配置完成，重启

docker restart mysql-slaver-01
1

C.从数据库02

docker pull mysql:8.0.28

docker run -p 3327:3306 --name mysql-slaver-02 \
-v /home/mysql/slaver/log:/var/log/mysql \
-v /home/mysql/slaver/data:/var/lib/mysql \
-v /home/mysql/slaver/conf:/etc/mysql \
-e MYSQL_ROOT_PASSWORD=h@L.xZ_i20@2 \
-d mysql:8.0.28
1
2
3
4
5
6
7
8

修改配置

vim /home/mysql/slaver/conf/my.cnf
1

配置模板如下：

[client]
default-character-set=utf8
[mysql]
default-character-set=utf8
[mysqld]
pid-file        = /var/run/mysqld/mysqld.pid
socket          = /var/run/mysqld/mysqld.sock
datadir         = /var/lib/mysql
secure-file-priv= NULL

max_connections=2000
init_connect='SET collation_connection = utf8_unicode_ci'
init_connect='SET NAMES utf8'
character-set-server=utf8
collation-server=utf8_unicode_ci
skip-character-set-client-handshake
#注意：skip-name-resolve 一定要加，不然连接 mysql 会超级慢
skip-name-resolve
#添加 master 主从复制部分配置
server-id=3
log-bin=mysql-bin
#从库只读 read-only=1
read-only=1
#同步的 库
binlog-do-db=test
#不需要同步的数据库有这些
replicate-ignore-db=mysql
replicate-ignore-db=sys
replicate-ignore-db=information_schema
replicate-ignore-db=performance_schema
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30

配置完成，重启

docker restart mysql-slaver-02
1

2.为 mysql-master 授权用户来 同步数据

1.执行命令

docker exec -it mysql-master /bin/bash
1

mysql -uroot -p

use mysql;

update user set Host='%' where User='root';

ALTER user 'root' IDENTIFIED BY 'h@L.xZ_i20@2';

FLUSH PRIVILEGES;
1
2
3
4
5
6
7
8
9

2.开启系统权限

GRANT XA_RECOVER_ADMIN ON *.* TO root@'%' ;
1

3.查看master 的相关信息

show master status\G;
1

留存好这个 “mysql-bin.000001”和Position 889，后面将用到

3.配置 slaver 同步 master 数据（01和02从库是一样的）

1.执行命令

docker exec -it mysql-slaver-02 /bin/bash

1
2

2.执行sql

mysql -uroot -p

update user set Host='%' where User='root';

ALTER user 'root' IDENTIFIED BY 'h@L.xZ_i20@2';

FLUSH PRIVILEGES;

#2.开启系统权限
GRANT XA_RECOVER_ADMIN ON *.* TO root@'%' ;

#3、重新加载权限表
flush privileges;

#4、设置主库连接，这里的 “mysql-bin.000001” 就是上面让记来下的			binlog,master_log_pos=889为Position

change master to
master_host='127.0.0.1',master_user='root',master_password='h@L.xZ_i20@2',master_log_file='mysql-bin.000001',master_log_pos=889,master_port=3306;

#5、启动从库同步
start slave;

#6、查看从库状态
show slave status\G;
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

看到这两个说明已经可以进行主从复制了：

如果开启主从复制失败，需要修改和重新启动，依次执行一下命令：

stop slave;
reset slave;
change master to ......#如上面完整命令
start slave; 
1
2
3
4

sql主从库库创建数据库：

CREATE DATABASE test;
1

三.配置读写分离，创建两个yaml配置文件

1. config-test.yaml

# 配置逻辑数据库名
# 配置逻辑数据库名
schemaName: sharding_db

# 配置物理数据库参数
dataSources:
  # 主库
  write_ds:
    url: jdbc:mysql://127.0.0.1:3306/test?autoReconnect=true&useUnicode=true&characterEncoding=UTF-8&useSSL=false&allowMultiQueries=true&useAffectedRows=true&allowPublicKeyRetrieval=true
    username: root
    password: h@L.xZ_i20@2
    connectionTimeoutMilliseconds: 3000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 200
    minPoolSize: 5
  # 从库0
  read_ds_0:
    url: jdbc:mysql://127.0.0.1:3317/test?autoReconnect=true&useUnicode=true&characterEncoding=UTF-8&useSSL=false&allowMultiQueries=true&useAffectedRows=true&allowPublicKeyRetrieval=true
    username: root
    password: h@L.xZ_i20@2
    connectionTimeoutMilliseconds: 3000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 200
    minPoolSize: 5
  # 从库1
  read_ds_1:
    url: jdbc:mysql://127.0.0.1:3327/test?autoReconnect=true&useUnicode=true&characterEncoding=UTF-8&useSSL=false&allowMultiQueries=true&useAffectedRows=true&allowPublicKeyRetrieval=true
    username: root
    password: h@L.xZ_i20@2
    connectionTimeoutMilliseconds: 3000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 200
    minPoolSize: 5


# 配置主从规则
rules:
  - !READWRITE_SPLITTING
    dataSources:
      pr_ds:
        writeDataSourceName: write_ds
        readDataSourceNames:
          - read_ds_0
          - read_ds_1
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47

2.server.yaml

rules:
  - !AUTHORITY
    users:
      - root@%:h@L.xZ_i20@2
    provider:
      type: ALL_PRIVILEGES_PERMITTED

props:
  sql-show: true
  sql-simple: true
1
2
3
4
5
6
7
8
9
10

3.新建一个文件夹用于存放以上两个配置文件：/home/shardingsphere-proxy/conf

4.自行下载MYSQ 的驱动包（mysql-connector-java-8.0.27.jar），放到映射目录中：/home/shardingsphere-proxy/ext-lib

四.docker 安装 sharding proxy

1.拉取镜像

docker pull apache/shardingsphere-proxy
1

2.安装容器并运行

docker run  --name=shardingsphere_proxy -d -v /home/shardingsphere-proxy/conf:/opt/shardingsphere-proxy/conf -v /home/shardingsphere-proxy/ext-lib:/opt/shardingsphere-proxy/ext-lib -p 13308:3307 apache/shardingsphere-proxy:latest
1

3.重启容器

docker restart shardingsphere_proxy
1

4.查看日志

docker logs shardingsphere_proxy
#或者 
docker logs -f --tail 500 shardingsphere_proxy
1
2
3

五.感谢看到这里，有遇到问题，请留言