阿里云RDS与ECS自建mysql数据库主从同步(GTID方式)

前言

1、GTID的概念
全局事务标识:global transaction identifiers;
GTID是一个事务一一对应,并且全局唯一ID;
一个GTID在一个服务器上只执行一次,避免重复执行导致数据混乱或者主从不一致;
GTID用来代替传统复制方法,不再使用MASTER_LOG_FILE+MASTER_LOG_POS开启复制。而是使用MASTER_AUTO_POSTION=1的方式开始复制;
MySQL-5.6.5开始支持的,MySQL-5.6.10后开始完善;
在传统的slave端,binlog是不用开启的,但是在GTID中slave端的binlog是必须开启的,目的是记录执行过的GTID(强制)。

2、GTID的组成
GTID = source_id:transaction_id
source_id,用于鉴别原服务器,即mysql服务器唯一的的server_uuid,由于GTID会传递到slave,所以也可以理解为源ID。
transaction_id,为当前服务器上已提交事务的一个序列号,通常从1开始自增长的序列,一个数值对应一个事务。
示例:3D598FA47-71CA-11E1-9E88-C80AJ8Y29562:97
前面的一串为服务器的server_uuid,即3D598FA47-71CA-11E1-9E88-C80AJ8Y29562,后面的97为transaction_id

3、GTID的优势
更简单的实现failover,不用以前那样在需要找log_file和log_pos;
更简单的搭建主从复制;
比传统的复制更加安全;
GTID是连续的没有空洞的,保证数据的一致性,零丢失。

4、GTID的工作原理
当一个事务在主库端执行并提交时,产生GTID,一同记录到binlog日志中;
binlog传输到slave,并存储到slave的relaylog后,读取这个GTID的这个值设置gtid_next变量,即告诉Slave,下一个要执行的GTID值;
sql线程从relay log中获取GTID,然后对比slave端的binlog是否有该GTID;
如果有记录,说明该GTID的事务已经执行,slave会忽略;
如果没有记录,slave就会执行该GTID事务,并记录该GTID到自身的binlog,在读取执行事务前会先检查其他session持有该GTID,确保不被重复执行;
在解析过程中会判断是否有主键,如果没有就用二级索引,如果没有就用全部扫描。

配置RDS主库

1、登录 RDS 控制台,选择目标实例。
2、配置RDS数据库账号、密码 (ecstb/ecstb) 和授权数据库rdsdb 。

3、将ECS从实例的 IP 地址加入主实例的 IP 白名单中。
在本文的操作中是为ECS服务器配置了EIP(弹性固定IP,如45.88.70.90)

ECS从库安装及配置

1、安装 MySQL
最好是安装版本与主库RDS数据版本一致,或者高于主库
#mysql -V
mysql Ver 14.14 Distrib 5.6.45, for Linux (x86_64) using EditLine wrapper
本文所用RDS数据库版本为
Server version: 5.6.16-log Source distribution

2、创建数据库,同步RDS数据
首先,在ECS服务器上远程导出RDS的数据库rdsdb
#mysqldump -u ecstb -p rdsdb -h xxxxxxx.mysql.rds.aliyuncs.com > /tmp/rdsdb.sql

进入ECS的mysql建立rdsdb空库
mysql> create database rdsdb character set utf8;

将之前导出的RDS数据库导入ECS
mysql> use rdsdb;
mysql> source /tmp/rdsdb.sql;

3、停止从库mysql 服务
#service mysqld stop

4、修改ECS从库 mysql 配置文件,在[mysqld]最后添加如下
#vi /etc/my.cnf

####RDS to mysql ####
server-id =1001 #不可与RDS主库id相同
port = 3306
replicate-do-db =rdsdb #需要同步的数据库

binlog_format = row #日志文件格式
log-bin = mysql-bin
log-bin-index = mysql-bin.index
relay-log = relay-log
relay_log_index = relay-log.index
slave-skip-errors = all

gtid_mode = on #开启gtid模式
enforce_gtid_consistency = on
log-slave-updates = 1
sql_mode = NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
保存后重启mysql服务
#service mysqld restart

5、配置主从同步
连接RDS主库,查询GTID

#mysql -u ecstb -p -h xxxxxxx.mysql.rds.aliyuncs.com

mysql> show global variables like 'gtid_purged';
+---------------------+-------------------------------------------------------------------------------+
| Variable_name | Value |
+---------------------+-------------------------------------------------------------------------------+
| gtid_purged | 533ac4e6-9565-11e8-abb5-7cd30abca02e:1-3099396 |
+---------------------+-------------------------------------------------------------------------------+
1 row in set (0.14 sec)
1
2
3
4
5
6
7
8
9
进入ECS从库

mysql> stop slave;
mysql> set global gtid_purged = '533ac4e6-9565-11e8-abb5-7cd30abca02e:1-3099396';

注意:设置gtid_purged值时,gtid_executed值必须为空否则报错,该值清空的方法就是reset master命令

mysql>reset master;
1
2
3
4
5
6
执行同步

CHANGE MASTER TO
MASTER_HOST='xxxxxxx.mysql.rds.aliyuncs.com',
MASTER_PORT=3306,
MASTER_USER='ecstb',
MASTER_PASSWORD='ecstb_passwd',
master_auto_position=1;

mysql>start slave;
mysql>show slave statusG;
1
2
3
4
5
6
7
8
9

这里看到有两个Yes ,说明RDS到ECS自建mysql的主从同步已经成功!

【2019-10-15更新 两台CentOS 7 如何构建基于GTID的Mysql主从同步】

1、主从信息
主库 10.150.0.30
从库 10.150.0.31
数据库名 DBXXX

2、首先,将DBXXX从主库导出
Master# mysqldump -u root -p DBXXX >/tmp/DBXXX.sql
用scp命令将DBXXX.sql复制到从库主机
Master# scp /tmp/DBXXX.sql root@10.150.0.31/tmp

3、【主库-30 配置 /etc/my.cnf 】
Master# vi /etc/my.cnf
[mysqld] 下面增加如下:

############ Master 30 ############
server-id=30
port = 3306

replicate-do-db=DBXXX

binlog_format = row
log-bin = mysql-bin
log-bin-index = mysql-bin.index
relay-log = relay-log
relay_log_index = relay-log.index
slave-skip-errors = all

gtid_mode = on
enforce_gtid_consistency = on
log-slave-updates = 1
sql_mode = NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES
#####################################
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
主库重启mysql服务
Master# service mysqld restart

4、将主库导出的数据库DBXXX手工导入到从库
进入从库mysql
Slave#mysql -u root -p

mysql> CREATE DATABASE `DBXXX` CHARACTER SET utf8; 创建数据库
mysql> use DBXXX; 进入数据库
mysql> source /tmp/DBXXX.sql; 导入数据(从主库scp到从库的/tmp目录)
1
2
3
5、【从库-31 配置 /etc/my.cnf 】
Slave# vi /etc/my.cnf
[mysqld] 下面增加如下:

############ Slave 31 ################
server-id=31
port = 3306

replicate-do-db=DBXXX

binlog_format = row
log-bin = mysql-bin
log-bin-index = mysql-bin.index
relay-log = relay-log
relay_log_index = relay-log.index
slave-skip-errors = all

gtid_mode = on
enforce_gtid_consistency = on
log-slave-updates = 1
sql_mode = NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES

######################################
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
从库重启mysql服务
Slave# service mysqld restart

6、进入从库mysql
#mysql -u root -p
mysql> 复制运行如下代码:

CHANGE MASTER TO
MASTER_HOST='10.150.0.30',
MASTER_PORT=3306,
MASTER_USER='User_of_Master',
MASTER_PASSWORD='PW_of_Master',
master_auto_position=1;
1
2
3
4
5
6
mysql> start slave; 启动主从服务进程
mysql> show slave statusG; 查看主从状态


熟悉的双Yes,同步成功!!

【2019-12-09更新 新增同步数据库】

1、从主库(10.150.0.30)导出数据

# mysqldump -u root -p DB_new -h 10.150.0.30 > /tmp/DB_new_191209.sql
1
2、进入从库的mysql

mysql> CREATE DATABASE `DB_new` CHARACTER SET utf8; #创建新数据库
mysql> use DB_new; #进入数据库
mysql> source /tmp/DB_new_191209.sql; #导入数据
1
2
3
3、修改/etc/my.cnf 从库配置文件
增加要备份的数据库DB_new

replicate-do-db=DB_new
1
4、重启从库的mysql服务

#service mysqld restart
1
5、进入从库mysql,查看主从同步状态,可以看到两个状态为Yes,新增的数据库同步正常

mysql> show slave statusG;
*************************** 1. row ***************************
Slave_IO_State: Waiting for master to send event
Master_Host: 10.150.0.30
Master_User: root
Master_Port: 3306
Connect_Retry: 60
Master_Log_File: mysql-bin.001984
Read_Master_Log_Pos: 32377
Relay_Log_File: relay-log.000978
Relay_Log_Pos: 32603
Relay_Master_Log_File: mysql-bin.001984
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
Replicate_Do_DB: DB_old,DB_new
————————————————

一个勤劳的搬砖程序员
原文地址:https://www.cnblogs.com/zhang-ding-1314/p/15125188.html