引子:普通文件的数据同步
- NFS网络文件共享可以同步存储数据
- 定时任务或守护进程结合,rsync,scp
- inotify+rsync出发时实时数据同步
- ftp数据同步,
- ssh key+scp/rsync
MySQL主从复制
mysql支持单向,双向,链式级联,实时,异步辅助,在复制过程中,一台服务器充当主服务器(Master),而一个或多个其他的服务器充当从服务器(Slave)。复制可以是单向,M=>S,也可以是双向M<=>M,当然也可以是多M环状同步,
主从复制的应用场景
mysql主从辅助有利于数据库架构的健壮性,提升访问速度和易于维护管理
主从服务器互为备份
主从服务器架构的设置,可以大大加强数据库架构的健壮性,如;当主服务器出问题时,我们可以人工或自动切换到从服务器继续提供服务
主从服务器读写分离分担网站压力
主从服务器架构可以通过程序(java)或代理软件(mysql-proxy)对用户的请求实现读写分离,即通过从服务器上仅仅处理用户的select查询请求,降低用户查询相应时间及读写同时在主服务器带来的压力,对于更新的数据仍然交给主服务器处理,确保主服务器和从服务器保持实时同步
MySQL主从同步配置步骤
- 准备俩台数据库环境,或者单台多实例环境,能否正常启动和登陆
- 配置my.cnf文件,主库配置log-bin和server-id参数,从库配置server-id,不能和主库及其他从库一样,一般不开启从库log-bin功能,注意:配置参数后要重启生效
- 登陆主库增加用于从库连接主库同步的账户例如:rep,并授权replication slave同步的权限
- 登陆主库,整库锁表flush table With read lock (窗口关闭后即失效,超时参数到了也失效)然后show master status查看binlog的位置状态
- 新开窗口,linux命令行备份或者导读 原有的数据库数据,并拷贝到从库所在的服务器目录(如果数据量很大,并且允许停机,可以停机打包而不同mysqldump)
- 解锁主库,unlock tables;
- 把主库导出的原有数据恢复到从库
- 根据 主库的show master status查看binlog的位置状态,在从库执行change master to。。。语句
- 从库开启同步开关,start slave
- 从库show slave status\G,检查同步状态,并在主库进行更新测试
实战操作
实战操作,确保 server-id 要不同,通常主ID要小于从ID。一定注意。
# 3306和3307分别代表2台机器
1 # 打开log-bin,并使server-id不一样 2 3 #vim /data/3306/my.cnf 4 log-bin = /data/3306/mysql-bin 5 server-id = 1 6 #vim /data/3307/my.cnf 7 log-bin = /data/3307/mysql-bin 8 server-id = 3 9 10 #检查 11 1、 12 [root@bogon ~]# egrep "log-bin|server-id" /data/3306/my.cnf 13 log-bin = /data/3306/mysql-bin 14 server-id = 1 15 [root@bogon ~]# egrep "log-bin|server-id" /data/3307/my.cnf 16 log-bin = /data/3307/mysql-bin 17 server-id = 3 18 2、 19 [root@localhost ~]# mysql -uroot -p -S /data/3306/mysql.sock -e "show variables like 'log_bin';" 20 Enter password: 21 +-----------------------+--------+ 22 | Variable_name | Value | 23 +-----------------------+--------+ 24 | log_bin | ON | # ON 为开始开启成功 25 +-----------------------+--------+
建立用于从库复制的账号rep
通常会创建一个用于主从复制的专用账户,不要忘记授权。
1 # 主库授权,允许从库来连接我取日志 2 [root@localhost ~]# mysql -uroot -p -S /data/3306/mysql.sock 3 Enter password: 4 5 # 允许从库192.168.17网段连接,账号rep,密码nick。 6 mysql> grant replication slave on *.* to 'rep'@'192.168.17.%' identified by 'nick'; 7 Query OK, 0 rows affected (0.00 sec) 8 mysql> flush privileges; 9 Query OK, 0 rows affected (0.00 sec) 10 11 # 检查创建的rep账号: 12 mysql> select user,host from mysql.user; 13 +--------+-----------------------------+ 14 | user | host | 15 +--------+------------------------------+ 16 | root | 127.0.0.1 | 17 | rep | 192.168.17.% | 18 | root | localhost | 19 | root | localhost.localdomain | 20 +--------+------------------------------+ 21 7 rows in set (0.00 sec)
备份主库,及恢复到从库
把主库现有数据备份下来,再恢复到从库,此时两个主机的数据一致。
如果事先有数据的话,这不不能忘。
1 1) 在主库上加锁,使只有只读权限。 2 mysql> flush table with read lock; 3 Query OK, 0 rows affected (0.00 sec) 4 #5.1、5.5锁表命令略有不同。 5 # 5.1锁表:flush tables with read lock; 6 # 5.5锁表:flush table with read lock; 7 8 2) 记住就是这个点备份的。 9 mysql> show master status; 10 +---------------------------+-------------+-------------------+--------------------------+ 11 | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | 12 +----------------------------+------------+--------------------+-------------------------+ 13 | mysql-bin.000013 | 410 | | | 14 +----------------------------+------------+--------------------+-------------------------+ 15 1 row in set (0.00 sec) 16 17 3) 克隆窗口,备份数据。 18 [root@bogon ~]# mysqldump -uroot -p -S /data/3306/mysql.sock -A -B --events --master-data=2|gzip >/opt/rep.sql.gz 19 Enter password: 20 参数: -A:备份所有的 21 #看rep.sql.gz参数 22 vim /opt/rep.sql.gz 23 -- CHANGE MASTER TO MASTER_LOG_FILE='mysql-bin.000013', MASTER_LOG_POS=410; 24 25 4) 查看master status;数值是否正常 26 mysql> show master status; 27 +--------------------------+------------+--------------------+-------------------------+ 28 | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | 29 +--------------------------+------------+--------------------+--------------------------+ 30 | mysql-bin.000013 | 410 | | | 31 +--------------------------+------------+--------------------+--------------------------+ 32 1 row in set (0.00 sec) 33 34 5) 解锁库 35 mysql> unlock tables; 36 Query OK, 0 rows affected (0.00 sec) 37 38 6) 恢复到从库 39 [root@bogon ~]# gunzip < /opt/rep.sql.gz | mysql -uroot -p -S /data/3307/mysql.sock 40 Enter password:
配置从库及生效
更改从库和主库的连接参数,配置生效。检查就成功了!
1 1) 进入从库。 2 [root@bogon ~]# mysql -uroot -p -S /data/3307/mysql.sock 3 Enter password: 4 5 2) 更改从属服务器用于与主服务器进行连接和通讯的参数。 6 mysql> CHANGE MASTER TO 7 MASTER_HOST='192.168.17.98', 8 MASTER_PORT=3306, 9 MASTER_USER='rep', 10 MASTER_PASSWORD='nick', 11 MASTER_LOG_FILE='mysql-bin.000013', 12 MASTER_LOG_POS=410; 13 Query OK, 0 rows affected (0.01 sec) 14 15 3) 查看更改的参数。 16 [root@localhost ~]# cd /data/3307/data/ 17 [root@localhost data]# cat master.info 18 18 19 mysql-bin.000013 20 410 21 192.168.200.98 22 REP 23 nick 24 3306 25 60 26 0 27 0 28 1800.000 29 0 30 4) 生效! 31 mysql> start slave; 32 Query OK, 0 rows affected (0.01 sec) 33 34 5) 检查下列参数,符合则正常! 35 mysql> show slave status\G 36 Relay_Master_Log_File: mysql-bin.000013 37 Slave_IO_Running: Yes #取logo。 38 Slave_SQL_Running: Yes #读relay-bin、logo,写数据。 39 Seconds_Behind_Master: 0 #落后主库的秒数。 40 41 6) 查看relay-bin.logo。 42 [root@localhost 3307]# cd /data/3307 43 [root@localhost 3307]# ll 44 总用量 48 45 drwxr-xr-x. 9 mysql mysql 4096 11月 19 18:52 data 46 -rw-r--r--. 1 mysql mysql 1900 11月 19 11:45 my.cnf 47 -rwx------. 1 root root 1307 11月 10 17:06 mysql 48 -rw-rw----. 1 mysql mysql 6 11月 19 11:00 mysqld.pid 49 -rw-r-----. 1 mysql mysql 15090 11月 19 18:49 mysql_nick3307.err 50 srwxrwxrwx. 1 mysql mysql 0 11月 19 11:00 mysql.sock 51 -rw-rw----. 1 mysql mysql 150 11月 19 18:49 relay-bin.000001 52 -rw-rw----. 1 mysql mysql 340 11月 19 18:52 relay-bin.000002 53 -rw-rw----. 1 mysql mysql 56 11月 19 18:49 relay-bin.index 54 -rw-rw----. 1 mysql mysql 53 11月 19 18:52 relay-log.info 55 56 7)查看relay-log.info。 57 [root@localhost 3307]# cat relay-log.info 58 /data/3307/relay-bin.000002 59 340 60 mysql-bin.000013 61 497 62 8)查看master.info。 63 [root@localhost 3307]# cat data/master.info 64 18 65 mysql-bin.000013 66 497 67 192.168.17.98 68 rep 69 nick 70 3306 71 60 72 0 73 0 74 1800.000 75 0
读写分离
读写分离在生产环境比比皆是,也是必备技能。
忽略MySQL主从复制授权表同步,读写分离
1 1 [root@bogon 3306]# vim my.cnf 2 2 #添加以下四行 3 3 replicate-ignore-db = mysql 4 4 binlog-ignore-db = mysql 5 5 binlog-ignore-db = performance_schema 6 6 binlog-ignore-db = information_schema 7 7 8 8 server-id = 1 9 1)通过read-only参数防止数据写入从库的方法。 10 #修改配置文件。 11 vim /data/3307/my.cnf 12 [mysqld] 13 read-only 14 #对用户授权事不能指定有super或all privileges权限。不然没效果。 15 #创建账户suoning,并刷新权限。 16 mysql> grant select,insert,update,delete on *.* to 'suoning'@'localhost' identified by '123'; 17 Query OK, 0 rows affected (0.00 sec) 18 mysql> flush privileges; 19 Query OK, 0 rows affected (0.00 sec) 20 #用创建账户登录,并创建库 21 [root@bogon 3307]# mysql -usuoning -p123 -S /data/3307/mysql.sock 22 mysql> create user kangkangkang@'192.%' identified by 'old123'; 23 ERROR 1290 (HY000): The MySQL server is running with the --read-only option so it cannot execute this statement 24 25 2)主从同步故障 26 A. Last_SQL_Errno: 1007 27 stop slave; 28 set global sql_slave_skip_counter = 1; 29 start slave; 30 B. 忽略 31 skip-name-resolve #忽略名字解析 32 slave-skip-errors = 1032,1062,1007 #忽略故障编号 33 34 server-id = 3 35 36 3)从库开启bin-log 37 vim my.cnf 38 log-bin = /data/3307/mysql-bin 39 log-slave-updates #表示从库记录bin-log 40 expire_logs_days = 7 #保留7天bin-log。
主宕机
我们来模拟一下,如果主机宕机了,那我们该如何让从快速替换,让损失降到最小?当然了,双机热备也是一个不错的选择,一主多从的环境下,如果主宕机了,选一台从做主,继续和其它从同步。
1 A. 查看每个从库的master.info,看谁的更靠前,最新,更大,丢的数据最少。 2 [root@localhost 3307]# cat /data/3307/data/master.info 3 mysql-bin.000015 4 326 5 6 B. 确保所有relay log全部更新完毕。 7 在每个从库上执行stop slave io_thread;show processlist; 8 知道看到Has read all relay log;表示从库更新都执行完毕。 9 10 C. 登陆mysql -uroot -p -S /data/3307/mysql.sock 11 stop slave; 12 reset master; 13 quit 14 15 D. 进入到数据库目录,删除master.info relay-log.info 16 cd /data/3307/data/ 17 rm -f master.info relay-log.info 18 19 E. 3307提升为主库 20 vim /data/3307/my.cnf 21 开启log-bin = /data/3307/mysql-bin 22 如存在log-slave-updates,read-only等一定要注释。 23 /data/3307/mysql restart 24 25 F. 其它从库操作 26 stop slave; 27 change master to master_host ='192.168.17.98'; 28 start slave; 29 show slave status\G
双主
使用主主前提:表的主键自增。
1 [root@localhost 3307]# vim my.cnf 2 [mysqld] 3 auto_increment_increment = 2 4 auto_increment_offset = 2 5 [root@localhost 3307]# ./mysql restart 6 7 [root@localhost 3306]# vim my.cnf 8 [mysqld] 9 auto_increment_increment = 2 10 auto_increment_offset = 1 11 log-bin = /data/3306/mysql-bin 12 log-slave-updates 13 [root@localhost 3306]# ./mysql restart 14 15 [root@localhost 3306]# mysqldump -uroot -pnick -S /data/3307/mysql.sock -A -B --master-data=1 -x --events > /opt/3307bak.sql 16 [root@localhost 3306]# mysql -uroot -pnick -S /data/3306/mysql.sock < /opt/3307bak.sql 17 18 mysql> CHANGE MASTER TO 19 MASTER_HOST='192.168.17.98', 20 MASTER_PORT=3307, 21 MASTER_USER='rep', 22 MASTER_PASSWORD='nick'; 23 mysql> start slave; 24 Query OK, 0 rows affected (0.00 sec) 25 mysql> show slave status \G
MySQL备份及恢复
备份单个数据库
最基础的备份单个数据库,语法:mysqldump –u 用户名 –p 数据库名> 备份的数据库名
1 备份nick_defailt数据库,查看内容。 2 [root@localhost ~]# mysqldump -uroot -p -B nick_defailt >/opt/mysql_nick_defailt.bak 3 Enter password: 4 [root@localhost ~]# egrep -v "#|\*|--|^$" /opt/mysql_nick_defailt.bak 5 DROP TABLE IF EXISTS `oldsuo`; 6 CREATE TABLE `oldsuo` ( 7 `id` int(4) NOT NULL, 8 `name` char(20) NOT NULL, 9 `age` tinyint(2) NOT NULL DEFAULT '0', 10 `dept` varchar(16) DEFAULT NULL 11 ) ENGINE=MyISAM DEFAULT CHARSET=latin1; 12 LOCK TABLES `oldsuo` WRITE; 13 INSERT INTO `oldsuo` VALUES (2,'ç´¢å®',0,NULL),(3,'索尼',0,NULL),(4,'底底',0,NULL); 14 UNLOCK TABLES; 15 DROP TABLE IF EXISTS `student`; 16 CREATE TABLE `student` ( 17 `qq` varchar(15) DEFAULT NULL, 18 `id` int(4) NOT NULL AUTO_INCREMENT, 19 `name` char(20) NOT NULL, 20 `suo` int(4) DEFAULT NULL, 21 `age` tinyint(2) NOT NULL DEFAULT '0', 22 `dept` varchar(16) DEFAULT NULL, 23 `sex` char(4) DEFAULT NULL, 24 PRIMARY KEY (`id`), 25 KEY `index_name` (`name`) 26 ) ENGINE=MyISAM AUTO_INCREMENT=8 DEFAULT CHARSET=latin1; 27 LOCK TABLES `student` WRITE; 28 INSERT INTO `student` VALUES (NULL,2,'oldsuo',NULL,0,NULL,NULL), 29 (NULL,3,'kangknag',NULL,0,NULL,NULL), 30 (NULL,4,'kangkang',NULL,0,NULL,NULL), 31 (NULL,5,'oldsuo',NULL,0,NULL,NULL), 32 (NULL,6,'kangknag',NULL,0,NULL,NULL), 33 (NULL,7,'kangkang',NULL,0,NULL,NULL); 34 UNLOCK TABLES; 35 36 启用压缩备份数据库 37 [root@localhost~]#mysqldump -uroot -p -B nick_defailt|gzip>/opt/mysql_nick_defailt.bak.gz 38 Enter password: 39 40 恢复nick_defailt数据库 41 [root@localhost ~]# mysql -uroot -p nick_defailt </opt/mysql_nick_defailt.bak 42 Enter password: 43 #加-B恢复方法 44 [root@localhost ~]# mysql -uroot -p </opt/mysql_nick_defailt_B.bak 45 Enter password:
总结
1,备份用-B参数。增加use db,和create database的信息。
2,用gzip对备份的数据压缩。
备份多个数据库
备份多个数据库的情况呢?
1 #多个数据库名中间加空格 2 [root@localhost ~]# mysqldump -uroot -p -B nick_defailt oldsuo oldsuo_1|gzip>/opt/mul.sql.gz 3 Enter password:
备份单个及多个表
那如果备份单个和多个表,怎么办?
1 语法:mysqldump -u 用户名 -p 数据库名 表名 > 备份的文件名 2 [root@localhost ~]# mysqldump -uroot -p nick_defailt student >/opt/mysql_nick_defailt_student.bak 3 Enter password: 4 5 语法:mysqldump -u 用户名 -p 数据库名 表名1 表名2 > 备份的文件名 6 [root@localhost ~]# mysqldump -uroot -p nick_defailt student oldsuo >/opt/mysql_nick_defailt.bak 7 Enter password:
mysqldump 的参数
mysqldump 的关键参数
-B指定多个库,增加建库语句和use语句。 --compact去掉注释,适合调试输出,生产不用。 -A 备份所有库。 -F刷新binlog日志。 --master-data 增加binlog日志文件名及对应的位置点。 -x,--lock-all-tables -l,--locktables -d 只备份表结构 -t 只备份数据 --single-transaction 适合innodb事务数据库备份。
增量恢复
重要的来了,生产环境一般是增量备份与恢复;
所谓增量,就是在原数据的基础上继续添加数据,不必每次都重新添加,省时省力。
A:增量恢复必备条件:
1 开启MySQL数据库log-bin参数记录binlog日志。 2 [root@localhost 3306]# grep log-bin /data/3306/my.cnf 3 log-bin = /data/3306/mysql-bin 4 存在数据库全备。
B:生产环境 mysqldump备份命令:
1 # 进行数据库全备,(生产环境还通过定时任务每日凌晨执行) 2 mysqldump -uroot -pnick -S /data/3306/mysql.sock --default-character-set=gbk --single-transaction -F -B nick |gzip >/server/backup/mysql_$(date +%F).sql.gz 3 # innodb引擎备份 4 mysqldump -u$MYUSER -p$MYPASS -S $MYSOCK -F --single-transaction -A -B |gzip >$DATA_FILE 5 # myisam引擎备份 6 mysqldump -u$MYUSER -p$MYPASS -S $MYSOCK -F -A -B --lock-all-tables |gzip >$DATA_FILE
C:恢复:
1 # 通过防火墙禁止web等应用向主库写数据或者锁表。让主库暂时停止更新,然后再进行恢复。 2 # 误操作删除nick库! 3 4 1. 检查全备及binlog日志 5 [root@localhost 3306]# cd /server/backup/ 6 [root@localhost backup]# gzip -d mysql_2018-11-17.sql.gz 7 [root@localhost backup]# vim mysql_2018-11-17.sql 8 [root@localhost backup]# grep -i "change" mysql_2018-11-17.sql 9 10 2. 立即刷新并备份出binlog 11 [root@localhost 3306]# mysqladmin -uroot -pnick -S /data/3306/mysql.sock flush-logs 12 [root@localhost 3306]# cp /data/3306/mysql-bin.000030 /server/backup/ 13 #误操作log-bin,倒数第二 14 [root@localhost backup]# mysqlbinlog -d nick mysql-bin.000030 >bin.sql #导出为.sql格式。 15 [root@localhost backup]# vim bin.sql 16 找到语句drop database nick删除!!!(误操作语句) 17 18 3. 恢复 19 [root@localhost backup]# mysql -uroot -pnick -S /data/3306/mysql.sock <mysql_2018-11-18.sql #恢复之前的数据库全备 20 [root@localhost backup]# mysql -uroot -pnick -S /data/3306/mysql.sock nick < bin.sql 21 #恢复删除误操作语言的bin-log。