• Mysql日志管理、备份与恢复

    目录

    前言

    一、MySQL日志管理

    1.1 日志的分类

    1）错误日志

    2） 通用查询日志

    3） 二进制日志(binlog)

    4） 慢查询日志

    5） 配置日志

    1.2 日志的查询

    二、MySQL 完全备份与恢复

    2.1 数据备份的重要性

    2.2 造成数据丢失的原因

    2.3 数据库备份的分类

    2.3.1 从物理和逻辑角度分

    2.4 数据库的备份策略

    2.5 MySQL 完全备份 

    2.5.1 物理冷备份与恢复

    2.5.2 专用备份工具mydump 和mysqlhotocopy

    2.5.3 MySQL 完全备份（使用免交互）

    2.5.4 MySQL 增量备份与恢复

    2.1.5 MySQL 增量恢复

    总结

    前言

    只要发生数据传输、数据存储、数据交换、软件故障、硬盘坏道等就有可能产生数据故障。这时，如果没有采取数据备份和数据恢复手段与措施，就会导致数据的丢失。没有数据库的备份，就没有数据库的恢复，企业应当把企业数据备份的工作列为一项不可忽视的系统工作，为其选择相应的备份设备和技术，进行经济可靠的数据备份，从而避免可能发生的重大损失。

    一、MySQL日志管理

    MySQL的日志默认保存位置为/usr/local/mysql/data

    MySQL 的日志配置文件为/etc/my.cnf，里面有[mysqld]项。

    这是我们当时安装mysql时指定的目录，如下图所示：

    1.1 日志的分类

    1）错误日志

    用来记录当MySQL启动、停止或运行时发生的错误信息，默认已开启 

    log-error=/usr/local/mysql/data/mysql_error.log					#指定日志的保存位置和文件名

    2） 通用查询日志

    用来记录MySQL的所有连接和语句，默认是关闭的

    1. general_log=ON
    2. general_log_file=/usr/local/mysql/data/mysql_general.log

    3） 二进制日志(binlog)

    用来记录所有更新了数据或者已经潜在更新了数据的语句，记录了数据的更改，可用于数据恢复，默认已开启

    log-bin=mysql-bin				#也可以 log_bin=mysql-bin

    4） 慢查询日志

    用来记录所有执行时间超过long_query_time秒的语句，可以找到哪些查询语句执行时间长，以便于优化，默认是关闭的

    1. slow_query_log=ON
    2. slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
    3. long_query_time=5												#设置超过5秒执行的语句被记录，缺省时为10秒

    5） 配置日志

    1）修改/etc/my.cnf配置文件

    1. log-error=/usr/local/mysql/data/mysql_error.log
    2. general_log=ON
    3. general_log_file=/usr/local/mysql/data/mysql_general.log
    4. log-bin=mysql-bin
    5. slow_query_log=ON
    6. slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
    7. long_query_time=5

    2）重启mysql服务

    1.2 日志的查询

    1. mysql -u root -p[密码]
    2. show variables like 'general%';									#查看通用查询日志是否开启
    3.  
    4. show variables like 'log_bin%';									#查看二进制日志是否开启
    5.  
    6. show variables like '%slow%';									#查看慢查询日功能是否开启
    7. show variables like 'long_query_time';							#查看慢查询时间设置
    8.  
    9. set global show_query_log=ON;									#在数据库中设置开启慢查询的方法

    查询各日志的开启状态（未设置之前）

    查询各日志的开启状态（设置之后）

    二、MySQL 完全备份与恢复

    2.1 数据备份的重要性

    • 备份的主要目的是灾难恢复
    • 在生产环境中，数据的安全性至关重要
    • 任何数据的丢失都可能产生严重的后果

    2.2 造成数据丢失的原因

    • 程序错误
    • 人为操作错误.
    • 运算错误
    • 磁盘故障
    • 灾难(如火灾、地震)和盗窃

    2.3 数据库备份的分类

    2.3.1 从物理和逻辑角度分

    1）物理备份

    对数据库操作系统的物理文件(如数据文件、日志文件等)的备份

    物理备份的方法：

    • 冷备份(脱机备份) :是在关闭数据库的时候进行的；
    • 热备份(联机备份) :数据库处于运行状态，依赖于数据库的日志文件；
    • 温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作。

    2）逻辑备份

    对数据库逻辑组件(如:表等数据库对象)的备份

    2.4 数据库的备份策略

    （1）完全备份:每次对数据库进行完整的备份

    是对整个数据库、数据库结构和文件结构的备份
    保存的是备份完成时刻的数据库
    是差异备份与增量备份的基础

    优点：备份与恢复操作简单方便
    缺点：数据存在大量的重复、占用大量的备份空间及备份与恢复时间长

    （2）差异备份:备份自从上次完全备份之后被修改过的文件

    （3）增量备份:只有在上次完全备份或者增量备份后被修改的文件才会被备份

    1. use yunwei;
    2. create table if not exists zu1 (
    3. id int(4) not null auto_increment,
    4. name varchar(10) not null,
    5. sex char(10) not null,
    6. hobby varchar(50),
    7. primary key (id));
    8.  
    9. insert into zu1 values(1,'张三','男','singing');
    10. insert into zu1 values(2,'李四','男','drawing');
    11. insert into zu1 values(3,'王五','男','running');
    12. insert into zu1 values(4,'李丽','女','dancing');

    2.5 MySQL 完全备份 

    InnoDB存储引擎的数据库在磁盘上存储成三个文件：db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。

    实验环境如下：在yunwei库中有3张表

    2.5.1 物理冷备份与恢复

    备份时数据库处于关闭状态，直接打包数据库文件
    备份速度快，恢复时也是最简单的

    操作步骤（理论）：

    1. systemctl stop mysqld
    2. yum -y install xz
    3. cd /usr/local/mysql
    4.  
    5. #压缩备份data目录
    6. tar Jcvf /opt/mysql_all_$(date +%F).tar.xz data/
    7. #解压恢复data目录
    8. tar Jxvf /opt/mysql_all_2022-06-21.tar.xz -C ./

    实验操作步骤（实操）：
    1）备份data命令 

    2）登录mysql，删除school库

    3）解压之前备份的数据库data目录，不用删除原目录，会自动替换 

    4）重启服务查看被删除的库

    2.5.2 专用备份工具mydump 和mysqlhotocopy

    mysqldump常用的逻辑备份工具
    mysqlhotcopy仅拥有备份MyISAM和ARCHIVE表

    （1）完全备份一个或多个完整的库（包括其中所有的表）

    mysqldump -u root -p[密码] --databases 库名1 [库名2] … > /备份路径/备份文件名.sql	#导出的就是数据库脚本文件

     例：备份单个和多个库

    1. mysqldump -uroot -p --databases yunwei > /opt/mysql_bak/yunwei.sql
    2. mysqldump -uroot -p --databases yunwei info > /opt/mysql_bak/yunwei_info.sql

    （2）完全备份 MySQL 服务器中所有的库

    mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql

     例：备份所有库

    mysqldump -uroot -p --all-databases > /opt/mysql_bak/all.sql

    （3）完全备份指定库中的部分表

    mysqldump -u root -p[密码] 库名 [表名1] [表名2] … > /备份路径/备份文件名.sql

    例：备份school库中的两个表

    mysqldump -uroot -p yunwei  [-d]  5zu zu1 > /opt/mysql_bak/yunwei_5zu_zu1.sql

    #使用“-d”选项，说明只保存数据库的表结构
    #不使用“-d”选项，说明表数据也进行备份

    （4）查看备份文件

    1. grep -v "^--" /opt/mysql_bak/yunwei_5zu_zu1.sql | grep -v "^/" | grep -v "^$"

    2.5.3 MySQL 完全备份（使用免交互）

    systemctl start mysqld

    （1）恢复数据库 

    1. mysql -u root -p -e 'drop database yunwei;'
    2. #“-e”选项，用于指定连接 MySQL 后执行的命令，命令执行完后自动退出
    3. mysql -u root -p -e 'show databases;'
    4.  
    5. #恢复school数据库
    6. mysql -u root -p < /opt/mysql_bak/yunwei.sql		
    7. mysql -u root -p -e 'show databases;'

    （2）恢复数据表
    当备份文件中只包含表的备份，而不包含创建的库的语句时，执行导入操作时必须指定库名，且目标库必须存在。

    1. mysqldump -u root -p info 6zu > /opt/info_6zu.sql
    2.  
    3. mysql -u root -p -e 'drop table info.6zu;'
    4. mysql -u root -p -e 'show tables from info;'
    5.  
    6. mysql -u root -p info < /opt/info_6zu.sql
    7. mysql -u root -p -e 'show tables from info;'

    1)删除info中的6zu表 

    2）恢复info库中的表

    2.5.4 MySQL 增量备份与恢复

    1．开启二进制日志功能

    vim /etc/my.cnf

    1. [mysqld]
    2. log-bin=mysql-bin
    3. binlog_format = MIXED				指定二进制日志(binlog)的记录格式为 MIXED
    4. server-id = 1

    二进制日志(binlog)有3种不同的记录格式：

    • STATEMENT(基于SQL语句)
    • ROW(基于行)
    • MIXED(混合模式)，默认格式是STATEMENT
    1. 只要重启就会自动生成二进制文件
    2. systemctl start mysqld
    3. ls -l /usr/local/mysql/data/mysql-bin.*

     测试：

    2．可每周对数据库或表进行完全备份

    1. mysqldump -u root -p info 6zu > /opt/info_6zu_$(date +%F).sql				#对指定的表做备份
    2. mysqldump -u root -p --all-databases info > /opt/info_$(date +%F).sql					#对所有的库做备份

    3．可每天进行增量备份操作，生成新的二进制日志文件(例如 mysql-bin.000009)

    mysqladmin -u root -p flush-logs

    4．插入新数据，以模拟数据的增加或变更

    1. use yunwei;
    2. insert into zu1 values(5,'赵四','男','eating');
    3. insert into zu1 values(6,'赵梅','女','sporting');

    5．再次生成新的二进制日志文件(例如 mysql-bin.000010)

    mysqladmin -u root -p flush-logs

    #之前的步骤4的数据库操作会保存到mysql-bin.000009文件中，之后数据库数据再发生变化则保存在mysql-bin.000010文件中

    6．查看二进制日志文件的内容

    1. cp /usr/local/mysql/data/mysql-bin.000009 /opt/
    2. mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000009
    3. #--base64-output=decode-rows：使用64位编码机制去解码并按行读取
    4. #-v：显示详细内容

    2.1.5 MySQL 增量恢复

    1．一般恢复
    （1）模拟丢失更改的数据的恢复步骤

    1. use yunwei;
    2. delete from zu1 where id=5;
    3. delete from zu1 where id=6;
    4.  
    5. mysqlbinlog --no-defaults /opt/mysql-bin.000009 | mysql -u root -p

    具体操作：

    1）删除class1表中的末2行数据

    2）通过二进制日志进行恢复

    （2）模拟丢失所有数据的恢复步骤

    1. use yunwei;
    2. drop table zu1;
    3.  
    4. mysql -u root -p yunwei < /opt/mysql_bak/yunwei_5zu_zu1.sql
    5. mysqlbinlog --no-defaults /opt/mysql-bin.000009 | mysql -u root -p

    具体操作：

    1）删除yunwei库中的zu1表

    2）先恢复整表，然后再恢复二进制日志文件

    2．断点恢复

    实验：表和数据如下

    1. mysqladmin -u root -p flush-logs 			# 刷新生成新的二进制日志文件
    2. cd /usr/local/mysql/data					# 进入到data目录
    3. mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.0000009		#查看二进制日志文件

    例：

    1. # at 302     										        #断点
    2. #220622 16:29:46    								        #时间
    3. insert into football values(1,'梅西','34','80000000')	    #插入的数据

    1. # at 2183														#断点
    2. #220622 16:30:09												#时间
    3. insert into football values(7,'小张','26','100')        			#插入的数据

     

    （1）基于位置恢复

    1. #仅恢复到操作 ID 为“2183”之前的数据，即不恢复“后面一条”的数据
    2. mysqlbinlog --no-defaults --stop-position='2183' mysql-bin.000010 | mysql -uroot -p

    1）删除football表中所有数据 

    2）对数据进行恢复

    1. #仅恢复“最后一条”的数据，跳过“前面多条”的数据恢复
    2. mysqlbinlog --no-defaults --start-position='2179' mysql-bin.000006 | mysql -uroot -p

    1）重新删除数据

    2）对数据进行恢复

    （2）基于时间点恢复

    1. #仅恢复到 220622 16:29:56 之前的数据，即不恢复“user4”的数据
    2. mysqlbinlog --no-defaults --stop-datetime='2022-06-22 16:29:56' mysql-bin.000010 |mysql -uroot -p

    1）删除数据

     

    2）恢复数据

    #仅恢复从“user4”开始的数据，跳过“user3”的数据恢复

    1. mysqlbinlog --no-defaults --start-datetime='2022-06-22 16:29:56' mysql-bin.000010 |mysql -uroot -p
    2.

    1）删除数据

    2）恢复数据

    总结

    完全备份
    物理冷备份 ― 关闭 MySQL 服务，tar 命令打包 data 目录，恢复就是解压 tar 包逻辑备份mysqldump -u<用户> -p<密码> --datebases <库1> <库2> > /PATH/to/xxx.sql
    mysqldump -u<用户> -p<密码> --all-datebases > /PATH/to/xxx.sql
    mysqldump -u<用户> -p<密码> <库1> <表1> <表2> > /PATH/to/xxx.sql

    完全恢复
    mysqldump -u<用户> -p<密码> < /PATH/to/xxx.sql
    mysqldump -u<用户> -p<密码> <库名> < /PATH/to/xxx.sql

    增量备份与恢复
    1、开启二进制日志，设置二进制日志格式 MIXED
    2、进行一次完全备份，可每周备份一次，通过 crontab -e 定时任务备份
    3、使用 mysqladm -uroot -p flush-logs 刷新分割出二进制日志，由于刷新之前的数据操作都记录在老的二进制日志里，所以需要把老的二进制日志复制到一个安全的目录中保管
    4、可以通过 mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件名查看日志内容
    5、可以通过 mysqlbinlog --no-defaults <二进制日志文件名> l mysql -uroot -p 恢复丢失的数据

    冷备，温备，热备的区别：
    冷备（cold backup）：需要关 mysql 服务，读写请求均不允许状态下进行；
    温备（warm backup）： 服务在线，但仅支持读请求，不允许写请求；
    热备（hot backup）：备份的同时，业务不受影响。

    物理备份和逻辑备份的区别：
    物理备份： 物理备份是以磁盘块为基本单位将数据从主机复制到备机。
    逻辑备份： 逻辑备份是以 SQL 文件为基本单位将数据从主机复制到备机。

  • 相关阅读:
    jmeter-操作mysql
    学习笔记—tomcat调优
    考研算法47天：01背包
    NodeJs - for循环的几种遍历方式
    开发知识点-uniapp微信小程序-开发指南
    SQLSERVER查看数据库日志方法和语句示例，已亲测。
    系列七、栈 & 堆
    Dapr v1.12 正式发布：发件箱模式是亮点
    基于JAVA音乐播放器计算机毕业设计源码+系统+数据库+lw文档+部署
    Spark调优实践随谈
  • 原文地址：https://blog.csdn.net/weixin_67582338/article/details/125390994