MySQL常用工具、日志及读写分离
该mysql不是值mysql服务,而是指mysql的客户端工具。
语法 :
mysql [options] [database]
-e, --execute=name : 执行sql语句并退出
mysqladmin是一个执行管理操作的客户端程序。可以用它来检查服务器的配置和当前状态、创建并删除数据库等。
可以通过 :mysqladmin --help 指令查看帮助文档。
由于服务器生成的二进制日志文件以二进制格式保存,所以如果想要检查这些文本的文本格式,就会使用到mysqlbinlog日志管理工具。
语法 :
mysqldump客户端工具用来备份数据库或在不同数据库之间进行数据迁移。备份内容包含创建表,及插入表的sql语句。
语法 :
示例 :
mysqldump -uroot -p2143 db01 tb_book --add-drop-database --add-drop-table > a.sql
mysqldump -uroot -p2143 -T /tmp test city
mysqlimport是客户端数据导入工具,用来导入mysqldump 加 -T 参数后导出的文本文件。
语法 :
mysqlimport [options] db_name textfilel [textfile2…]
示例 :
mysqlimport -urrot -p2143 test /tmp/city.txt
如果需要导入sql文件,可以使用mysql中的source指令:
source /root/tb_book.sql
mysqlshow客户端对查找工具,用来很快的查找存在那些数据库、数据库中的表、表中的列或者索引。
语法 :
mysqlshow [options] [db_name [table_name] [col_name]]]
参数 :
–count :显示数据库及表的统计信息(数据库,表均可以不指定)
-i :显示指定数据库或者指定表的状态信息
示例 :
在任何一种数据库中,都会有各种各样的日志,记录着数据库工作的方方面面,以帮助数据库管理员追踪数据库曾经发生过的各种事件。MySQL也不例外,在MySQL中,有四种不同的日志,分别是错误日志、二进制日志(BINLOG日志)、查询日志和慢查询日志,这些日志记录着数据库在不同方面的踪迹。
错误日志是MySQL中最重要的日志之一,它记录了当MySQL的启动和停止时,以及服务器在运行过程中发生任何严重错误时的相关信息。当数据库出现任何故障导致无法正常使用时,可以首先查看此日志。
该日志是默认开启的,默认存放目录为mysql的数据目录(var/lib/mysql),默认的日志文件为hostname.err(hostname是主机名)。
查看日志位置指令 :
show variables like ‘log_error%’;
查看日志内容 :
tail -f /var/lib/mysql/xaxh-server.err
二进制日志(BINLOG)记录了所有的DDL(数据定义语言)语句和DML(数据操作语言)语句,但是不包括数据查询语句。此日志对于灾难时的数据恢复起着极其重要的作用,MySQL的主从复制,就是通过该binlog实现的。
二进制日志,默认情况下是没有开启的,需要MySQL的陪着文件中开启,并配置MySQL日志的格式。
配置文件位置 :/usr/my.cnf
日志存放位置 :配置时,给定了文件名但是没有指定路径,日志默认写入MySQL的数据目录。
配置开始binlog日志,日志的文件前缀为mysqlbin ------》 生成的文件名如 :
mysqlbin.000001,mysqlbin.000002
log_bin=mysqlbin
配置二进制日志的格式
binlog_format=STATEMENT
STATEMENT
该日志格式在日志文件中记录的都是SQL语句(statmeent),每一条对数据进行修改的SQL都会记录在日志文件中,通过MySQL提供的MySQLbinlog工具,可以清晰的查看到每条语句的文本。主从复制的时候,从库(slave)会将日志解析为原文本,并在从库重新执行一次。
ROW
该日志格式在日志文件中记录的是每一行的数据变更,而不是记录SQL语句。比如,执行SQL语句 :update tb_book set status = ‘1’,如果是STATEMENT日志格式,在日志中会记录一行SQL文件;如果是ROW,由于是对全表进行更新,也就是每一行记录都会发生变更,ROW格式的日志中会记录每一行的数据变更。
MIXED
这是目前MySQL默认的日志格式,即混合了STATEMENT和ROW两种格式。默认情况下采用STATEMENT,但是在一些特殊情况下采用ROW来进行记录。MIXED格式能尽量利用两种模式的优点,而避开他们的缺点。
由于日志以二进制方式存储,不能直接读取,需要用mysqlbinlog工具来查看,语法如下 :
mysqlbinlog log-file;
查看STATEMENT格式日志 :
查看日志文件 :默认在/var/lib/mysql目录下
mysqlbin.index : 该文件是日志索引文件,记录日志的文件名;
mysqlbing.000001 : 日志文件
查看日志内容 :
mysqlbinlog mysqlbing.000001;
查看ROW格式日志
配置 :
配置开启binlog日志,日志的文件前缀为mysqlbin —》生成的文件名如:mysqlbin.000001,mysqlbin.000002
log_bin=mysqlbin
配置二进制日志的格式
binlog_format=ROW
如果日志格式是ROW,直接查看数据,是查看不懂的;可以在mysqlbinlog后面加上参数 -w
mysqbinlog -vv mysqlbin.000002
对于比较繁忙的系统,由于每天生成日志量大,这些日志如果长时间不清除,将会占用大量的磁盘空间。下面我们将会讲解几种删除日志的常见方法:
方式1:
通过Reset Master指令删除全部binlog日志,删除之后,日志编号,将从xxxx.000001重新开始。
查询之前,先查询下日志文件 :
执行删除日志命令 :
Reset Master
执行之后,查看日志文件 :
方式2:
执行指令 purge master logs to 'mysqlbin.’ ,该命令将删除编号之前的所有日志。
方式3:
执行指令 purge master logs before ‘yyyy-mm-dd hh24:mi:ss’,该命令将删除日志为“yyyy-mm-dd hh24:mi:ss”之前产生的所有日志。
方式4:
设置参数 --expire_logs_days=#,此参数的含义是设置日志的过期天数,过了指定的天数后日志将会被自动删除,这样将有利于减少DBA管理日志的工作量。
配置如下 :
查询日志中记录了客户端的所有操作语句,而二进制日志不包含查询数据的SQL语句。
默认情况下,查看日志是未开启的。如果需要开启查询日志,可以设置以下配置 :
该选项用来开启查询日志 ,可选值 :0或者 1;0代表关闭,1代表开启
general_log=1
设置日志的文件名,如果没有指定,默认的文件名为host_name.log
general_log_file=file_name
在mysql的配置文件/usr/my.cnf中配置如下内容:
执行完查询语句以后,再次查看查询日志 :
慢查询日志记录了所有执行时间超过参数long_query_time 设置值并且扫描记录数不小于min_examined_row_limit的所有的SQL语句的日志。
long_query_time默认为10秒,最小为0,精度可以到微妙。
慢查询日志默认是关闭的。可以通过两个参数来控制慢查询日志:
该参数用来控制慢查询日志是否开启,可取值 :1和0,1代表开启,0代表关闭
slow_query_log=1
该参数用来指定慢查询日志的文件名
slow_query_log_file=slow_query.log
该选项用来配置查询的时间限制,超过这个时间将认为值慢查询,将需要进行日志记录,默认10s
long_query_time=10
和错误日志、查询日志一样,慢查看日志记录的格式也是纯文本,可以被直接读取。
1)查询long_query_time的值。
2)查看慢查询日志文件
直接通过cat指令查询该日志文件 :
如果慢查询日志内容很多,直接查看文件,比较麻烦,这个时候可以借助于mysql自带的mysqldumpslow工具,来对慢查询日志进行分类汇总。
复制是指将主数据库的DDL和DML操作通过二进制日志传到从库服务器中,然后在从库上对这些日志重新执行(也叫重做),从而使得从库和主库的数据保持同步。
MySQL的主从复制原理如下。
从上层来看,复制分成三步 :
- Master主库在事务提交时,会把数据变更作为时间Events记录在二进制日志文件Binlog中。
- 主库推送二进制日志文件Binlog中的日志事件到从库的中级日志Relay Log。
- Slave重做中继日志中的事件,将改变反映它自己的数据。
MySQL复制的优势主要包含以下三个方面 :
- 主库出现问题,可以快速切换到从库提供服务。
- 可以在从库上执行查询操作,从主库中更新,实现读写分离,降低主库的访问压力。
- 可以在从库中执行备份,以避
- 免备份期间影响主库的服务。
1)在master的配置文件(/usr/my.cnf)中,配置如下内容 :
#mysql 服务ID,保证整个集群环境中唯一
server-id=1
#mysql binlog 日志的存储路径和文件名
log-bin=/var/lib/mysql/mysqlbin
#错误日志,默认以及开启
#log-err
#mysql的安装目录
#basedir
#mysql的临时目录
#tmpdir
#mysql的数据存放目录
#datadir
#是否只读,1代表只读,0代表读写
read-only=0
#忽略的数据,指不需要同步的数据库
binlog-ignore-db=mysql
#指定同步的数据库
#binlog-do-db=db01
2)执行完毕之后,需要重启MySQL :
service mysql restart;
3)创建同步数据的账户,并且进行授权操作:
grant replication slave on . to ‘demo’@‘192.168.192.131’ identified by ‘demo’;
flush privileges;
4)查看master状态 :
1)在slave端配置文件中,配置如下内容 :
#mysql服务端ID,唯一
server-id=2
#指定binlog日志
log-bin=/var/lib/mysql/mysqlbin
2)执行完毕之后,需要重启MySQL:
service mysql restart;
3)执行如下指令:
change master to master_host=‘192.168.192.130’,master_user=‘demo’,master_password=‘demo’,
master_log_file=‘mysqlbin.000001’,master_log_pos=413;
指定当前从库的主库的IP地址,用户名,密码,从那个日志文件开始的那个位置开始同步推送日志。
4)开启同步操作
start slave;
show slave status;
5)停止同步操作
stop slave;
通过自定义注解,来标识方法需不需要进行记录日志,如果该方法在访问时需要记录日志,则在该方法上标识该注解即可。
@Inherited
@Document
@Target(Elementype.METHOD)
@Retention(RetentionPolicy.RUNTIME)
public @interface OperateLog{
}
@Component
@Aspect
public class OperateAdvice {
private static Logger log = Logger.getLogger(OperateAdvice.class);
@Around("execution(* cn.demo.controller.*.*(..)) && @annotation(operateLog)")
public Object insertLogAround(ProceedingJoinPoint pjp,OperateLog operateLog) throws Throwable {
@Around("execution(* com.example.demo.controller.*.*(..)) && @annotation(operateLog)")
public Object logAround(ProceedingJoinPoint pjo,OperateLog operateLog) {
DateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
// 访问方法的时间
String dateTime = sdf.format(new Date());
// 访问的方法
String methodName = pjp.getSignature().getName();
// 访问哪一个类
String className = pjp.getClass().getName();
// 方法入参
String paramAndValue = Arrays.toString(pjp.getArgs());
// 统计耗时
long startTime = System.currentTimeMillis();
// 打印方法入参日志
log.info("输出日志");
// 放行,并获取返回值
Object returnValue= new Object();
try {
returnValue= pjp.proceed();
} catch (Throwable throwable) {
log.error("");
}
long endTime = System.currentTimeMillis();
// 打印请求耗时日志
log.info();
// 打印返回值日志
return returnValue;
}
}
}
创建一张表用来记录日志表的总数据量 :
create table log_counter (
logcount bigint not null
)engine = innodb default CHARSET = utf8;
在每次插入数据之后,更新该表 :
update log_counter set logcount = logcount + 1
在进行分页查询时,获取总记录数,从该表中查询即可。
select logcount from log_counter limit 1