MySQL高级学习笔记
1. 变量相关
- 临时变量
-- 定义在函数体或存储过程中的变量
-- 用法在讲函数时会提到
- 用户变量，也称会话变量
-- 用户变量只对当前连接用户有效，其他连接用户无法访问
-- 使用 @ 标识符声明用户变量
SET @age = 20; -- 定义一个值为 20 的 age 变量
-- 使用 SELECT 来查看用户
SELECT @age;
-- 使用 := 来在查询语句中进行赋值
SELECT @maxage := MAX(age) FROM student;
-- 注意事项：
-- 不区分大小写
-- 同一个账户，一旦退出，用户变量也不会再存在
-- 如果用户变量不存在，使用 SELECT 查看会返回 NULL
- 系统变量
-- 任何一个用户都可以访问
-- 使用 @@ 来作为标识符
-- 查看所有的系统变量
SHOW VARIABLES;
SHOW VARIABLES\G; -- 可以使用显示不用过长
-- 同样使用 SELECT 语句来进行查询
SELECT @@age;
-- 修改系统变量
-- 临时修改，只有当前用户使用这个值
SET variable_name = new_value; -- 一需要 @@
SET wait_timeout = 20;
-- 永久修改
SET GLOBAL variable_name = new_value;
SET GLOBAL wait_timeout = 20;
-- 不能自己定义一个新的系统变量
-- 不区分大小写
2. 账户管理
-
账户管理的应用场景
- 在实际项目开发中，不可能让每个开发人员都使用 root 账户进行登录
- 根据开发人员角色的不同，会分配具有不同权限的账户
-
MySQL 账户体系
- 服务实例级账户：启动了一个 mysqld，即为启动一个数据库实例。如果某用户拥有服务实例分配的权限，那么该账号就可以删除所有的数据库，连同这些库中的表
- 数据库级别账户：对特定数据库执行增删改查 (CRUD) 的所有操作，最常用的一种级别
- 数据表级别账户：对特定表执行 CRUD 的所有操作
- 字段级别账户：对某些表的特定字段进行操作
- 存储程序级别账户：对存储程序进行 CRUD 的操作
-
查看账户
-- 需要有 服务实例级 的权限登录后进行操作
-- 账户都存储在 mysql.user 表中
DESC mysql.user; -- 查看 mysql.user 表的结构
-- 关注字段：host, user, authentication_string(即 password)
SELECT host, user, authentication_string FROM mysql.user;
-- 这里看到的密码是加密后的
- 创建账户
-- 需要使用实例级别账户登录后操作 []表示可省略
CREATE USER user_name [IDENTIFIED BY 'password'];
-- 需要注意的是，这里有 user_name 是区分大小写的，并且不能重复创建
-- 示例：
CREATE USER demon; -- 无密码，输入 mysql -u demon 即可登录
CREATE USER demon IDENTIFIED BY 'demon';
- 授权权限
-- 需要使用实例级别账户登录后操作
-- 常用权限主要包括：CREATE、ALTER、INSERT、UPDATE、DELETE、SELECT
-- 如果需要分配所有权限，使用 ALL PRIVILEGES
-- 创建账户并授权
GRANT privilege1,p2.... ON database_name to 'username'@'hostname' [IDENTIFIED 'password'];
-- 对已经存在用户进行授权
GRANT privilege1,p2.... ON database_name to username1, username2,... WITH GRANT OPTION;
-- 注意这个语句只能增加权限，不能修改权限
-- 示例
-- 创建一个新账户 semon 并对 test 数据库授予所有权限
GRANT ALL PRIVILEGES ON test.* TO 'semon'@'%' IDENTIFIED BY 'semon';
-- 注意这里数据库名后需要加 .*，表示对数据库中的所有都授予权限，包括表名，函数等
-- % 表示任意主机，一般不写死
-- 增加 demon 账户的 CREATE 权限
GRANT CREATE ON test.* TO demon WITH GRANT OPTION;
- 查看账户权限
SHOW GRANTS FOR username;
- 刷新权限设置
-- 使用这个命令使权限生效
-- 尤其是你对那些权限表user、db、host等做了update或者delete更新的时候。
-- 如果遇到使用grant后权限没有更新的情况，只要对权限做了更改就使用FLUSH PRIVILEGES命令来刷新权限。
FLUSH PRIVILEGES;
- 回收权限
-- 需要使用实例级别账户登录后操作
-- 使用 revoke 可以将用户的权限进行撤销
REVOKE privilege1, p2 ... ON database_name FROM 'usernmae'@'hostname';
-- 示例
-- 回收 semon 账户的 CREATE 权限
REVOKE CREATE ON test.* FROM 'semon'@'%';
- 删除账户
-- 语法1：使用 root 登录
DROP USER 'username'@'hostname';
-- 语法2：使用 root 登录，操作 mysql.user 表
DELETE FROM mysql.user WHERE user = 'username';
-- 修改后需要刷新
FLUSH PRIVILEGES;
- 修改密码
-- 不需要登录
-- 一般用于自己修改自己账户的密码
mysqladmin -u username -p password 'new-password';
-- 使用实例级别账户登录，如root
-- 一般用于修改自己或别人的密码，一般是级别高的人管理其他人的密码
UPDATE mysql.user SET authentication_string = PASSWORD('new-password') WHERE user = 'username';
-- 修改完后需要刷新权限
FLUSH PRIVILEGES;
3.函数
- 函数的创建
CREATE FUNCTION function_name(paramlist) RETURNS return_type function_body
/*
1. 其中，参数列表的格式：
参数名 参数类型, 参数名 参数类型...
2. function_body
用 begin... end 包裹
3. 临时变量的声明
所谓临时变量，就是 begin..end 间的变量
delare 变量名 变量类型 [default 默认值，可选]
4. 临时变量赋值
set 变量名 = 表达式
5. 函数体中的语句用英文的 ; 隔开
但是由于 MySQL 中标志一个 SQL 语句的结束用的就是 ;
所以，在执行函数时，遇到第一个带 ; 的语句，就结束了
因此，如果想函数正常执行，需要临时修改 SQL 语句的结束标志符
DELIMITER 要修改的新的标志符
*/
-- 一个完整的函数创建的语法
DELIMITER // -- 将 SQL 语句结束符改为 //
CREATE FUNCTION function_name(p1 type1, p2 type2...) RETURNS type
BEGIN
statement1; -- 语句之间用 ; 隔开
...
RETURN result; -- 函数是一定有返回值的
END
// -- 整体函数的结束
DELIMITER ; -- 改回为 ;
- 查看函数是否创建成功
-- 函数创建之后，会存在 mysql.proc 表
-- mysql 是 database
SELECT name, type, db FROM mysql.proc [WHERE name = 'function_name'];
- 调用函数
SELECT 函数名();
- 删除函数
-- 由上面知道，函数是在 mysql.proc 表中
-- 所以如果想删除函数，也只需要在该表中进行操作即可
DELETE FROM mysql.proc WHERE name = 'function_name';
- 简单示例
-- 定义一个实现加法的函数
DELIMITER //;
-- 注意方法名不要与 mysql.proc 中内置的一些方法名重复，会报错
CREATE FUNCTION my_add(a INT, b INT) RETURNS INT
BEGIN
DECLARE res INT;
SET res = a + b;
RETURN res;
END
//
DELIMITER ;
-- 输出 0~100 中的偶数
-- 用这个例子来介绍 while 循环语句与 if 语句
DELIMITER //
CREATE FUNCTION my_printodd() RETURNS VARCHAR(500)
BEGIN
DECLARE i INT DEFAULT 0;
DECLARE res VARCHAR(500) DEFAULT '';
WHILE i < 100 DO
IF i % 2 = 0 THEN -- 注意这里判断相等，只有一个 = 号
SET res = CONCAT(res, ' ', i); -- CONCAT 是内置函数
END IF;
END WHILE;
RETURN res;
END
//
DELIMITER ;
- 使用 SELECT … INTO 定义一个函数
-- 函数中不能调用 SQL 语句，但是 SELECT INTO 除外
-- 示例
DELIMITER //
CREATE FUNCTION my_f() RETURNS INT
BEGIN
DECLARE res INT DEFAULT 0;
SELECT COUNT(*) FROM student INTO res;
RETURN res;
END
//
DELIMITER ;
4. 存储过程
- 什么是存储过程以及为什么需要存储过程
/*
1. 什么是存储过程？
存储过程是存储在数据库服务器中的一组 SQL 语句。
我们可以通过在查询中调用一个特定的名称来执行这些 SQL 语句。
2. 为什么需要存储过程？
存储过程可以简单理解为“数据库中的程序”。
它可以在不借助外部程序的情况下，让数据库自己解决一个复杂的问题，比如批量处理 SQL 语句等。
*/
- 存储过程的创建
/*
存储过程的特点：
1. 存储过程与函数很相似，但比函数更加灵活
2. 它没有返回值，只注重过程
3. 它比函数更加灵活，可以在里面使用 SQL 语句
*/
-- 通用结构：
DELIMITER //
CREATE PROCEDURE procedure_name(params)
BEGIN
BODY
END
//
DELIMITER ;
- 参数定义
/*
存储过程比函数略复杂的地方，体现在存储过程中接受的参数定义类型要比函数多。
函数中，函数的参数定义是(p1, p1_type...)
而存储过程中，参数分为三种类型：
1. IN ：表示传入类型的参数，如果不写默认就是 IN
2. OUT ：表示传出类型的参数
3. INOUT ：既能传入又能传出。一般不用，会造成语义不明确
这里其实也很好理解，因为存储过程没有 RETURN 语句，
OUT 类型的参数其实就相当于 RETURN 的作用
*/
- 临时变量定义 (BEGIN…END之间的变量)
-- 和函数中临时变量的定义相同
- 示例
-- 实现传入一个学生的 id，删除对应 id 的学生，然后返回删除后学生表的学生总人数
/*
实现分析：
1. 首先考虑用函数实现，但是删除学生，需要用到 delete 语句，所以函数不行
2. 考虑用存储过程实现，但是存储过程没有返回值
3. 可以考虑用到 out 类型的参数来实现返回数值的作用
综上，这个需求可以使用存储过程来实现
*/
-- 实现代码
DELIMITER //
CREATE PROCEDURE proc_delStuByIDAndGetCount(sid INT, OUT scount INT)
BEGIN
DELETE FROM student WHERE id = sid;
SELECT COUNT(*) FROM student INTO scount;
END
//
DELIMITER ;
- 存储过程的调用
-- 无参存储过程的调用
CALL procedure_name;
-- 如果有参数，特别是有 out 类型的参数时
-- 使用用户变量进行接受即可
-- 比如调用上述示例中的存储过程：proc_delStuByIDAndGetCount
SET @scount = 0; -- 定义一个用户变量，也可以不用定义直接传参
CALL proc_delStuByIDAndGetCount(9, @scount);
SELECT @scount;
5. 视图
- 什么是视图
/*
简单来说，视图就是对 SELECT 语句的封装。
对于复杂的查询，如果在多处使用，要想更改，就很麻烦。
这时候视图就能解决这一问题。
视图可以视为存储在数据库中一个张虚拟的表。
*/
- 视图的创建
CREATE VIEW view_name AS SELECT...
-- 创建视图，查询学生所在班级信息
CREATE VIEW v_stu_cls AS SELECT s.id AS '学号', s.name AS '姓名', c.name AS '班级名称'
FROM student AS s
JOIN class AS c ON s.class_id = c.id;
- 视图的查看
-- 查看创建的视图
SHOW TABLES; -- 由此也可以看出，视图就是一张表
-- 调用视图
SELECT * FROM v_stu_cls;
SELECT 学号 FROM v_stu_cls;
SELECT 学号 FROM v_stu_cls WHERE 学号 = 10；
- 视图的删除
DROP VIEW view_name;
- 函数、存储过程、视图的比较
- 函数是对一个方法的封装，在 MySQL 中可分为自定义函数与内置函数
- 函数中的参数只是一种类型，就是输入类型，函数必须有返回值
- 存储过程是数据库用于处理复杂 SQL 的一段程序，它可以实现一般 SQL 实现不了的程序
- 存储过程可以简单认为是 SQL 与程序代码的结合体
- 存储过程中的参数类型有三种，OUT 类型可类比于函数中的返回值，我们一般用一个用户变量来接受它
- 视图是对一个复杂 SELECT 语句的封装
- 视图可以简单的认为是一张表，一张由 SELECT 查询结果而组成的一张数据表
6. 事务
-
为什么要有事务
- 简单的转账示例，转账操作至少涉及两方，A方扣钱，B方得钱。如果扣钱方成功，而得钱方失败。这样会导致重复扣钱的问题
- 事务就是为了解决这一问题而出现的，事务将整个类似 "转账" 的操作看成是一个操作集合，对整体集合进行操作规定
-
事务的特点 (ACID)
- 原子性 (Atomicity) ：事务中的全部操作，要么全部完成 ，要么全部不做
- 一致性 (Consistency) ：几个并行执行的事务，其执行结果必须与按某一顺序串行执行结果一致
- **隔离性 (Isolation) **：一个事务不受另一事务的影响，拿转账来说，假设用户A和用户B两者的钱加起来一共是5000，那么不管A和B之间如何转账，转几次账，事务结束后两个用户的钱相加起来应该还得是5000，这就是事务的一致性。
- 持久性 (Durability) ：对于已提交事务，系统必须保证该事务对数据库的改变不被丢失，即使数据库出现故障
-
名词解释
- Commit ：事务提交，表示整个事务下的操作集全部有效
- Rollback ：事务回滚，表示整个事务下的操作集全部作废，数据将还原到操作前的状态
-
事务不隔离，在并发访问时带来的问题
- 脏读：一个事务读到了另一个事务未提交的数据。比如事务一将 A 账户的钱由100改为 500，而此时一个并发的事务二读取 A 账户的钱，这时事务二读到的数据是 500 。而事务一这时又将事务回滚，导致 A 账户钱变加 100。此时若事务二再次读取，会发现数据是 100。这样，之前读取到的 500 就是脏数据。
- 不可重复读：一个事务读取到另一个事务已经提交的数据，并且这个数据是在 UPDATE 的操作下被修改的。比如上述例子，事务二先读取 A 账户的钱，发现是 100，接着事务一将钱数进行 **UPDATE ** 成 500 并提交整个事务。此时事务二再读取时，会发现得到的结果是 500。这就出现了一个事务多次查询同一个属性却得到了不同的结果值。
- 虚读/幻读：一个事务读取到另一个事务已经提交的数据，并且这个数据是在 INSERT 的操作下被修改的。比如，事务一先读取 A 账户的钱，得到 100 ，同时将 A 账户的名称改为 B。此时事务二新增一个账户 A ，并将 A 账户的钱设置为 100 。这时当事务一再次查询时，会发现 A 账户还没有修改，产生了 '幻觉'。
- 三者的区别：总体来说，可以分为两大类问题：读未提交和读已提交。脏读是读未提交事务数据；后两者则是读已提交数据。而后两者的区别在于已提交数据是如何操作的，不可重复读是执行 UPDATE 操作，而后者是执行 INSERT 操作。
-
事务的隔离级别
- 读未提交 (read uncommitted) ：一个事务读到另一个事务没有提交的数据。上述三个问题都存在
- 读已提交 (read committed) ：一个事务在写时禁止其他事务读写，表示必须提交后的数据才能被读取
- 未解决：不可重复读、虚读/幻读
- 解决：脏读
- 可重复读 (repeatable read)：一个事务在写时禁止其他事务读写，一个事务在读时，禁止其他事务写
- 未解决：虚读/幻读
- 解决：脏读，不可重复读
- 串行化 (serializable) ：每次只能执行一个事务，上述问题全部解决。但是这种级别效率低，一般不用
-
常见的数据库事务隔离：
| 数据库 | 默认级别 |
|---|---|
| MySQL | 可重复读（Repeatable Read） |
| Oracle | 读提交（Read Committed） |
| SQLServer | 读提交（Read Committed） |
| DB2 | 读提交（Read Committed） |
| PostgreSQL | 读提交（Read Committed） |
- 事务命令
-- 在 MySQL 中，表的引擎类型必须是 innodb 类型才能使用事务， innodb 是 MySQL 默认引擎
-- 修改数据的命令会触发事务，包括 INSERT、UPDATE、DELETE
-- 开启事务：开启事务后，变更会维护到本地缓存中，而不维护到物理表中
BEGIN;
-- 提交事务
COMMIT;
-- 回滚事务
ROLLBACK;
-- 在 MySQL 中我们执行 INSERT、UPDATE、DELETE 语句后，默认是自动提交事务的
-- 这个自动提交的设置是系统变量 AUTOCOMMIT 来控制的，默认值是 1
-- 如果想要关闭可修改它的值
SET [GLOBAL] AUTOCOMMIT = 0;
-- 修改后，如果想要当前窗口(表示当前事务)做出的修改，其他窗口(表示其他事务)能看到，必须手动提交
7. 索引
- 问题引入：
-- 创建一个表 demo
CREATE TABLE demo(
id INT UNSIGNED PRIMARY KEY AUTO_INCREMENT NOT NULL,
name VARCHAR(50)
);
-- 使用存储过程来创建大量数据
DELIMITER //
CREATE PROCEDURE proc_create()
BEGIN
DECLARE i INT default 0;
WHILE i <= 100000 DO
INSERT INTO demo(name) VALUES (CONCAT('demo', i));
SET i = i + 1;
END WHILE;
END
//
DELIMITER ;
-- 调用存储过程执行插入操作
CALL proc_create();
-- 开启 SQL 运行时间监测
SET PROFILING = 1;
-- 查询 name 值为 demo10000 的数据
SELECT * FROM demo WHERE name = 'demo10000';
-- 查询执行时间
SHOW PROFILES; -- 0.02965800
-- 查询 id 值 为 10000 的数据
SELECT * FROM demo WHERE id = '10000';
-- 查询执行时间
SHOW PROFILES; -- 0.00109200
-- 执行上面语句，会发现，通过 id 查询比通过 name 查询时间要少很多。
-- 这是因为 id 是主键，有索引关联
-- 因此，如果当某个字段，经常用作查询的字段，而数据量又很大时，通常我们需要使用索引
- 索引的创建
-- 1. 如果指定字段是字符串，需要指定长度，建议长度与定义字段时的长度一致
-- 2. 如果不是字符串，可以不填写长度部分
-- 3. 语法格式如下：
-- create index 索引名称 on 表名(字符名称(长度))
-- 4. 索引的缺点：
-- 4.1 虽然它大大提高了查询速度，同时却会降低更新表的速度，如对表进行INSERT、UPDATE和DELETE，因为更新表时，MySQL不仅需要保存数据，还要保存索引文件
-- 4.2 建立索引会占用磁盘空间的索引文件
CREATE INDEX name_index ON demo(name(50));
-- 查询 name 值为 demo10000 的数据
SELECT * FROM demo WHERE name = 'demo10000';
-- 查询执行时间
SHOW PROFILES; -- 0.00082700
- 查看索引
SHOW INDEX FROM table_name;
- 删除索引
DROP INDEX index_name ON table_name;
8. 数据库的备份与恢复
- 备份
mysqldump -uroot -p database_name > url/xxx.sql;
- 恢复
mysql -uroot -p new_database_name < url/xxx.sql;
9. 执行外部的 sql 文件
-- 登录 MySQL 环境
mysql -u root -p
-- source url/xxx.sql
10. Python 与 MySQL 交互
-
Python 中操作 MySQL 步骤图解
-
安装 MySQL 模块
# 以 mac + python3 环境为例
pip install pymysql
- 代码示例
#!/usr/bin/env python
# -*- coding:utf-8 -*-
# __author : Demon
# date : 2018-02-27 14:26
from pymysql import *
def insert():
# 1. get the connection object
# host, user, password, database, port, charset
conn = NULL
cur = NULL
try:
conn = connect(host="localhost",
user="root",
# use your own password
password="123456",
# use your own database name
database="test",
port=3306,
# notice that it's 'utf8' not 'utf-8'
# if use 'utf-8' will raise error 'NoneType has no attribute encoding'
charset="utf8"
)
# 2. get the db operation object
cur = conn.cursor()
# 3. write SQL and execute the SQL
# insert_sql = "INSERT INTO demo(name) VALUES ('demo10000000')"
# cur.execute(insert_sql)
# update_sql = "UPDATE demo SET name = 'demo' WHERE id = 1"
# cur.execute(update_sql)
delete_sql = "DELETE FROM demo WHERE id = 1"
cur.execute(delete_sql)
# fetchone
# res = cur.fetchone()
# print(res)
# 4. if data has been changed in Python, we need commit by ourself
conn.commit()
except Exception as e:
print(e)
finally:
if cur:
cur.close()
if conn:
conn.close()
def select():
# 1. get the connection object
# host, user, password, database, port, charset
conn = NULL
cur = NULL
try:
conn = connect(host="localhost",
user="root",
# use your own password
password="123456",
# use your own database name
database="test",
port=3306,
# notice that it's 'utf8' not 'utf-8'
# if use 'utf-8' will raise error 'NoneType has no attribute encoding'
charset="utf8"
)
# 2. get the db operation object
cur = conn.cursor()
# 3. write SQL and execute the SQL
params = [2]
select_sql = "SELECT * FROM demo WHERE id = %s"
cur.execute(select_sql, params)
# 4. get the result by cur.fetchone() and cur.fetchall()
res = cur.fetchone() # the result type is tuple
print(res)
# fetchall() return nested tuple ((), (), ())
# SELECT need not commit
# conn.commit()
except Exception as e:
print(e)
finally:
if cur:
cur.close()
if conn:
conn.close()
if __name__ == "__main__":
# insert()
select()
11. 数据库中常见的安全问题
- SQL 的注入
-- 一个简单的 SQL 插入语句
INSERT INTO student(name) VALUES ('Demon';DROP DATABASE test;');
-- 这里的用户名实际上是 Demon';DROP DATABASE test;
-- 但是我们都知道，SQL 的结束符是 ;
-- 当遇到第一个 ; 号时，第一个语句执行结束
-- 这样就会执行到 DROP 语句，那整个数据库就会被删除掉
-- 实际这里出现问题的是因为在 name 值中，多了一个引号，只要我们加上转义字符，即可达到本身的目的
INSERT INTO student(name) VALUES ('Demon\';DROP DATABASE test;');
- 撞库
- 根据在某个站点获得的用户名和密码，去登录其他站点，从而得到更多信息
- 因为通常我们的习惯是在不同网站注册，大多会使用相同的密码
- 如果某个网站设计得不好，被人窃取密码，再用相同的密码去登录其他网站，就会很危险
- 安全建议
- 对于 SQL 注入而言，容易发生在表单提交中，因此永远不要相信用户的输入，要对用户的输入先进行正则匹配，如果有特殊字符，要进行转义
- 对于撞库，最好不同网站使用不同的密码，特别是对重要的网站。同时要定期更换自己的密码
