mysql:pt-online-schema-change 在线修改表、删除表数据【转】
pt-online-schema-change
名字:pt-online-schema-change - ALTER tables without locking them. 在线改表
下载地址:
https://www.percona.com/downloads/percona-toolkit/3.0.12/binary/redhat/6/x86_64/percona-toolkit-3.0.12-1.el6.x86_64.rpm
https://www.percona.com/doc/percona-toolkit/LATEST/pt-online-schema-change.html#downloading
官方文档:https://www.percona.com/doc/percona-toolkit/LATEST/pt-online-schema-change.html
1.首先了解一下pt-online-schema-change工作原理,其实原理很简单
1、如果存在外键,根据alter-foreign-keys-method参数的值,检测外键相关的表,做相应设置的处理。没有使用 --alter-foreign-keys-method 指定特定的值,该工具不予执行 2、创建一个新的表,表结构为修改后的数据表,用于从源数据表向新表中导入数据。 3、创建触发器,用于记录从拷贝数据开始之后,对源数据表继续进行数据修改的操作记录下来,用于数据拷贝结束后,执行这些操作,保证数据不会丢失。如果表中已经定义了触发器这个工具就不能工作了。 4、拷贝数据,从源数据表中拷贝数据到新表中。 5、修改外键相关的子表,根据修改后的数据,修改外键关联的子表。 6、rename源数据表为old表,把新表rename为源表名,并将old表删除。 7、删除触发器。
2.使用方法:
pt-online-schema-change [OPTIONS] DSN
具体说下 OPTIONS 的一些常用的参数:
复制代码
--user:
-u,连接的用户名
--password:
-p,连接的密码
--database:
-D,连接的数据库
--port
-P,连接数据库的端口
--host:
-h,连接的主机地址
--socket:
-S,连接的套接字文件
--ask-pass
隐式输入连接MySQL的密码
--charset
指定修改的字符集
--defaults-file
-F,读取配置文件
--alter:
结构变更语句,不需要alter table关键字。可以指定多个更改,用逗号分隔。如下场景,需要注意:
不能用RENAME来重命名表。
列不能通过先删除,再添加的方式进行重命名,不会将数据拷贝到新列。
如果加入的列非空而且没有默认值,则工具会失败。即其不会为你设置一个默认值,必须显示指定。
删除外键(drop foreign key constrain_name)时,需要指定名称_constraint_name,而不是原始的constraint_name。
如:CONSTRAINT `fk_foo` FOREIGN KEY (`foo_id`) REFERENCES `bar` (`foo_id`),需要指定:--alter "DROP FOREIGN KEY _fk_foo"
--alter-foreign-keys-method
如何把外键引用到新表?需要特殊处理带有外键约束的表,以保证它们可以应用到新表.当重命名表的时候,外键关系会带到重命名后的表上。
该工具有两种方法,可以自动找到子表,并修改约束关系。
auto: 在rebuild_constraints和drop_swap两种处理方式中选择一个。
rebuild_constraints:使用 ALTER TABLE语句先删除外键约束,然后再添加.如果子表很大的话,会导致长时间的阻塞。
drop_swap: 执行FOREIGN_KEY_CHECKS=0,禁止外键约束,删除原表,再重命名新表。这种方式很快,也不会产生阻塞,但是有风险:
1, 在删除原表和重命名新表的短时间内,表是不存在的,程序会返回错误。
2, 如果重命名表出现错误,也不能回滚了.因为原表已经被删除。
none: 类似"drop_swap"的处理方式,但是它不删除原表,并且外键关系会随着重命名转到老表上面。
--[no]check-alter
默认yes,语法解析。配合--dry-run 和 --print 一起运行,来检查是否有问题(change column,drop primary key)。
--max-lag
默认1s。每个chunk拷贝完成后,会查看所有复制Slave的延迟情况。要是延迟大于该值,则暂停复制数据,直到所有从的滞后小于这个值,使用Seconds_Behind_Master。如果有任何从滞后超过此选项的值,则该工具将睡眠--check-interval指定的时间,再检查。如果从被停止,将会永远等待,直到从开始同步,并且延迟小于该值。如果指定--check-slave-lag,该工具只检查该服务器的延迟,而不是所有服务器。
--check-slave-lag
指定一个从库的DSN连接地址,如果从库超过--max-lag参数设置的值,就会暂停操作。
--recursion-method
默认是show processlist,发现从的方法,也可以是host,但需要在从上指定report_host,通过show slave hosts来找到,可以指定none来不检查Slave。
METHOD USES
=========== ==================
processlist SHOW PROCESSLIST
hosts SHOW SLAVE HOSTS
dsn=DSN DSNs from a table
none Do not find slaves
指定none则表示不在乎从的延迟。
--check-interval
默认是1。--max-lag检查的睡眠时间。
--[no]check-plan
默认yes。检查查询执行计划的安全性。
--[no]check-replication-filters
默认yes。如果工具检测到服务器选项中有任何复制相关的筛选,如指定binlog_ignore_db和replicate_do_db此类。发现有这样的筛选,工具会报错且退出。因为如果更新的表Master上存在,而Slave上不存在,会导致复制的失败。使用–no-check-replication-filters选项来禁用该检查。
--[no]swap-tables
默认yes。交换原始表和新表,除非你禁止--[no]drop-old-table。
--[no]drop-triggers
默认yes,删除原表上的触发器。 --no-drop-triggers 会强制开启 --no-drop-old-table 即:不删除触发器就会强制不删除原表。
--new-table-name
复制创建新表的名称,默认%T_new。
--[no]drop-new-table
默认yes。删除新表,如果复制组织表失败。
--[no]drop-old-table
默认yes。复制数据完成重命名之后,删除原表。如果有错误则会保留原表。
--max-load
默认为Threads_running=25。每个chunk拷贝完后,会检查SHOW GLOBAL STATUS的内容,检查指标(thread)是否超过了指定的阈值。如果超过,则先暂停。这里可以用逗号分隔,指定多个条件,每个条件格式:status指标=MAX_VALUE或者status指标:MAX_VALUE。如果不指定MAX_VALUE,那么工具会指定其为当前值的120%。
--critical-load
默认为Threads_running=50。用法基本与--max-load类似,如果不指定MAX_VALUE,那么工具会指定其为当前值的200%。如果超过指定值,则工具直接退出,而不是暂停。
--default-engine
默认情况下,新的表与原始表是相同的存储引擎,所以如果原来的表使用InnoDB的,那么新表将使用InnoDB的。在涉及复制某些情况下,很可能主从的存储引擎不一样。使用该选项会默认使用默认的存储引擎。
--set-vars
设置MySQL变量,多个用逗号分割。默认该工具设置的是: wait_timeout=10000 innodb_lock_wait_timeout=1 lock_wait_timeout=60
--chunk-size-limit
当需要复制的块远大于设置的chunk-size大小,就不复制.默认值是4.0,一个没有主键或唯一索引的表,块大小就是不确定的。
--chunk-time
在chunk-time执行的时间内,动态调整chunk-size的大小,以适应服务器性能的变化,该参数设置为0,或者指定chunk-size,都可以禁止动态调整。
--chunk-size
指定块的大小,默认是1000行,可以添加k,M,G后缀.这个块的大小要尽量与--chunk-time匹配,如果明确指定这个选项,那么每个块就会指定行数的大小.
Number of rows to select for each chunk copied (default 1000),为每个拷贝块选择的行数(默认为1000)
使用该选项可动态调整块大小,通过跟踪复制率(每秒的行数),并在复制每个数据块之后调整块大小,以使复制下一个数据块执行该选项指定的时间(以秒为单位)。
如果将此选项设置为零,则块大小不会自动调整;因此复制每个数据块时间将会变化,但复制块大小不会变化。
--[no]check-plan 默认yes。为了安全,检查查询的执行计划.默认情况下,这个工具在执行查询之前会先EXPLAIN,以获取一次少量的数据,如果是不好的EXPLAIN,那么会获取一次大量的数据,这个工具会多次执行EXPALIN,如果EXPLAIN不同的结果,那么就会认为这个查询是不安全的。 --statistics 打印出内部事件的数目,可以看到复制数据插入的数目。 --dry-run 创建和修改新表,但不会创建触发器、复制数据、和替换原表。并不真正执行,可以看到生成的执行语句,了解其执行步骤与细节。--dry-run与--execute必须指定一个,二者相互排斥。和--print配合最佳。 --execute 确定修改表,则指定该参数。真正执行。--dry-run与--execute必须指定一个,二者相互排斥。 --print 打印SQL语句到标准输出。指定此选项可以让你看到该工具所执行的语句,和--dry-run配合最佳。 --progress 复制数据的时候打印进度报告,二部分组成:第一部分是百分比,第二部分是时间。 --quiet -q,不把信息标准输出。
参数说明参考
pt工具的使用(4) pt-osc的使用_pt-osc工具支持多线程并发么-CSDN博客
https://blog.csdn.net/line_on_database/article/details/107079894
技术分享 | Online DDL 工具 pt-osc_mb5ff5903ee6041的技术博客_51CTO博客
https://blog.51cto.com/u_15077536/5955826
3.安装
下载最新的pt-online-schema-change [root@18c data]# wget https://www.percona.com/downloads/percona-toolkit/3.0.12/binary/redhat/6/x86_64/percona-toolkit-3.0.12-1.el6.x86_64.rpm 安装 [root@18c data]# rpm -ivh percona-toolkit-3.0.12-1.el6.x86_64.rpm warning: percona-toolkit-3.0.12-1.el6.x86_64.rpm: Header V4 DSA/SHA1 Signature, key ID cd2efd2a: NOKEY error: Failed dependencies: perl(DBI) >= 1.13 is needed by percona-toolkit-3.0.12-1.el6.x86_64 perl(DBD::mysql) >= 1.0 is needed by percona-toolkit-3.0.12-1.el6.x86_64 perl(Time::HiRes) is needed by percona-toolkit-3.0.12-1.el6.x86_64 perl(IO::Socket::SSL) is needed by percona-toolkit-3.0.12-1.el6.x86_64 perl(Term::ReadKey) is needed by percona-toolkit-3.0.12-1.el6.x86_64 安装相关的依赖包: [root@18c data]# yum install perl-TermReadKey.x86_64 [root@18c data]# yum install perl-DBI [root@18c data]# yum install perl-DBD-MySQL [root@18c data]# yum install perl-Time-HiRes [root@18c data]# yum install perl-IO-Socket-SSL 然后再次安装 [root@18c data]# rpm -ivh percona-toolkit-3.0.12-1.el6.x86_64.rpm warning: percona-toolkit-3.0.12-1.el6.x86_64.rpm: Header V4 DSA/SHA1 Signature, key ID cd2efd2a: NOKEY Preparing... ########################################### [100%] 1:percona-toolkit ########################################### [100%]
至此软件已经安装好,下面就通过测试来了解如何使用该工具
创建测试数据
mysql> show databases; +--------------------+ | Database | +--------------------+ | information_schema | | mysql | | performance_schema | | sys | +--------------------+ 4 rows in set (0.00 sec) mysql> create database test; Query OK, 1 row affected (0.00 sec) mysql> use test; Database changed mysql> CREATE TABLE users (id int(11) NOT NULL AUTO_INCREMENT COMMENT '用户主键',name varchar(20) DEFAULT '' COMMENT '用户名',PRIMARY KEY (id)) ENGINE=InnoDB DEFAULT CHARSET=utf8 COMMENT='用户表'; Query OK, 0 rows affected (0.04 sec) mysql> insert into users(name) values('test1'),('test2'),('test3'); Query OK, 3 rows affected (0.01 sec) Records: 3 Duplicates: 0 Warnings: 0 mysql> show tables; +----------------+ | Tables_in_test | +----------------+ | users | +----------------+ 1 row in set (0.00 sec) mysql> select count(*) from users; +----------+ | count(*) | +----------+ | 3 | +----------+ 1 row in set (0.00 sec)
在正式使用之前,再次了解一下常用的几个参数:
--nocheck-replication-filters :不检查复制过滤器,建议启用。 --no-check-binlog-format : 不检查复制的binlog模式,要是binlog模式是ROW,则会报错。 --replicate-check-only :只显示不同步的信息。 --replicate= :把checksum的信息写入到指定表中,建议直接写到被检查的数据库当中。 --chunk-size=50 Number of rows to select for each chunk copied. Allowable suffixes are k, M, G.默认1000 --critical-load="Threads_running=600" 表示线程到600自动退出,默认值50 --max-load="Threads_running=100" 表示线程到100暂停pt操作,默认25 --progress=time,2 两秒打印一次日志输出
测试各种不同的场景
1.整理表碎片
sql语句:alter table table_name engine=innodb pt执行语句,以下2种都可以 (1)pt-online-schema-change --alter="engine innodb;" --execute D=test,t=users --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --socket=/tmp/mysql.sock --user=root --password=123 --charset=utf8 --progress=time,2 --chunk-size=100 (2)pt-online-schema-change --alter="engine innodb;" --execute D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --progress=time,2 --chunk-size=100 具体执行过程: [root@18c ~]# pt-online-schema-change --alter="engine innodb;" --execute D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --progress=time,2 --chunk-size=100 No slaves found. See --recursion-method if host 18c has slaves. Not checking slave lag because no slaves were found and --check-slave-lag was not specified. Operation, tries, wait: analyze_table, 10, 1 copy_rows, 10, 0.25 create_triggers, 10, 1 drop_triggers, 10, 1 swap_tables, 10, 1 update_foreign_keys, 10, 1 Altering `test`.`users`... Creating new table... Created new table test._users_new OK. Altering new table... Altered `test`.`_users_new` OK. 2018-12-06T13:28:05 Creating triggers... 2018-12-06T13:28:05 Created triggers OK. 2018-12-06T13:28:05 Copying approximately 3 rows... 2018-12-06T13:28:05 Copied rows OK. 2018-12-06T13:28:05 Analyzing new table... 2018-12-06T13:28:05 Swapping tables... 2018-12-06T13:28:05 Swapped original and new tables OK. 2018-12-06T13:28:05 Dropping old table... 2018-12-06T13:28:05 Dropped old table `test`.`_users_old` OK. 2018-12-06T13:28:05 Dropping triggers... 2018-12-06T13:28:05 Dropped triggers OK. Successfully altered `test`.`users`.
2.添加字段:
(1)添加一个字段 alter table users add age varchar(10) NOT NUll DEFAULT '' COMMENT '性别'; pt语句: pt-online-schema-change --alter="add age varchar(10) NOT NUll DEFAULT '' COMMENT '性别' ;" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 具体执行过程 [root@18c ~]# pt-online-schema-change --alter="add age varchar(10) NOT NUll DEFAULT '' COMMENT '性别' ;" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 No slaves found. See --recursion-method if host 18c has slaves. Not checking slave lag because no slaves were found and --check-slave-lag was not specified. Operation, tries, wait: analyze_table, 10, 1 copy_rows, 10, 0.25 create_triggers, 10, 1 drop_triggers, 10, 1 swap_tables, 10, 1 update_foreign_keys, 10, 1 Altering `test`.`users`... Creating new table... CREATE TABLE `test`.`_users_new` ( `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '用户主键', `name` varchar(20) DEFAULT '' COMMENT '用户名', PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='用户表' Created new table test._users_new OK. Altering new table... ALTER TABLE `test`.`_users_new` add age varchar(10) NOT NUll DEFAULT '' COMMENT 'æ�§å�«' ; Altered `test`.`_users_new` OK. 2018-12-06T13:36:55 Creating triggers... 2018-12-06T13:36:55 Created triggers OK. 2018-12-06T13:36:55 Copying approximately 3 rows... INSERT LOW_PRIORITY IGNORE INTO `test`.`_users_new` (`id`, `name`) SELECT `id`, `name` FROM `test`.`users` LOCK IN SHARE MODE /*pt-online-schema-change 17461 copy table*/ 2018-12-06T13:36:55 Copied rows OK. 2018-12-06T13:36:55 Analyzing new table... 2018-12-06T13:36:55 Swapping tables... RENAME TABLE `test`.`users` TO `test`.`_users_old`, `test`.`_users_new` TO `test`.`users` 2018-12-06T13:36:55 Swapped original and new tables OK. 2018-12-06T13:36:55 Dropping old table... DROP TABLE IF EXISTS `test`.`_users_old` 2018-12-06T13:36:55 Dropped old table `test`.`_users_old` OK. 2018-12-06T13:36:55 Dropping triggers... DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_del` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_upd` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_ins` 2018-12-06T13:36:55 Dropped triggers OK. Successfully altered `test`.`users`. (2)添加2个或多个字段 sql语句:alter table users add column address varchar(100) default '' comment='地址' after age,add column telephone int default 0 comment='手机号码'; pt语句:pt-online-schema-change --alter="add column address varchar(100) default '' comment '地址' after age,add column telephone int default 0 comment '手机号码' after address ;" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 具体执行过程: [root@18c ~]# pt-online-schema-change --alter="add column address varchar(100) default '' comment '地址' after age,add column telephone int default 0 comment '手机号码' after address ;" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 No slaves found. See --recursion-method if host 18c has slaves. Not checking slave lag because no slaves were found and --check-slave-lag was not specified. Operation, tries, wait: analyze_table, 10, 1 copy_rows, 10, 0.25 create_triggers, 10, 1 drop_triggers, 10, 1 swap_tables, 10, 1 update_foreign_keys, 10, 1 Altering `test`.`users`... Creating new table... CREATE TABLE `test`.`_users_new` ( `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '用户主键', `name` varchar(20) DEFAULT '' COMMENT '用户名', `age` varchar(10) NOT NULL DEFAULT '' COMMENT '性别', PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='用户表' Created new table test._users_new OK. Altering new table... ALTER TABLE `test`.`_users_new` add column address varchar(100) default '' comment 'å�°å��' after age,add column telephone int default 0 comment 'æ��æ�ºå�·ç �' after address ; Altered `test`.`_users_new` OK. 2018-12-06T14:02:40 Creating triggers... 2018-12-06T14:02:40 Created triggers OK. 2018-12-06T14:02:40 Copying approximately 3 rows... INSERT LOW_PRIORITY IGNORE INTO `test`.`_users_new` (`id`, `name`, `age`) SELECT `id`, `name`, `age` FROM `test`.`users` LOCK IN SHARE MODE /*pt-online-schema-change 17584 copy table*/ 2018-12-06T14:02:40 Copied rows OK. 2018-12-06T14:02:40 Analyzing new table... 2018-12-06T14:02:40 Swapping tables... RENAME TABLE `test`.`users` TO `test`.`_users_old`, `test`.`_users_new` TO `test`.`users` 2018-12-06T14:02:40 Swapped original and new tables OK. 2018-12-06T14:02:40 Dropping old table... DROP TABLE IF EXISTS `test`.`_users_old` 2018-12-06T14:02:40 Dropped old table `test`.`_users_old` OK. 2018-12-06T14:02:40 Dropping triggers... DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_del` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_upd` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_ins` 2018-12-06T14:02:40 Dropped triggers OK. Successfully altered `test`.`users`.
3.修改字段
sql语句:alter table users modify column address varchar(200) default '' comment '家庭住址'; pt语句: pt-online-schema-change --alter="modify column address varchar(200) default '' comment '家庭住址';" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 具体执行过程: [root@18c ~]# pt-online-schema-change --alter="modify column address varchar(200) default '' comment '家庭住址';" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 No slaves found. See --recursion-method if host 18c has slaves. Not checking slave lag because no slaves were found and --check-slave-lag was not specified. Operation, tries, wait: analyze_table, 10, 1 copy_rows, 10, 0.25 create_triggers, 10, 1 drop_triggers, 10, 1 swap_tables, 10, 1 update_foreign_keys, 10, 1 Altering `test`.`users`... Creating new table... CREATE TABLE `test`.`_users_new` ( `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '用户主键', `name` varchar(20) DEFAULT '' COMMENT '用户名', `age` varchar(10) NOT NULL DEFAULT '' COMMENT '性别', `address` varchar(100) DEFAULT '' COMMENT '地址', `telephone` int(11) DEFAULT '0' COMMENT '手机号码', PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='用户表' Created new table test._users_new OK. Altering new table... ALTER TABLE `test`.`_users_new` modify column address varchar(200) default '' comment '家åºä½�å��'; Altered `test`.`_users_new` OK. 2018-12-06T14:08:57 Creating triggers... 2018-12-06T14:08:57 Created triggers OK. 2018-12-06T14:08:57 Copying approximately 3 rows... INSERT LOW_PRIORITY IGNORE INTO `test`.`_users_new` (`id`, `name`, `age`, `address`, `telephone`) SELECT `id`, `name`, `age`, `address`, `telephone` FROM `test`.`users` LOCK IN SHARE MODE /*pt-online-schema-change 17607 copy table*/ 2018-12-06T14:08:57 Copied rows OK. 2018-12-06T14:08:57 Analyzing new table... 2018-12-06T14:08:57 Swapping tables... RENAME TABLE `test`.`users` TO `test`.`_users_old`, `test`.`_users_new` TO `test`.`users` 2018-12-06T14:08:57 Swapped original and new tables OK. 2018-12-06T14:08:57 Dropping old table... DROP TABLE IF EXISTS `test`.`_users_old` 2018-12-06T14:08:57 Dropped old table `test`.`_users_old` OK. 2018-12-06T14:08:57 Dropping triggers... DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_del` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_upd` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_ins` 2018-12-06T14:08:57 Dropped triggers OK. Successfully altered `test`.`users`.
4.添加索引
sql语句:alter table users add index index_age(age); pt语句:pt-online-schema-change --alter="add index index_age(age);" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 具体执行过程: [root@18c ~]# pt-online-schema-change --alter="add index index_age(age);" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 No slaves found. See --recursion-method if host 18c has slaves. Not checking slave lag because no slaves were found and --check-slave-lag was not specified. Operation, tries, wait: analyze_table, 10, 1 copy_rows, 10, 0.25 create_triggers, 10, 1 drop_triggers, 10, 1 swap_tables, 10, 1 update_foreign_keys, 10, 1 Altering `test`.`users`... Creating new table... CREATE TABLE `test`.`_users_new` ( `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '用户主键', `name` varchar(20) DEFAULT '' COMMENT '用户名', `age` varchar(10) NOT NULL DEFAULT '' COMMENT '性别', `address` varchar(200) DEFAULT '' COMMENT '家庭住址', `telephone` int(11) DEFAULT '0' COMMENT '手机号码', PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='用户表' Created new table test._users_new OK. Altering new table... ALTER TABLE `test`.`_users_new` add index index_age(age); Altered `test`.`_users_new` OK. 2018-12-06T14:11:39 Creating triggers... 2018-12-06T14:11:39 Created triggers OK. 2018-12-06T14:11:39 Copying approximately 3 rows... INSERT LOW_PRIORITY IGNORE INTO `test`.`_users_new` (`id`, `name`, `age`, `address`, `telephone`) SELECT `id`, `name`, `age`, `address`, `telephone` FROM `test`.`users` LOCK IN SHARE MODE /*pt-online-schema-change 17622 copy table*/ 2018-12-06T14:11:39 Copied rows OK. 2018-12-06T14:11:39 Analyzing new table... 2018-12-06T14:11:39 Swapping tables... RENAME TABLE `test`.`users` TO `test`.`_users_old`, `test`.`_users_new` TO `test`.`users` 2018-12-06T14:11:39 Swapped original and new tables OK. 2018-12-06T14:11:39 Dropping old table... DROP TABLE IF EXISTS `test`.`_users_old` 2018-12-06T14:11:39 Dropped old table `test`.`_users_old` OK. 2018-12-06T14:11:39 Dropping triggers... DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_del` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_upd` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_ins` 2018-12-06T14:11:39 Dropped triggers OK. Successfully altered `test`.`users`.
5.删除索引
sql语句:alter table users drop index index_age; pt语句: pt-online-schema-change --alter="drop index index_age;" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 具体执行过程: [root@18c ~]# pt-online-schema-change --alter="drop index index_age;" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 No slaves found. See --recursion-method if host 18c has slaves. Not checking slave lag because no slaves were found and --check-slave-lag was not specified. Operation, tries, wait: analyze_table, 10, 1 copy_rows, 10, 0.25 create_triggers, 10, 1 drop_triggers, 10, 1 swap_tables, 10, 1 update_foreign_keys, 10, 1 Altering `test`.`users`... Creating new table... CREATE TABLE `test`.`_users_new` ( `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '用户主键', `name` varchar(20) DEFAULT '' COMMENT '用户名', `age` varchar(10) NOT NULL DEFAULT '' COMMENT '性别', `address` varchar(200) DEFAULT '' COMMENT '家庭住址', `telephone` int(11) DEFAULT '0' COMMENT '手机号码', PRIMARY KEY (`id`), KEY `index_age` (`age`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='用户表' Created new table test._users_new OK. Altering new table... ALTER TABLE `test`.`_users_new` drop index index_age; Altered `test`.`_users_new` OK. 2018-12-06T14:13:25 Creating triggers... 2018-12-06T14:13:25 Created triggers OK. 2018-12-06T14:13:25 Copying approximately 3 rows... INSERT LOW_PRIORITY IGNORE INTO `test`.`_users_new` (`id`, `name`, `age`, `address`, `telephone`) SELECT `id`, `name`, `age`, `address`, `telephone` FROM `test`.`users` LOCK IN SHARE MODE /*pt-online-schema-change 17629 copy table*/ 2018-12-06T14:13:25 Copied rows OK. 2018-12-06T14:13:25 Analyzing new table... 2018-12-06T14:13:25 Swapping tables... RENAME TABLE `test`.`users` TO `test`.`_users_old`, `test`.`_users_new` TO `test`.`users` 2018-12-06T14:13:25 Swapped original and new tables OK. 2018-12-06T14:13:25 Dropping old table... DROP TABLE IF EXISTS `test`.`_users_old` 2018-12-06T14:13:25 Dropped old table `test`.`_users_old` OK. 2018-12-06T14:13:25 Dropping triggers... DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_del` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_upd` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_ins` 2018-12-06T14:13:25 Dropped triggers OK. Successfully altered `test`.`users`.
6.修改自增ID
sql语句:alter table users modify column id bigint not null auto_increment; pt语句: pt-online-schema-change --alter="modify column id bigint not null auto_increment;" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 具体执行过程: [root@18c ~]# pt-online-schema-change --alter="modify column id bigint not null auto_increment;" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 No slaves found. See --recursion-method if host 18c has slaves. Not checking slave lag because no slaves were found and --check-slave-lag was not specified. Operation, tries, wait: analyze_table, 10, 1 copy_rows, 10, 0.25 create_triggers, 10, 1 drop_triggers, 10, 1 swap_tables, 10, 1 update_foreign_keys, 10, 1 Altering `test`.`users`... Creating new table... CREATE TABLE `test`.`_users_new` ( `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '用户主键', `name` varchar(20) DEFAULT '' COMMENT '用户名', `age` varchar(10) NOT NULL DEFAULT '' COMMENT '性别', `address` varchar(200) DEFAULT '' COMMENT '家庭住址', `telephone` int(11) DEFAULT '0' COMMENT '手机号码', PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='用户表' Created new table test._users_new OK. Altering new table... ALTER TABLE `test`.`_users_new` modify column id bigint not null auto_increment; Altered `test`.`_users_new` OK. 2018-12-06T14:17:35 Creating triggers... 2018-12-06T14:17:35 Created triggers OK. 2018-12-06T14:17:35 Copying approximately 3 rows... INSERT LOW_PRIORITY IGNORE INTO `test`.`_users_new` (`id`, `name`, `age`, `address`, `telephone`) SELECT `id`, `name`, `age`, `address`, `telephone` FROM `test`.`users` LOCK IN SHARE MODE /*pt-online-schema-change 17643 copy table*/ 2018-12-06T14:17:35 Copied rows OK. 2018-12-06T14:17:35 Analyzing new table... 2018-12-06T14:17:35 Swapping tables... RENAME TABLE `test`.`users` TO `test`.`_users_old`, `test`.`_users_new` TO `test`.`users` 2018-12-06T14:17:35 Swapped original and new tables OK. 2018-12-06T14:17:35 Dropping old table... DROP TABLE IF EXISTS `test`.`_users_old` 2018-12-06T14:17:35 Dropped old table `test`.`_users_old` OK. 2018-12-06T14:17:35 Dropping triggers... DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_del` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_upd` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_ins` 2018-12-06T14:17:35 Dropped triggers OK. Successfully altered `test`.`users`.
7.修改列名,并添加索引
sql语句:alter table test change column age ages varchar(5) default '' comment '性别新' after address,add index index_ages(ages); pt语句:pt-online-schema-change --alter="change column age ages varchar(5) after address,add index index_ages(ages);" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 --no-check-alter 具体执行过程: [root@18c ~]# pt-online-schema-change --alter="change column age ages varchar(5) after address,add index index_ages(ages);" --execute --print --max-lag=5 D=test,t=users,u=root,p=123,S=/tmp/mysql.sock --no-check-replication-filters --max-load="Threads_running=100" --critical-load="Threads_running=120" --charset=utf8 --chunk-size=100 --no-check-alter No slaves found. See --recursion-method if host 18c has slaves. Not checking slave lag because no slaves were found and --check-slave-lag was not specified. Operation, tries, wait: analyze_table, 10, 1 copy_rows, 10, 0.25 create_triggers, 10, 1 drop_triggers, 10, 1 swap_tables, 10, 1 update_foreign_keys, 10, 1 Altering `test`.`users`... Renaming columns: age to ages Creating new table... CREATE TABLE `test`.`_users_new` ( `id` bigint(20) NOT NULL AUTO_INCREMENT, `name` varchar(20) DEFAULT '' COMMENT '用户名', `age` varchar(10) NOT NULL DEFAULT '' COMMENT '性别', `address` varchar(200) DEFAULT '' COMMENT '家庭住址', `telephone` int(11) DEFAULT '0' COMMENT '手机号码', PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='用户表' Created new table test._users_new OK. Altering new table... ALTER TABLE `test`.`_users_new` change column age ages varchar(5) after address,add index index_ages(ages); Altered `test`.`_users_new` OK. 2018-12-06T14:55:27 Creating triggers... 2018-12-06T14:55:27 Created triggers OK. 2018-12-06T14:55:27 Copying approximately 3 rows... INSERT LOW_PRIORITY IGNORE INTO `test`.`_users_new` (`id`, `name`, `ages`, `address`, `telephone`) SELECT `id`, `name`, `age`, `address`, `telephone` FROM `test`.`users` LOCK IN SHARE MODE /*pt-online-schema-change 17822 copy table*/ 2018-12-06T14:55:27 Copied rows OK. 2018-12-06T14:55:27 Analyzing new table... 2018-12-06T14:55:27 Swapping tables... RENAME TABLE `test`.`users` TO `test`.`_users_old`, `test`.`_users_new` TO `test`.`users` 2018-12-06T14:55:27 Swapped original and new tables OK. 2018-12-06T14:55:27 Dropping old table... DROP TABLE IF EXISTS `test`.`_users_old` 2018-12-06T14:55:27 Dropped old table `test`.`_users_old` OK. 2018-12-06T14:55:27 Dropping triggers... DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_del` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_upd` DROP TRIGGER IF EXISTS `test`.`pt_osc_test_users_ins` 2018-12-06T14:55:27 Dropped triggers OK. Successfully altered `test`.`users`.
上面做了这么多的操作,现在来看看测试表已经变成啥模样了
mysql> show create table users; +-------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ | Table | Create Table | +-------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ | users | CREATE TABLE `users` ( `id` bigint(20) NOT NULL AUTO_INCREMENT, `name` varchar(20) DEFAULT '' COMMENT '用户名', `address` varchar(200) DEFAULT '' COMMENT '家庭住址', `ages` varchar(5) DEFAULT NULL, `telephone` int(11) DEFAULT '0' COMMENT '手机号码', PRIMARY KEY (`id`), KEY `index_ages` (`ages`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT='用户表' | +-------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ 1 row in set (0.00 sec)
转自
(3条消息)mysql:pt-online-schema-change 在线修改表_雨花石-CSDN博客_pt-online-schema-change https://blog.csdn.net/shiyu1157758655/article/details/84854513
参考
(3条消息)案例 - optimize table 的一些坑_weixin_34248023的博客-CSDN博客_optimize table https://blog.csdn.net/weixin_34248023/article/details/91617531
(3条消息)[mysql]清除单表大量数据方法(需保留部分数据)_yyongsheng的博客-CSDN博客_mysql truncate清除部分数据 https://blog.csdn.net/yyongsheng/article/details/82938683
MySQL大表删除工具pt-osc - 云+社区 - 腾讯云 https://cloud.tencent.com/developer/article/1533722
PT-OSC在线DDL变更工具使用攻略 - MySQL数据库技术栈的个人空间 - OSCHINA https://my.oschina.net/u/3678773/blog/4467882
(3条消息)mysql 案例~关于pt-osc工具的用途_weixin_34212189的博客-CSDN博客_mysql ptosc 工具 https://blog.csdn.net/weixin_34212189/article/details/93262658
pt-osc原理 - 茁壮的小草 - 博客园 https://www.cnblogs.com/mysql-dba/p/9901632.html