导数中的最小化日志记录：测试和分析

测试和分析

依据上文件最小化日志的判断逻辑，对常见的BULK INSERT和INSERT INTO...SELECT做测试和分析

  创建测试环境和基准

--创建表tb_source并插入10000条数据

use master

go

create database test;

alter database test set recovery bulk_logged with no_wait;

go

use test

go

create table tb_source (id int,val char(100));

insert into tb_source

select top(10000) ROW_NUMBER() over (order by sysdatetime()),'HeHe' from master..spt_values a,master..spt_values b

go

  创建基准表tb_benchmark，将tb_source的数据导出到文件，再导入到基准表。然后获取最小化日志的统计做为测试基准。

create table tb_benchmark (id int,val char(100));

/**

CMD中导出数据：

C:\Users\Administrator>bcp test.dbo.tb_source out D:\ss\source.csv -S. -T -c

**/

--导入数据并并统计日志

create table tb_benchmark (id int,val char(100));

bulk insert tb_benchmark

from 'd:\ss\source.csv'

with (tablock) ;

SELECT COUNT(*)AS numrecords,

  CAST((COALESCE(SUM([Log Record LENGTH]), 0))

    / 1024. / 1024. AS NUMERIC(12, 2)) AS size_mb

FROM sys.fn_dblog(NULL, NULL) AS D

WHERE AllocUnitName = 'dbo.tb_benchmark' OR AllocUnitName LIKE 'dbo.tb_benchmark.%';

SELECT Operation, Context,

  AVG([Log Record LENGTH]) AS AvgLen, COUNT(*) AS Cnt

FROM sys.fn_dblog(NULL, NULL) AS D

WHERE AllocUnitName = 'dbo.tb_benchmark' OR AllocUnitName LIKE 'dbo.tb_benchmark.%'

GROUP BY Operation, Context, ROUND([Log Record LENGTH], -2)

ORDER BY AvgLen, Operation, Context;

 

从结果可以看出插入10000行，只产生了170条日志。没有大于行大小(>104)的日志记录。确定是最小化日志记录。

1.bulk insert非空堆表

  前面的基准测试可以看到空堆表的insert，最小化日志记录成功。非空的话，向基准表再导入一次数据。

从结果看，最小日志也是成立的。

2. bulk insert空聚集表

create table tb_btree1 (id int ,val char(100))

create clustered index cix_tb_btree1

on  tb_btree1 (id)

go

bulk insert tb_btree1

from 'd:\ss\source.csv'

with (tablock)

 

这个最小化也是成立的，日志记录多于空堆表的情况。

使用TF-610，而不使用tablock：

create table tb_btree2 (id int ,val char(100))

create clustered index cix_tb_btree2

on  tb_btree2 (id)

go

dbcc traceon(610)

bulk insert tb_btree2

from 'd:\ss\source.csv'

 

这种情况下不并完全是最小化日志记录。从测试来看空聚集索引使用tablock产生的日志量会更少一些。这里为什么会有71行插入是完整日志记录的呢？一个表至少有一个数据页，向已有的数据页上插入行是完整日志记录，新分配的页是最小日志记录。至于为什么是71行，下面3.非空聚集表中一起分析。

3. bulk insert非空聚集表

  先创建表tb_btree,然后向其中插入60条记录。观察完整日志记录的情况。

create table tb_btree (id int ,val char(100))

create clustered index cix_tb_btree

on  tb_btree (id)

go

declare @i int=0

while @i<60

begin

set @i=@i+1

insert into tb_btree values(@i,'HaHa')

end

 

插入60条记录，有64条日志记录。聚集索引日志60条，平均长度212(大于104)。

然后再向tb_tree中插入数据，对比日志情况。注意：导入数据我是从ID=61开始导入的。因为原表中有ID=[1,60]的行了，如果导入数据重复，会发生行移动和页拆分等操作，这样就会增加很多额外的日志，不便分析。

dbcc traceon(610)

bulk insert tb_btree

from 'd:\ss\source.csv'

with (ORDER(ID),FIRSTROW=61)

 

与前面对比，可以看出新插入9960行数据，只新增了913条日志。有意思的是，索引叶级页插入(LOP_INSERT_ROWS&LCX_CLUSTERED)增加了11条，这11条是完整日志记录的，其它行插入是最小化日志插入的。

这是为什么呢？

  这是因为原来tb_btree中只有一个数据页，且只存放了60行数据。而这个数据页上最多只能存放71行数据。也就是，在已经存在的数据页中插入数据是完整日志记录的，新分配的数据页插入数据是最小化日志记录的。

为什么最多只能存放71条数据？

  直接通过DBCC PAGE查看对应数据页最直观。或者通过理论来计算：

  通过dbcc showcontig ('tb_btree') with tableresults得到行大小为111。假设页上可以存N行数据，

  则：页头+偏移矩阵+行容量<=8KB-->96+2*N+111*N<=8192-->N<=71.65-->N=71

4. INSERT INTO...WITH(TABLOCK)...SELECT，向堆表中插入数据

--空堆表的情况，确认是最小化日志。

create table tb_heap1 (id int ,val char(100)) ;

INSERT INTO tb_heap1 with(tablock) select * from tb_source;

 

--非空堆表，将上面的数据再插入一遍即可。确认是最小化日志。

INSERT INTO tb_heap1 with(tablock) select * from tb_source;

 

5. INSERT INTO...SELECT...ODER BY(...)，向聚集表中插入数据

--空的聚集表

create  table tb_cix (id int ,val char(100))

create clustered index cix_tb_cix

on  tb_cix (id)

go

dbcc traceon(610)

insert into tb_cix select * from tb_source order by id

 

同样，已有的数据页上是完整日志记录，其它是最小化日志记录。

--非空聚集表

--先插入70行数据，是完整日志记录的。

create  table tb_cix2 (id int ,val char(100))

create clustered index cix_tb_cix2

on  tb_cix2 (id)

go

declare @i int=0

while @i<70

begin

set @i=@i+1;

insert into tb_cix2 values(@i,'HoHo')

end

 

--再从tb_source插入ID>70的9930行

dbcc traceon(610)

insert into tb_cix2 select * from tb_source where id>70 order by id

 

可以看到只新了一条完整日志的记录，其它是最小化日志记录的。

6. INSERT INTO...SELECT...ODER BY(...)，并行导入聚集表

前文提到SQL 2008之后结合键范围锁，不会锁定整个表，只锁定某部分的键值区间，其它操作可以并行访问此区间外的数据。

这里我打开三个session,同时插入三个区间的数据[1,1000],[3000,5000],[7000,9000]

create  table tb_cix3 (id int ,val char(100))

create clustered index cix_tb_cix3

on  tb_cix3 (id)

go

--session 1

dbcc traceon(610)

insert into tb_cix3 select * from tb_source where id between 1 and 1000 order by id

--session 2

dbcc traceon(610)

insert into tb_cix3 select * from tb_source where id between 3000 and 5000 order by id

option (querytraceon 2332)

--session 3

dbcc traceon(610)

insert into tb_cix3 select * from tb_source where id between 7000 and 9000 order by id

option (querytraceon 2332)

 

并行导入最好用ETL工具实现，特别是数据排序这一步。我在测试时，踩到一个坑：

当第一个insert 完成后，其它的insert的oder by会失效，造成无法最小化日志。除了第一个被执行的insert外，其它的执行计划中不会有SORT操作符。只好使用TF-2332，强制数据修改操作进行排序，也就是querytraceon 2332。还有就是数据量太少，都是瞬间完成，不好控制并发。

7. 在SSIS实际导数中的一个应用简单例子

  这是实际项目中导数Destination的设置。一个聚集表导到另一个聚集表，实现了最小化日志。目标实例启用了TF-610，FastLoadOptions设置为根据目标表聚集索引键进行排序。