不同数据源特征及对应的增量数据捕获策略(转)
CDC的引入
通常在数据量较少的情况下，我们从一个数据源将全部数据加载到目标数据库的时候可以采取的策略可以是：先将目标数据库的数据全部清空掉，然后全部重新从数据源加载进来。这是一个最简单并且最直观的并且不容易出错的一种解决方案，但是在很多时候会带来性能上的问题。
如果我们的数据源来自于不同的业务系统，数据动辄百万，千万甚至亿级计算。第一次需要全部加载，如果在第二次周期或者第三次周期的时候仍然全部加载的话，耗费了极大的物理和时间资源。有可能部分数据源并未发生变化，而有的数据源可能只是增加了少量的数据。
我们要考虑的问题是，对于已经存在目标数据库中的数据都是历史数据，对于数据源中的数据我们只应该考虑新修改的记录和新插入的记录，只应该考虑这两种数据。所以增量处理实质上就是处理变化的数据。
不同数据源特征及对应的处理方式
增量加载的处理策略不是一成不变的，采取哪一种加载策略跟数据源的设计有很大的关系。良好的数据源设计可能直接就给后续的增量处理提供了最直接的判断依据，比如自增长列，时间日期戳等。还有的数据源设计可能加入了触发器，在数据新增，修改或者删除的过程中就做出了有效的日志记录。或者加入了一些审核表，在数据的增删改过程中记录并跟踪了数据的操作细节。
下面我们一起看看针对不同数据源设计，如何实现增量数据的检测和抽取。
第一类 - 具有时间戳或者自增长列的绝对历史数据表
这张表能够代表一部分数据源的特征 - 绝对历史事实数据。它指的是表中的数据是不可逆的，只有插入操作没有删除或者修改操作，表示在过去一段时间内完成的事实业务数据。比如这张表表示的某些产品的下载信息，用户什么时候下载了产品就会在数据库中记录一条数据。
这种数据表一般会提供一列能够记载这条记录生成的历史时间，或者说这个操作发生的时间，越早的操作时间越靠前，越晚的操作时间越靠后。
那么对于这类表的增量处理策略就是：
- 第一次加载动作完成之后，记录一下最大的时间点，保存到一个加载记录表中。
- 从第二次加载开始先比较上次操作保存的最后/最大的时间点，只加载这个时间点以后的数据。
- 当加载过程全部成功完成之后再更新加载记录表，更新这次最后的时间点。
另外，如果这类表有自增长列的话，那么也可以使用自增长列来实现这个标识特征。
第二类 - 有修改时间特征的数据表
这类表中的数据一般属于可以修改带有维护性质的数据，比如像会员信息表，创建会员的时候会生成一条记录，会在 CreateDate 标记一下，并且在 UpdateDate 中保存的也是 CreateDate 的值。当 CreateDate 和 UpdateDate 相同的时候说明这一条数据是插入操作，但是这个会员的信息是可以被编辑和修改的，于是每次更新的同时也更新了 UpdateDate 时间戳。
假设上面的这几条数据在第一次加载到目标数据库后，源表新加入了一条会员记录并同时修改了一条会员的信息。
那么像这种情况下增量数据处理的策略就可以是：
- 第一次加载动作完成以后，记录一下最大的 UpdateDate 时间戳，保存到一个加载记录表中。(第一次是 2010-10-23)
- 在第二次加载数据的时候，用加载记录表中的时间戳与源表里的 UpdateDate 相比较，比时间戳大的说明是新添加的或者修改的数据。(大于 2010-10-23 的是第一条 Update 的数据和第四条新增的数据)
- 当整个加载过程成功之后，更新最大的 UpdateDate到记录表中。(记录表中将 2010-10-26 记录下来)
但是要注意的是，不是每一个带有修改时间特征的数据表都会这么设计，有可能在插入数据的时候只会放入 CreateDate 但是并不会写入 UpdateDate。这样的话，在每次加载的过程中可能就需要同时比较 CreateDate 和 UpdateDate 了。
第三类 - 关联编辑信息的无时间特征数据表
这类表本身没有任何可以标识的自增长 ID 或者时间戳，只保留基本信息，所有的编辑操作等信息专门有一张表来记录。这样的设计可以是为了单独记载所有的编辑历史信息，但是同时又保留了主要信息的独立性，在查询主表的时候查询体积变小提供查询效率。类似于这样的设计可以参照第一类和第二类的设计方案，在这个示例中多出的就是要关联 Member Audit History 表并进行时间戳或者自增长ID 的判断。
那么对于前三类数据表，它们可以共同使用一个加载记录表来记录它们上一次的时间戳或者自增 ID。
对于 Table A -
SELECT 列1, 列2 FROM Table_A WHERE ID > (SELECT LastSeqID FROM SourceLoadingAudit WHERE SourceTable = 'Table_A ')
对于 Table C -
SELECT 列1, 列2 FROM Table_C WHERE UpdateDate > (SELECT LastModifiedDate FROM SourceLoadingAudit WHERE SourceTable = 'Table_C')
第四类 - 无特征数据表
基于唯一列的数据对比。
很简单的概念 - 即每次加载数据源中的数据时，基于主键或者唯一列到目标表中查询是否存在，如果不存在就插入。如果存在就比较关键列数据是否相等，不相等就修改。
总结
增量数据加载的策略与数据源有莫大的关系，也与实际需求有莫大关系，因此在设计增量数据加载的过程中需要围绕实际需求以及数据源能够提供的增量变化特征仔细思考，甚至反复测试来达到加载机制的稳定和可靠性。
原文：
