Introdution
concept drift在机器学习、时间序列以及模式识别领域的一种现象。如果是在机器学习领域中,这个概念指的就是一个模型要去预测的一个目标变量,概念漂移就是这个目标变量随着时间的推移发生改变。概念漂移在很多领域都具有很重要的意义,例如对金融衍生品价格预测、动态控制等。
Data stream
目前有很多广泛存在的数据,像金融数据、交通数据等,这类数据不同于传统的static data(静态数据),而是作为一种数据量大、实时性强的data stream(流式数据)而存在。流式数据分为稳定的数据流和动态的数据流,稳定的数据流具有稳定独立同分布的特点,而动态数据流则是不独立同分布的,所以会产生概念漂移的现象。
Concept drift
概念漂移可以从很多角度进行划分,其中一种是按照变化的速度来进行划分的。在 [1] 中将概念漂移划分为sudden、incremental、gradual、recurring、blip、noise。
sudden指的是迅速同时又不可逆的改变,强调的是发生的迅速。
incremental和gradual都是强调改变发生的缓慢,incremental强调值的随时间改变,gradual则是数据分布的改变。也有些研究者将这两种变化划分为同一类,用incremental gradual这个术语来代替。
recurring则是一种temporary(临时性)的改变,在一段短时间内会恢复之前的状态。所以也有些研究者将其称为local drift,它不具有周期性,是在不规则的时间间隔内反复转换。
blip是代表一种很稀少的事件,它可以被视为一种anomaly或者outlier(异常)。
noise是一种随机的改变,通常这种数据会从样本数据中filter out。
Several Drift Detectors
DDM(Drift Detection Method)
EDDM(Early Drift Detection Method)
DDD(Diversity for Dealing with Drifts) Ensemble with different diversity
Hoeffding trees
Ensemble Learnings
[1]、A Review on Real Time Data Stream Classification and Adapting To Various Concept Drift Scenarios
[2]、DDD: A new ensemble approach for dealing with concept drift