小白学数据分析之关联分析算法篇Apriori

早些时候写过关于购物篮分析的文章，其中提到了C5.0和Apriori算法，没有仔细说说这算法的含义，昨天写了一下关联分析的理论部分，今天说说关联分析算法之一的Apriori算法，很多时候大家都说，数据分析师更多的是会用就可以了，不必纠结于那些长篇累牍的理论，其实我觉得还是有点必要的，你未必要去设计算法，但是如果你掌握和熟知一个算法，这对于你如何驾驭和使用这个算法是很有帮助的，此外每个算法都有使用的局限性，比如空间和时间复杂度，使用条件约束。最典型的就是我们难道一份原始数据，然后经过数据处理要进行算法模拟分析，但是此时你会出现一个问题，我需要处理哪些数据，如何处理？而这就需要你对你所使用的算法必须熟悉，比如能够操作的数据格式，类型。比如GRI算法要求使用的数据必须是事实表的方式存储，这样的算法特点必须建立在对于算法的了解把握层次上。

Apriori算法

其名字是因为算法基于先验知识(prior knowledge).根据前一次找到的频繁项来生成本次的频繁项。Apriori是关联分析中核心的算法。

Apriori算法的特点

只能处理分类变量，无法处理数值型变量；

数据存储可以是交易数据格式（事务表），或者是事实表方式（表格数据）；

算法核心在于提升关联规则产生的效率而设计的。

Apriori的思想

正如我们之前所提到的，我们希望置信度和支持度要满足我们的阈值范围才算是有效的规则，实际过程中我们往往会面临大量的数据，如果只是简单的搜索，会出现很多的规则，相当大的一部分是无效的规则，效率很低，那么Apriori就是通过产生频繁项集，然后再依据频繁项集产生规则，进而提升效率。

以上所说的代表了Apriori算法的两个步骤：产生频繁项集和依据频繁项集产生规则。

那么什么是频繁项集？

频繁项集就是对包含项目A的项目集C，其支持度大于等于指定的支持度，则C（A）为频繁项集，包含一个项目的频繁项集称为频繁1-项集，即L1。

为什么确定频繁项集？

刚才说了，必须支持度大于我们指定的支持度，这也就是说能够确定后面生成的规则是在普遍代表性上的项目集生成的，因为支持度本身的高低就代表了我们关联分析结果是否具有普遍性。

怎么寻找频繁项集？

这里不再讲述，直接说一个例子大家就都明白了。例子来源于Fast Algorithms for Mining Association Rules

Apriori寻找频繁项集的过程是一个不断迭代的过程，每次都是两个步骤，产生候选集Ck（可能成为频繁项集的项目组合）；基于候选集Ck计算支持度，确定Lk。

Apriori的寻找策略就是从包含少量的项目开始逐渐向多个项目的项目集搜索。

数据如下：

我们看到，数据库存储的数据格式，会员100购买了 1 3 4三种商品，那么对应的集合形式如右边的图所示。那么基于候选集C1，我们得到频繁项集L1，如下图所示，在此表格中{4}的支持度为1，而我们设定的支持度为2。支持度大于或者等于指定的支持度的最小阈值就成为L1了，这里{4}没有成为L1的一员。因此，我们认定包含4的其他项集都不可能是频繁项集，后续就不再对其进行判断了。