布隆过滤器总结

一:布隆过滤器简介:

  Bloom Filter是一种空间效率很高的随机数据结构,它利用位数组很简洁地表示一个集合,并能判断一个元素是否属于这个集合。Bloom Filter的这种高效是有一定代价的:在判断一个元素是否属于某个集合时,有可能会把不属于这个集合的元素误认为属于这个集合(false positive)。因此,Bloom Filter不适合那些“零错误”的应用场合。而在能容忍低错误率的应用场合下,Bloom Filter通过极少的错误换取了存储空间的极大节省。

二:优势和劣势

1:优势:

①:仅仅保留数据的指纹信息,空间效率极高

②:信息安全性极高

③:查询效率极高,时间复杂度为O(N)

2:劣势 :

①:存在一定的误判

②:删除数据困难

三:常用API总结:

引入Google的guava java API包,常用方法有:create(Funnel<? super T> funnel, int expectedInsertions, double fpp); put(T object); mightContain(T object) ; 

四:使用场景: 

  布隆过滤器在redis集群的上一步,主要是判断数据是否存在于布隆过滤器中,这样减少对redis服务器的压力。布隆过滤器其原理就是把大数据量加载到内存中,判断数据是否存在。大数据量加载到内存中,这样容易导致OOM。一般是在应用启动的时候,进行初始化把数据加载到布隆过滤器中。布隆过滤器所需要占内存公式为:设bit数组大小为m,样本数量为n,失误率为p。由题可知 n = 500万,p = 3%(Google布隆过滤器默认为3%,我们也可以修改),公式为:

五:与redis服务器集成:

其中Redission中的Jar封装了该布隆过滤器的方法和API。总结一下:布隆过滤器主要是判断数据是否存在集合(大量的数据)中,主要用途比如垃圾邮件过滤、爬虫爬过的网页等。利用其如果数据不在集合中,则一定不会在集合中。如果数据在集合中,不一定会在集合中,会有一定的误判率。也可以解决缓存穿透的问题(数据库和缓存中数据都不存在的情况)。

 

posted @ 2019-12-22 10:08  郭慕荣  阅读(526)  评论(0编辑  收藏  举报