摘要: 第一部分、十道海量数据处理面试题 1、海量日志数据,提取出某日访问百度次数最多的那个IP。 首先是这一天,并且是访问百度的日志中的IP取出来,逐个写入到一个大文件中。注意到IP是32位的,最多有个2^32个IP。同样可以采用映射的方法,比如模1000,把整个大文件映射为1000个小文件,再找出每个小 阅读全文
posted @ 2016-09-12 23:56 chenhuan001 阅读(15448) 评论(3) 推荐(0) 编辑
摘要: Bloom Filter概念和原理 焦萌 2007年1月27日 Bloom Filter是一种空间效率很高的随机数据结构,它利用位数组很简洁地表示一个集合,并能判断一个元素是否属于这个集合。Bloom Filter的这种高效是有一定代价的:在判断一个元素是否属于某个集合时,有可能会把不属于这个集合的 阅读全文
posted @ 2016-09-12 23:52 chenhuan001 阅读(1566) 评论(0) 推荐(0) 编辑
摘要: // // main.cpp // helpbuptguoan // // Created by New_Life on 16/8/24. // Copyright © 2016年 chenhuan001. All rights reserved. // #include #include #include #include #include #include #inclu... 阅读全文
posted @ 2016-09-12 09:41 chenhuan001 阅读(550) 评论(0) 推荐(0) 编辑