大数据已经成为一种发展趋势,得到越来越多的公司参与。最近从事大数据系统设计开发和推荐引擎方面的工作,分几篇文章两个系列把自己的心得记录一下,

和大家分享一下大数据方面的经验。

整个平台包括监控系统、日志分析系统、推荐系统。按数据业务步骤划分,分为数据采集、清洗、存储、分析和服务。整个数据流程如下图:

 

 

  实际项目中和这流程图有点差异。前端日志搜集采用的Flume。

posted on 2016-06-26 20:02  成都笨笨  阅读(2009)  评论(2编辑  收藏  举报