摘要: 在elasticsearch中存储数据的行为就叫做索引(indexing),不过在索引之前,我们需要明确数据应该存储在哪里。 在elasticsearch中,文档归属于一种类型(type),而这些类型存在于索引(index)中,我们可以画一些简单的对比图来类比传统的关系型数据库。 relation 阅读全文
posted @ 2017-03-07 22:51 moonandstar08 阅读(3261) 评论(1) 推荐(0) 编辑
摘要: 最近由于项目需要上线一个日志采集、展示的功能,借此机会梳理了一下日志采集的大体框架。一般日志采集的总体框架如下: 大体流程为:统一日志系统负责收集所有系统日志和业务日志,转化为流式数据,通过flume或logstash上传到日志中心(kafka集群),然后供Track、Storm、Spark及其它系 阅读全文
posted @ 2017-03-07 22:19 moonandstar08 阅读(1119) 评论(0) 推荐(0) 编辑
摘要: 本文主要介绍使用Flume传输数据到MongoDB的过程,内容涉及环境部署和注意事项。 一、环境搭建 1、flune-ng下载地址:http://www.apache.org/dyn/closer.cgi/flume/1.5.2/apache-flume-1.5.2-bin.tar.gz2、mong 阅读全文
posted @ 2017-03-07 21:56 moonandstar08 阅读(1203) 评论(0) 推荐(0) 编辑