ELK + KAFKA

1,ELK 日志收集

E: Elasticsearch

L: Logstash

K: Kibana

为什么用Elasticsearch 来存储日志:因为Elasticsearch方便扩展,本来就是处理PB级别的数据,可以存储足够多的日志数据。

原理图大致如下:

2,为什么需要elk+kafka实现分布式日志收集。

因为单纯的使用elk 日志收集,进行io读取,容易数据丢失,logstash太多了,扩展不好。非实时性。

3, Logstash输入来源有那些?

本地文件、kafka、数据库、mongdb、redis

4,环境搭建

    第一步:搭建Kafka 环境

       

 

posted @ 2019-09-03 16:16  Chris,Cai  阅读(1170)  评论(0编辑  收藏  举报