ELK日志收集分析平台部署使用
一、ELK介绍
开源实时日志分析ELK平台能够完美的解决我们上述的问题,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成:
1、ElasticSearch是一个基于Lucene的开源分布式搜索服务器。它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。它提供了一个分布式多用户能力的全文搜索引擎,基于RESTful web接口。Elasticsearch是用Java开发的,并作为Apache许可条款下的开放源码发布,是第二流行的企业搜索引擎。设计用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方便。
在elasticsearch中,所有节点的数据是均等的。
2、Logstash是一个完全开源的工具,它可以对你的日志进行收集、过滤、分析,支持大量的数据获取方法,并将其存储供以后使用(如搜索)。说到搜索,logstash带有一个web界面,搜索和展示所有日志。一般工作方式为c/s架构,client端安装在需要收集日志的主机上,server端负责将收到的各节点日志进行过滤、修改等操作在一并发往elasticsearch上去。
3、Kibana 是一个基于浏览器页面的Elasticsearch前端展示工具,也是一个开源和免费的工具,Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志。
二、ELK下载安装
注意:本文使用filebeat代替了logstash
第一步:下载下面的三个软件https://www.elastic.co/cn/products
[root@ren ~]# ls elasticsearch-7.1.0-x86_64.rpm kibana-7.1.0-x86_64.rpm filebeat-7.1.0-x86_64.rpm
第二步:下载java环境
[root@ren ~]# yum install java -y
第三步:安装ELK
[root@ren ~]# yum install elasticsearch-7.1.0-x86_64.rpm kibana-7.1.0-x86_64.rpm filebeat-7.1.0-x86_64.rpm -y
三、filebeat配置
第一步:安装
[root@ren ~]# yum install filebeat-7.1.0-x86_64.rpm -y
第二步:配置filebeat
第三步:启动filebeat
[root@ren ~]# systemctl restart filebeat
四、elasticsearch启动
第一步:启动
[root@ren ~]# systemctl restart elasticsearch
五、kibana启动
第一步:修改监听地址
[root@ren ~]# vim /etc/kibana/kibana.yml server.host: “192.168.64.4”
第二步:重启kibana
[root@ren ~]# systemctl restart kibana
查看所有端口
[root@ren ~]# ss -tnl State Recv-Q Send-Q Local Address:Port Peer Address:Port LISTEN 0 128 192.168.64.4:5601 *:* LISTEN 0 128 *:22 *:* LISTEN 0 100 127.0.0.1:25 *:* LISTEN 0 128 ::ffff:127.0.0.1:9200 :::* LISTEN 0 128 ::1:9200 :::* LISTEN 0 128 ::ffff:127.0.0.1:9300 :::* LISTEN 0 128 ::1:9300 :::* LISTEN 0 128 :::22 :::* LISTEN 0 100 ::1:25 :::*
六、浏览器访问kibana
第一步:输入服务器IP
指定kibana端口5601
七、ELK使用
第一步:输入filebeat
第二步:选择timestamp
第三步:点击discovery可以发现日志