elasticsearch kibana logstash(ELK)的安装集成应用

官网关于kibana的学习指导网址是:https://www.elastic.co/guide/en/kibana/current/index.html

  Kibana是一个开源的分析和可视化平台,设计用于Elasticsearch。使用Kibana搜索、查看和与存储在Elasticsearch索引中的数据交互。您可以轻松地执行高级数据分析并在各种图表、表和映射中可视化数据。

  Kibana使理解大量数据变得容易。它简单的、基于浏览器的界面使您能够快速创建和共享动态仪表板,实时显示对Elasticsearch查询的更改。

kibana的安装需要依赖elasticsearch,所以需要先安装它,

rpm -ivh elasticsearch-6.4.1.rpm

然后查看状态及安装情况

修改配置文件

 

在在 Linux 环境中,elasticsearch 不允许以 root 权限来运行!所以需要创建一个非root用户,以非root用户来起es

rpm安装包位于、usr/share/elasticsearch/下,应采用下列授权

 

刚开始访问还是不行,然后一顿乱捣鼓,感觉也没有增加什么,最后突然刷新一下,好了,先用着,后面再整理一下

 然后在test用户上查看一下运行状态

然后在通过test用户起来停止服务测试外网连接,都有爆红,但是都正常了

然后停掉test用户的服务,切回到root下开启服务,再次尝试外网连接,多次刷新后,也是OK的,说明这一版本不需要通过用户启动服务也可以,只是连接虚拟机的时候网络较差,所以,多刷新几次。

外网访问:

结论:这一版本不需要通过用户启动服务也可以,只是连接虚拟机的时候网络较差,所以,多刷新几次。

kibana的安装(安装需要Elasticsearch的支持,所以要先安装Elasticsearch)

  我们直接根据官网来安装,采用rpm的方式,简单直接,https://www.elastic.co/guide/en/kibana/current/rpm.html

下载后,安装,启动,停止等

 启动,直接输入网址192.168.135.129:5601不能访问,关闭防火墙也不行,需要设置/etc/kibana/kibana.yml。如下放开一些配置,修改一些配置

 然后登陆外网,多刷新几次,本博主网络比较慢,输入网址http://192.168.135.129:5601

OK!

最后安装logstash

 创建配置文件

内容格式如下主要有输入,过滤和输出三部分:

 1 input {
 2 
 3     stdin {}
 4 }
 5 
 6 filter {
 7 
 8     grok {
 9 
10         patterns_dir => ["/home/keepgostudio/download/logstash-5.2.0/patterns"]
11 
12         match => {
13 
14             "message" => ["%{PARAMS_APACHELOG}", "%{NO_PARAMS_APACHELOG}"]
15 
16         }
17 
18         remove_field => ["host", "timestamp", "httpversion", "@version"]
19 
20     }
21 
22 
23     kv {
24 
25         source => "params"
26 
27         field_split => "&?"
28 
29     }
30 
31 
32     geoip {
33 
34         source => "ip"
35 
36         fields => ["country_name", "region_name", "city_name", "latitude", "longitude"]
37 
38         target => "location"
39 }
40 
41 output {
42 
43     elasticsearch {
44 
45         hosts => ["192.168.135.129:9200"]
46       
47         index => "logstash-test-%{type}-%{host}"
48         
49     }
50 
51 
52 }
View Code

 运行

运行时采用的配置文件:input { stdin { } } output { stdout {} }

 ===========================================================分割线==========================================================================

用tar包的方式安装并进行总结

一、依赖jdk8,下载安装不多述

二、分别下载elasticsearch,logstash,kibana的相关tar包,直接复制地址wget 方式下载直接方便,没有wget命令则需要先yum -y install wget,比如(地址在网络资源的tar包上右键复制的链接)

  wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.4.1.tar.gz

  wget https://artifacts.elastic.co/downloads/kibana/kibana-6.4.1-linux-x86_64.tar.gz

  wget https://artifacts.elastic.co/downloads/logstash/logstash-6.4.1.tar.gz

三、先安装elasticsearch,直接解压tar即可,其他两个一样,解压即可用,非常简单。

  解压命令 tar -zxvf tar包名字

  修改配置文件端口号和address

  直接在解压包bin下root运行会报错,然后根据网上创建test的用户组,及test的用户,然后授权,在运行,又是各种报错,大概是内存不行什么的,参考网上的进行排错,root给普通用户授权chown -R 普通用户名:普通用户密码 资源路径

https://blog.csdn.net/liangzhao_jay/article/details/56840941

https://blog.csdn.net/seasion_pu/article/details/82262651

https://blog.csdn.net/feng12345zi/article/details/80367907

最终配置如下:

 vi  /etc/security/limits.conf

/etc/sysctl.conf

然后在/etc目录下执行sysctl -p

在用户下重启elasticsearch

最后运行成功

打开另一个终端验证

 关闭防火墙,在外网验证,OK!

 四、解压kibana后修改完配置的端口,address和elasticsearch地址后

直接运行 /bin/kibana即可

五、解压logstash

在bin目录下创建一个conf文件

示例的文件如下:

 启动:./logstash -f logstash.conf后

 加个总结,总体上来看比较容易,主要是elasticsearch配置有一些坑存在

坑所在就是:1.需要用非root的授权用户启动

      2.内存相关的配置: vi  /etc/security/limits.conf还有就是/etc/sysctl.conf,配置好sysctl -p执行一下

      3.kibana和logstash的tar包解压配置文件相应变动

      4.rpm和tar两种方式相比个人感觉还是tar包安装更方便

 

==============================================================插件分割线================================================================================

想把插件补充上,head插件参考下面安装(本博主没安装成功,暂时不安了)

wget https://github.com/mobz/elasticsearch-head/archive/master.zip

解压 unzip,如果没有该命令安装一下 yum -y install unzip

解压:unzip maseter.zip

该插件的安装需要依赖node.js,所以先要安装node.js,可以参考:https://www.cnblogs.com/liuqi/p/6483317.html

wget https://nodejs.org/dist/v8.12.0/node-v8.12.0-linux-x64.tar.xz

#  tar xvf node-v8.12.0-linux-x64.tar.xz

确认一下nodejs下bin目录是否有node 和npm文件,如果有执行软连接,如果没有重新下载执行上边步骤;

 20200703将elk更新为7.6.2版本:下面贴一个总结比较好的博客,以供参考

https://www.cnblogs.com/TJ21/p/12638288.html 7.62 centos7.x的安装

https://www.cnblogs.com/TJ21/p/12638320.html 一些异常总结很好

 

posted @ 2018-09-30 17:39  醉逍遥_001  阅读(382)  评论(0编辑  收藏  举报