终结初学者对ElasticSearch、Kibana、Logstash安装的种种困难
项目中准备使用ElasticSearch，之前只是对ElasticSearch有过简单的了解没有系统的学习，本系列文章将从基础的学习再到深入的使用。
咔咔之前写了一份死磕MySQL文章，如今再入一个系列玩转ElasticSearch。
本期文章会带给大家安装ElasticSearch、Kibana、Logstash、配置ElasticSearch外网可访问、配置守护进程启动Kibana、ElasticSearch、使用Logstash导入演示数据到ElasticSearch中。
一、安装ElasticSearch
从0开始搭建一个ElasticSearch环境，接下来先安装。
ElasticSearch官网在一直改版，有很多小伙伴找不到下载位置。
进去之后点击圈起来的位置，不要点击左边直接下载了
进去之后可以看到发布的历史版本，根据自己的需求下载对应的版本即可，这里咔咔下载的是7.1.0版本
如果你是Linux，可以打开开发者模式，把地址复制出来，使用wget + 地址 直接下载即可。
https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.1.0-linux-x86_64.tar.gz
可以看到此时已将ElasticSearch下载下来了，这是已经解压好的
到了这一步不要冲动直接就去启动，ElasticSearch从5.x版本开始为了安全起见，不能直接使用root用户启用。
添加用户
执行useradd es，添加es用户
在root用户下把ElasticSearch用户权限给es用户即可
chown -R es ElasticSearch
启动ElasticSearch
切到es用户后，执行执行./bin/elasticsearch即可启动ElasticSearch
启动出现初始化密钥库问题
Exception in thread "main" org.elasticsearch.bootstrap.BootstrapException: java.nio.file.AccessDeniedException: /usr/local/elasticsearch/elasticsearch-6.6.0/config/elasticsearch.keystore
Likely root cause: java.nio.file.AccessDeniedException: /usr/local/elasticsearch/elasticsearch-7.1.0/config/elasticsearch.keystore
at sun.nio.fs.UnixException.translateToIOException(UnixException.java:84)
at sun.nio.fs.UnixException.rethrowAsIOException(UnixException.java:102)
at sun.nio.fs.UnixException.rethrowAsIOException(UnixException.java:107)
at sun.nio.fs.UnixFileSystemProvider.newByteChannel(UnixFileSystemProvider.java:214)
at java.nio.file.Files.newByteChannel(Files.java:361)
at java.nio.file.Files.newByteChannel(Files.java:407)
at org.apache.lucene.store.SimpleFSDirectory.openInput(SimpleFSDirectory.java:77)
at org.elasticsearch.common.settings.KeyStoreWrapper.load(KeyStoreWrapper.java:206)
at org.elasticsearch.bootstrap.Bootstrap.loadSecureSettings(Bootstrap.java:224)
at org.elasticsearch.bootstrap.Bootstrap.init(Bootstrap.java:289)
at org.elasticsearch.bootstrap.Elasticsearch.init(Elasticsearch.java:159)
at org.elasticsearch.bootstrap.Elasticsearch.execute(Elasticsearch.java:150)
at org.elasticsearch.cli.EnvironmentAwareCommand.execute(EnvironmentAwareCommand.java:86)
at org.elasticsearch.cli.Command.mainWithoutErrorHandling(Command.java:124)
at org.elasticsearch.cli.Command.main(Command.java:90)
at org.elasticsearch.bootstrap.Elasticsearch.main(Elasticsearch.java:115)
at org.elasticsearch.bootstrap.Elasticsearch.main(Elasticsearch.java:92)
Refer to the log for complete error details.
这个版本需要进行安全认证功能需要创建elasticsearch.keystore这个文件所以输入下面的命令
./bin/elasticsearch-keystore create
查看是否启动成功
在浏览器访问127.0.0.1::9200看到如下界面就说明已经安装成功了
这里咔咔是安装在centos虚拟机上的，那么如果用外网可以访问到ElasticSearch呢！
二、配置外网访问
配置外网访问的步骤也很简单，跟着步骤走三分钟搭建好
问题一
max file descriptors [4096] for elasticsearch process is too low, increase to at least [65535]
编辑 /etc/security/limits.conf，追加以下内容
es soft nofile 65536
es hard nofile 65536
问题二
max number of threads [3782] for user [es] is too low, increase to at least [4096]
意思是elasticsearch最大线程数目太低
修改 /etc/security/limits.conf
在文件末尾增加以下两行：
es soft nproc 4096
es hard nproc 4096
问题三
max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]
在/etc/sysctl.conf文件最后添加一行
vm.max_map_count=262144
问题四
the default discovery settings are unsuitable for production use; at least one of [discovery.seed_hosts, discovery.seed_providers, cluster.initial_master_nodes] must be configured
意思是配置以下三者，最少其一
#[discovery.seed_hosts, discovery.seed_providers, cluster.initial_master_nodes]
在elasticsearch的config目录下，修改elasticsearch.yml配置文件
node.name: node-1
cluster.initial_master_nodes: ["node-1"]
network.host: 0.0.0.0
问题五
以上操作都执行完了，但外网还访问不了，需要看一下防火墙是否关闭
# 关闭防火强
systemctl stop firewalld.service
# 设置永久关闭
systemctl disable firewalld.service
这里需要注意一点，问题一和二修改完成后需要重启机器，切记、切记、切记
外网访问ElasticSearch
可以看到虚拟机的ip是http://192.168.253.129/
接下来试着在宿主机上访问虚拟机ip+端口9200看是否可以访问
三、安装Kibana
下载方式跟ElasticSearch一样，学会怎么下载这些软件，这里需要注意一点下载的版本需要跟ElasticSearch版本一致。
https://artifacts.elastic.co/downloads/kibana/kibana-7.1.0-linux-x86_64.tar.gz
所以接下来需要安装Kibana7.1.0版本
配置Kibana参数
复制到文件最后即可
i18n.locale: "zh-CN"server.host: "0.0.0.0"
elasticsearch.hosts: ["http://localhost:9200"]
启动Kibana
进到Kibana目录执行./bin/kibana即可
无法启动报错如下
[WARN ][o.e.c.c.ClusterFormationFailureHelper] [node-1] master not discovered or elected yet, an election requires a node with id [rEq_ExihQ927BnwBy3Iz7A], have discovered [] which is not a quorum; discovery will continue using [127.0.0.1:9300, 127.0.0.1:9301, 127.0.0.1:9302, 127.0.0.1:9303, 127.0.0.1:9304, [::1]:9300, [::1]:9301, [::1]:9302, [::1]:9303, [::1]:9304] from hosts providers and [{node-1}{DtZPMDK4S3qaSQF6mRhRqw}{lBAhaMvDTKmGkysihkwAqA}{192.168.122.130}{192.168.122.130:9300}{ml.machine_memory=1907744768, xpack.installed=true, ml.max_open_jobs=20}] from last-known cluster state; node term 412, last-accepted version 16 in term 1
解决方案：
查看ElasticSearch的data目录下有没有之前的节点数据
Kibana实例启动如何关闭
查看当前端口号执行netstat -anp | grep 5601，最后边就有进程ID，执行kill -9 进程ID即可
再重新启动即可。
如果把Kibana配置为中文
参数已经给到大家了，就是i18n.locale: "zh-CN"这个配置
进来后你会看到这个页面
点击工具手，就可以操作ElasticSearch数据了，还是非常nice的
四、Kibana界面快速浏览
进入软件后，可以看到加载数据集
进来之后可以看到三个样例数据，分别为日志、电商订单、航班数据
接着点击Dashboards就会看到刚添加的三组样本数据
接着看一个非常重要的工具dev Tools，这个工具再后期会大量的使用，用处就是帮助你在Kibana中可以很方便的执行一些ElasticSearch的命令
五、守护进程启动Kibana、ElasticSearch
在启动完ElasticSearch和Kibana后你会发现是直接在当前端口启动的，如果把这个终端关闭就会关闭。
接下来借助nohup来实现守护进程启动，注意不是nohup在网上很多的资料写的都是这个，不要被混淆了
安装nohup
当你执行nohup命令发现没有时，执行
yum install -y coreutils
一般情况下会安装在
/usr/bin/nohup
执行which nohup确认安装位置
将nohup命令配置为全局，使用最简单的方式，执行
#vi ~/.bash_profile
# 添加这行代码
PATH=$PATH:$HOME/bin:/use/bin
export PATH
然后，保存，刷新生效
source ~/.bash_profile
最后，进行验证，出现版本信息则安装成功
nohup --version
启动Kibana
估计在网看了很多都是让直接执行nohup ./bin/kibana，虽然这样可以让Kibana启动起来，但会出现下图的错误，同时当你ctrl+c时Kibana也会关闭掉
需要把错误信息重定向到linux的空洞即可
nohup ./bin/kibana > /dev/null 2>&1 &
你会发现执行完后出来了一行数字，这个就是Kibana的进程ID，如果你忘记了可以执行
ps -ef | grep node
来查看，因为Kibana是node起的
启动ElasticSearch
跟启动Kibana同理，执行
nohup ./bin/elasticsearch > /dev/null 2>&1 &
六、安装Logstash并导入演示数据到ElasticSearch
下载地址
wget https://artifacts.elastic.co/downloads/logstash/logstash-7.1.0.zip
演示数据是在movielens这个推荐系统中欧获取的，数据就不用大家下载了，需要演示数据的找咔咔即可
这类的数据分享不了，所以...
解压
unzip logstash-7.1.0.zip
启动logstash
./bin/logstash -f logstash.conf
直接执行肯定是不行的，你首先需要拿到演示数据，接着把logstash.conf、movies.csv文件放到logstash目录的第一层即可
下图圈起来的地方可以就是movies.csv的存放位置，把这个路径改成你的路径即可
然后当你再次执行启动logstash命令时，你会遇到第一个问题
logstash could not find java; set JAVA_HOME or ensure java is in PATH
首先你得确认你有没有安装java
# 验证是否安装
java -version
出现下图说明安装成功了，若未安装也不用着急，咔咔给你详细流程
安装java8
传送门
https://download.oracle.com/otn/java/jdk/8u311-b11/4d5417147a92418ea8b615e228bb6935/jdk-8u311-linux-x64.tar.gz
心急的你是不是直接wget就上手了，这是不行的，下载java8安装包需要点击一下确认，并且没有注册oracle的还下载不了，因此你先需要一个oracle账号。
先把压缩包下载到宿主机，然后使用神器scp命令传输文件，那是相当的快，这样就可以把下载的java包传输到服务器了。
scp jdk-8u311-linux-x64.tar.gz root:192.168.17.128:/
在/usr/local下创建java目录
cd /usr/local
mkdir java
移动java压缩包到/usr/local/java
mv jdk-8u311-linux-x64.tar.gz /usr/local/java/
解压
tar -zxf jdk-8u311-linux-x64.tar.gz jdk8
配置环境变量
vim /etc/profile
文件最后加上（如果你跟咔咔的目录一致，则可不用改动）
export JAVA_HOME=/usr/local/java/jdk8
export PATH=$PATH:$JAVA_HOME/bin
export CLASSPATH=.:/$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar
刷新生效
source /etc/profile
最后验证即可
# 验证是否安装
java -version
再次执行./bin/logstash -f logstash.conf
依然会出现下图这个错误，但java环境属实已经加上了
来到vim /logstash-7.1.0/bin/logstash.lib.sh，你就会发现错误是从这里打出去的，原因是JAVACMD没有值
在这个文件里搜索了一下发现有很多，于是就直接在上边重新赋值即可，注意圈起来的地方
保存，退出，再次执行
./bin/logstash -f logstash.conf
终于大功告成，把数据导入到ElasticSearch中了
在Kibana中查看是否存在movies的索引
七、安装Cerebro
下载
wget https://github.com/lmenezes/cerebro/releases/download/v0.9.4/cerebro-0.9.4.tgz
解压
tar -zxf cerebro-0.9.4.tgz
修改配置文件，只需要打开host配置即可，ip地址写成自己的即可
hosts = [
#{
# host = "http://192.168.17.128:9100"
# name = "Localhost cluster"
# headers-whitelist = [ "x-proxy-user", "x-proxy-roles", "X-Forwarded-For" ]
#}
# Example of host with authentication
{
host = "http://192.168.17.128:9200"
# name = "Secured Cluster"
#auth = {
# username = "admin"
# password = "admin"
#}
}
]
启动
cd cerebro
./bin/cerebro
输入ip地址+9000端口即可
八、总结
跟着本期文章大家可以成功的把ElasticSearch、Kibana成功安装并启动，ElasticSearch若要让外网可以访问还需要添加几个配置，跟着本期文章走都可以实现的。
简单了解Kibana的界面，后期大多数的演练都在Kibana上。
最后给大家聊了最感兴趣的守护进程启动ElasticSearch和Kibana，网上很多资料不全，执行起来还有问题，咔咔给你最全教程跟着操作即可。
“坚持学习、坚持写作、坚持分享是咔咔从业以来所秉持的信念。愿文章在偌大的互联网上能给你带来一点帮助，我是咔咔，下期见。
”
