linux配置启动es,logstash同步mysql数据库

linux,使用logstash将mysql的数据同步到elasticsearch

一、安装jdk

linux自带了jdk,但版本和我使用的 7.10 elasticsearch不兼容,需要安装jdk-11

百度jdk,去官网下载自己需要的版本

1、解压到/usr/local/java中,分配权限
mkdir /usr/local/java
tar -zxvf jdk-11
chmod 777 java
2、配置环境变量
vim /etc/profile.d/java.sh

#文件内写入:
JAVA_HOME=/usr/local/java/jdk-11	#jdk的目录名字
PATH=$JAVA_HOME/bin:$PATH
export JAVA_HOME PATH
3、重新加载配置
source /etc/profile
4、查看安装情况
java -version

二、启动elasticsearch

注:不能使用root用户启动。

1、解压
tar  -zxvf elasticsearch-7.10.0-linux-x86_64.tar.gz			#解压到当前目录
mv  elasticsearch-7.10.0  elasticsearch	#改名为elasticsearch
cd  elasticsearch		#进入目录
2、修改配置
vim config/elasticsearch.yml
#设置以下配置在文件中,默认被注释。

cluster.name: my-application 	 #集群名称
node.name: node-1 				 #节点名称

#数据和日志的存放路径
path.data: /usr/local/elasticsearch/data
path.logs: /usr/local/elasticsearch/logs
#ip和端口。设置为0.0.0.0可以让任何计算机节点访问。
network.host: 0.0.0.0
http.port: 9200
#设置集群中的所有节点名称。
cluster.initial_master_nodes: ["node-1"]
3、下载ik分词器。
#url:https://github.com/medcl/elasticsearch-analysis-ik/releases
#版本和elasticsearch对应。
#把下载的包解压到 elasticsearch/plugins/ik 目录
unzip elasticsearch-analysis-ik-7.10.0.zip
4、es不能使用root启动,添加其他用户。
adduser es
passwd  es #设置密码

#把elasticsearch目录的权限交给 es用户
chown es /usr/local/elasticsearch/ -R
5、为es用户分配资源使用量

/etc/security/limits.conf文件末尾添加内容:

es soft nproc 4096		#用户可以打开的最大进程数
es hard nproc 4096

调整vm.max_map_count大小,限制一个进程可以拥有的VMA(虚拟内存)的数量:

vim /etc/sysctl.conf

#文件末尾添加
vm.max_map_count = 655360

#使配置生效
sysctl -p
6、启动elasticsearch
#进入 es目录中
./bin/elasticsearch	      #命令行启动es
./bin/elasticsearch -d	  #后台启动es
7、查看启动情况
curl localhost:9200
ps -def | grep elasticsearch

三、启动logstash

1、解压
tar  -zxvf  logstash-7.10.0.tar.gz
mv  logstash-7.10.0  logstash
2、编写启动配置

https://www.cnblogs.com/mrzhao520/p/14119031.html

3、命令行启动
./bin/logstash  -f  bin/logstash.conf
4、使用supervisord后台启动logstash

https://www.cnblogs.com/mrzhao520/p/14139153.html

posted @ 2020-12-17 17:42  做个笔记  阅读(223)  评论(0编辑  收藏  举报