白嫖一个月的ES,完成了与MySQL的联动

前言

《腾讯云 x Elasticsearch三周年》活动来了。文章写之前的思路是:在腾讯云服务器使用docker搭建ES。但是理想很丰满,显示很骨感,在操作过程中一波三折,最后还是含着泪美滋滋地,白嫖了一个月的腾讯云ES服务。

最后就是利用腾讯云的Elasticsearch和Kibana,和我在腾讯云服务器上搭建MySQL进行了一波联动,完成了数据库内部指标的展示。

<服务器搭建ES> 部分只用作记录,可以忽略直接看 <腾讯云领取ES的活动> 进行后续操作。

一. 服务器搭建ES

1.拉取ES镜像

本来想自己编写dockerfile生成镜像,没成想ES官网提供了docker镜像,这里就使用官方镜像,操作文档参考链接:

https://www.elastic.co/guide/en/elasticsearch/reference/current/docker.html

docker pull docker.elastic.co/elasticsearch/elasticsearch:8.6.2

2. 修改Linux系统句柄

# 在 /etc/sysctl.conf 末尾添加
vm.max_map_count=262144

修改之后重启或者使用以下命令使其生效:

/sbin/sysctl -p

3. 修改文件句柄和进程限制

# 在 /etc/security/limits.conf 末尾添加
* soft nofile 65536
* hard nofile 65536

4. docker安装

docker我也是提前安装好了,可以参考我之前的文章

yum -y install docker-ce

如果安装集群,还需要安装docker-compose,官网提供了此种安装方式,但是我的服务内存实在太小,尝试几次之后就果断放弃了。

单节点ES搭建

启动ES的时候,会自动启用安全认证配置,包括:

  1. 生成安全证书:http_ca.crt
  2. elasticsearch.yml.:TLS(Transport Layer Security)配置
  3. ES用户密码
  4. Kibana的注册token

1. 启动单节点ES

# 创建es网络
docker network create elastic

2. 启动单节点ES

# 启动单节点ES
docker run --name es01 --net elastic -p 9200:9200 -it docker.elastic.co/elasticsearch/elasticsearch:8.6.2

在启动单节点ES的时候,终端会打印一个用户密码(用户名:elastic),和一个注册Kibana用的token。因为只会在第一次启动时输出,所以要保存好。

这里使用的是前台启动,在保存好密码之后,再使用docker start后台启动容器。

3. 安全证书

执行命令将http_ca.crt拷贝到宿主机。

docker cp es01:/usr/share/elasticsearch/config/certs/http_ca.crt .

4. 验证

使用下载的安全证书和用户密码访问ES服务。

curl --cacert http_ca.crt -u elastic https://localhost:9200


至此,ES搭建完成。

外网无法访问服务器Docker中的ES

测试外网无法访问服务器中的ES,需要修改以下配置:

#  /etc/sysctl.conf 默认为0,修改成1
net.ipv4.ip_forward = 1

重启网络和es:

systemctl restart network
docker restart es01

这样就可以外网访问到ES了。

Kibana安装

docker pull docker.elastic.co/kibana/kibana:8.6.2
docker run --name kib-01 --net elastic -p 5601:5601 docker.elastic.co/kibana/kibana:8.6.2

启动Kibana的时候会输出一个地址,去浏览器中配置。

复制ES启动时生成的token填入。

token过期了,可以再生成一个。

docker exec -it es01 /usr/share/elasticsearch/bin/elasticsearch-create-enrollment-token -s kibana

花了老大的劲才忙活到这儿,™然后启动kibana就CPU狂飙,丐版服务器终究错付。搞了一下午无果,决定还是去腾讯云看看能不能白嫖。


二. 腾讯云ES0元活动

果然到有ES白嫖一月的活动,呜呜呜呜。觉得自己是个铁憨憨。


购买付款。


两分钟完事儿,进入控制台。

可以看到集群已经分配好,查询集群架构可以发现一共三个ES、一个Kibana。

可视化配置中添加本机的IP到白名单,就可以访问Kibana。

点击公网访问地址,进入Kibana。

三.实践应用

1. 添加数据

在Kibana首页,进入 Add data,可以添加很多种类数据源。这里挑选进行操作

2. MySQL Metrics

选择 MySQL metrics,这个可以获取MySQL的内部指标。首先下载metricbeat。然后根据官方步骤完成配置:

  1. 修改metricbeat.yml中的es和kibana的配置

  1. 修改modules.d/msyql.yml中的mysql的配置,把query那行注释掉,否则会报错。

官方操作文档:

数据加载完成之后,点击check data 会提示数据成功接收。

3. Dashboard

在Kibana首页找到Dashboard

选择导入的MySQL指标数据。

如图,MySQL各种指标就展示出来了。

结语

在控制台点击几下,就完成了一下午的工作量,不得不感叹SaaS有点东西。如果对Elasticsearch和Kibana有兴趣的,在腾讯云白嫖一个挺合适的。

posted @ 2023-04-04 12:54  叫我阿柒啊  阅读(1551)  评论(1编辑  收藏  举报