打赏

星辰大海ゞ

That which does not kill us makes us stronger!

导航

随笔分类 -  ELK

Nginx配置GeoIP库或者直接通过修改Logstash将日志写入ES
摘要:GItHub:https://github.com/TravelEngineers/ngx_http_geoip2_module 一、DB文件下载 先注册用户:https://dev.maxmind.com/geoip/geoip2/geolite2/ 手动进入下载页面:https://www.ma 阅读全文

posted @ 2020-12-04 19:36 星辰大海ゞ 阅读(931) 评论(0) 推荐(0) 编辑

日志收集时的时间戳处理
摘要:Logstash在处理数据的时候,会自动生成一个字段@timestamp,默认该字段存储的是Logstash收到消息/事件(event)的时间。很多时候我们用ELK是处理日志的,日志里面一般都是有时间的。而且很多时候我们只关注日志里面的时间,而不关注Logstash收到这条日志的时间。这个时候,一种 阅读全文

posted @ 2020-05-19 18:54 星辰大海ゞ 阅读(3395) 评论(0) 推荐(0) 编辑

Logstash动态模板映射收集Nginx的Json格式日志
摘要:Logstash传输给ES的数据会自动映射为5索引,5备份,字段都为text的的索引。这样基本上无法进行数据分析。所以必须将Logstash的数据按照既定的格式存储在ES中,这时候就要使用到ES模板技术了。在ES中可以定义自定义模板和动态模板,之后es会自动将相关索引映射为模板规定的格式 编译动态映 阅读全文

posted @ 2019-11-01 15:45 星辰大海ゞ 阅读(1880) 评论(0) 推荐(0) 编辑

ELK集群安装配置X-Pack
摘要:目前使用的版本不是最新的-6.2.4,6.3以后的版本应该就是集成的了 官方资料: 在线安装步骤:https://www.elastic.co/cn/downloads/x-pack 离线安装步骤:https://www.elastic.co/guide/en/x-pack/6.2/installi 阅读全文

posted @ 2019-10-16 17:45 星辰大海ゞ 阅读(1297) 评论(0) 推荐(0) 编辑

ES开启慢查询日志
摘要:默认情况,慢日志是不开启的。要开启它,需要定义具体动作(query,fetch 还是 index),你期望的事件记录等级( WARN、INFO、DEBUG、TRACE 等),以及时间阈值。 es有几种搜索模式,比如 query_then_fetch , 表示先从各个节点query到id,然后整合,再 阅读全文

posted @ 2019-10-15 12:06 星辰大海ゞ 阅读(8534) 评论(2) 推荐(0) 编辑

Logstash配置以服务方式运行
摘要:Logstash官网最新版下载地址以及YUM源:https://www.elastic.co/cn/downloads/logstash Logstash最常见的运行方式即命令行运行 ./bin/logstash -f logstash.conf 然后通过ctrl+c结束,这种方式的优点在于运行方便 阅读全文

posted @ 2019-09-18 18:26 星辰大海ゞ 阅读(3738) 评论(0) 推荐(2) 编辑

Grafana分析Nginx日志
摘要:按日期对ES的index进行分割: logstash配置: grafana源配置:(注意日期格式要统一,比如YYYY-MM或YYYY.MM) 配置Groub by -Terms时报错,提示需要设置fielddata=true,报错内容大概如下: "Fielddata is disabled on t 阅读全文

posted @ 2018-06-26 20:22 星辰大海ゞ 阅读(1017) 评论(0) 推荐(0) 编辑

Logstash收集nginx日志之使用grok过滤插件解析日志
摘要:官方使用说明:https://doc.yonyoucloud.com/doc/logstash-best-practice-cn/index.html Grok的过滤配置选项和通用选项 grok支持下述的过滤配置选项 选项类型是否为必须描述 break_on_match 布尔型 否 默认值为true 阅读全文

posted @ 2018-06-12 11:50 星辰大海ゞ 阅读(666) 评论(0) 推荐(0) 编辑

Graylog日志管理系统---搜索查询方法使用简介
摘要:Elasticsearch 是一个基于 Lucene 构建的开源、分布式、提供 RESTful 接口的全文搜索引擎 一、Search页面的各位置功能介绍: 1、日志搜索的时间范围 为了使用方便,预设有几个时段可供选择。默认是最近5分钟 也可以自己指定搜索查询的具体的时间节点,以提高准确率 2、日志搜 阅读全文

posted @ 2017-09-14 14:13 星辰大海ゞ 阅读(8347) 评论(0) 推荐(0) 编辑

Kibana安装与基本用法(ELK)
摘要:强制使用smtp 465端口加密发送邮件: vim kibana.yml 添加如下: Kibana也是一个开源和免费的工具,他可以帮助您汇总、分析和搜索重要数据日志并提供友好的web界面。他可以为Logstash 和ElasticSearch 提供日志分析的Web界面 它是一个基于浏览器页面的ES前 阅读全文

posted @ 2016-12-26 16:40 星辰大海ゞ 阅读(28681) 评论(0) 推荐(1) 编辑

Graylog安装配置
摘要:ES集群健康检测:curl -sXGET http://localhost:9200/_cluster/health?pretty=true | grep "status" | awk -F '[ "]+' '{print $4}' | grep -c "green" ES节点健康检测:curl - 阅读全文

posted @ 2015-11-13 09:44 星辰大海ゞ 阅读(6633) 评论(0) 推荐(0) 编辑