摘要:GItHub:https://github.com/TravelEngineers/ngx_http_geoip2_module 一、DB文件下载 先注册用户:https://dev.maxmind.com/geoip/geoip2/geolite2/ 手动进入下载页面:https://www.ma
阅读全文
摘要:Logstash在处理数据的时候,会自动生成一个字段@timestamp,默认该字段存储的是Logstash收到消息/事件(event)的时间。很多时候我们用ELK是处理日志的,日志里面一般都是有时间的。而且很多时候我们只关注日志里面的时间,而不关注Logstash收到这条日志的时间。这个时候,一种
阅读全文
摘要:Logstash传输给ES的数据会自动映射为5索引,5备份,字段都为text的的索引。这样基本上无法进行数据分析。所以必须将Logstash的数据按照既定的格式存储在ES中,这时候就要使用到ES模板技术了。在ES中可以定义自定义模板和动态模板,之后es会自动将相关索引映射为模板规定的格式 编译动态映
阅读全文
摘要:目前使用的版本不是最新的-6.2.4,6.3以后的版本应该就是集成的了 官方资料: 在线安装步骤:https://www.elastic.co/cn/downloads/x-pack 离线安装步骤:https://www.elastic.co/guide/en/x-pack/6.2/installi
阅读全文
摘要:默认情况,慢日志是不开启的。要开启它,需要定义具体动作(query,fetch 还是 index),你期望的事件记录等级( WARN、INFO、DEBUG、TRACE 等),以及时间阈值。 es有几种搜索模式,比如 query_then_fetch , 表示先从各个节点query到id,然后整合,再
阅读全文
摘要:Logstash官网最新版下载地址以及YUM源:https://www.elastic.co/cn/downloads/logstash Logstash最常见的运行方式即命令行运行 ./bin/logstash -f logstash.conf 然后通过ctrl+c结束,这种方式的优点在于运行方便
阅读全文
摘要:按日期对ES的index进行分割: logstash配置: grafana源配置:(注意日期格式要统一,比如YYYY-MM或YYYY.MM) 配置Groub by -Terms时报错,提示需要设置fielddata=true,报错内容大概如下: "Fielddata is disabled on t
阅读全文
摘要:官方使用说明:https://doc.yonyoucloud.com/doc/logstash-best-practice-cn/index.html Grok的过滤配置选项和通用选项 grok支持下述的过滤配置选项 选项类型是否为必须描述 break_on_match 布尔型 否 默认值为true
阅读全文
摘要:Elasticsearch 是一个基于 Lucene 构建的开源、分布式、提供 RESTful 接口的全文搜索引擎 一、Search页面的各位置功能介绍: 1、日志搜索的时间范围 为了使用方便,预设有几个时段可供选择。默认是最近5分钟 也可以自己指定搜索查询的具体的时间节点,以提高准确率 2、日志搜
阅读全文
摘要:强制使用smtp 465端口加密发送邮件: vim kibana.yml 添加如下: Kibana也是一个开源和免费的工具,他可以帮助您汇总、分析和搜索重要数据日志并提供友好的web界面。他可以为Logstash 和ElasticSearch 提供日志分析的Web界面 它是一个基于浏览器页面的ES前
阅读全文
摘要:ES集群健康检测:curl -sXGET http://localhost:9200/_cluster/health?pretty=true | grep "status" | awk -F '[ "]+' '{print $4}' | grep -c "green" ES节点健康检测:curl -
阅读全文