ELK之filebate收集日志传递至Logstash

  软件版本查看(版本最好一致)

  安装过程不详叙

  本次使用filebeat监控nginx日志(已经配置json输出)收集并且传递给Logstash进行处理

  filebeat配置文件/etc/filebeat/filebeat.yml

1
2
3
4
5
6
7
8
9
10
11
12
13
14
filebeat.prospectors:
- type: log
  enabled: true
  paths:
    - /data/logs/nginx/http-access.log
  tags: ["nginx_access"]
filebeat.config.modules:
  path: ${path.config}/modules.d/*.yml
  reload.enabled: false
setup.template.settings:
  index.number_of_shards: 3
setup.kibana:
output.logstash:
  hosts: ["192.168.56.11:5044"]

  PS:tags是为了方便发送至Logstash用于过滤

          output.logstash配置输出至logstash

  修改logstash配置文件/etc/logstash/conf.d/syslog.conf

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
input{
    beats {
    port => 5044
    }
}
 
filter{
   if "nginx_access" in [tags]{
    json {
        source => "message"
    }
    }
}
output{
   if "nginx_access" in [tags]{
    stdout{
        codec => rubydebug
    }
    }
}

  PS:beats配置logstash启动端口

    tags输出是一个列表所以这里需要用if in进行判断处理

    如果判断出nginx_access在tags里面则使用源为message过滤成json格式

    同理输出也使用了if in进行判断 标准输出

    标准输出正常再修改配置文件输出至elasticsearch(配置文件略)

  启动/usr/share/logstash/bin/logstash -f /etc/logstash/conf.d/syslog.conf 

  标准输出如下

 

posted @   minseo  阅读(889)  评论(0编辑  收藏  举报
编辑推荐:
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
阅读排行:
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· AI编程工具终极对决:字节Trae VS Cursor,谁才是开发者新宠?
· 开源Multi-agent AI智能体框架aevatar.ai,欢迎大家贡献代码
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
点击右上角即可分享
微信分享提示