logstash安装与启动,读取文件写入es中

logstasha安装注意事项与启动案例
Logstash 是ELK的主要成员 (logstash ElasticSearch Kibana)主要作用是读取数据,并且提供了过滤器清洗数据,输出数据
我们接下来展示案例,这里需要注意的是: ELK都是同一个公司的出品,所以 组合起来 版本也必须一致
一定要注重版  否则 会有很有奇怪的bug  例如 找不到java_home 或者是findStr命令失效 等等 环境变量明明配置了但是就是出错等原因, 最好选择 7.16.2版本
安装开始:
选择logstash  并且选择 7.16.2版本 下载:
下载到本地后解压软件:
第二步 进入bin目录
我们创建一个weblog.conf的文件,这也是我们要读取目标和输出数据的配置
copy出内容
 
input{
  file{
      path=>["C:\Users\Administrator\log\xxxx1.2\bms-web.log"] #需要读取的文件
         #监听文件的起始位置,默认是end
      start_position => beginning
 
 
      type=>"data"
    
      sincedb_path => "D:\1.txt"
 
 
  }    
}
filter {
    grok {
        match => {
            # 从原始日志中解析出 trace_id 等其它需要的字段
            "message" => "^(?<timestamp>\d{4}\-\d{2}\-\d{2}\s\d{2}\:\d{2}\:\d{2}\.\d{3})\s(?<level>\w{4,5})\s+\T\I\D\:\s*(?<trace_id>[0-9a-f.]{54})\s%{DATA:thread}\s%{DATA:class}\:%{GREEDYDATA:content}$"
        }
    }
    mutate {
        remove_field => "message" # 删除原始日志内容节省存储和带宽
    }
}
 
 
output{
    #elasticsearch{ #输出到es
    #hosts=>["127.0.0.1:9200"] 
    #index=>"filedemo"
    # document_type => "filedemo"
    #}
        stdout{codec => rubydebug }
}
编写完了文件bin目录就多了一个weblog.conf文件
启动logstash 测试一下 
cmd  进入到 logstash 的bin目录下
 输入命令
logstash -f weblog.conf
 
结果是启动成功  , 我这里是把文件 输出的ES里面了你如果也想输出的ES  需要把 文件的注释解除: 并且还要安装ElasticSearch
output{
    elasticsearch{ #输出到es
    hosts=>["127.0.0.1:9200"]
    index=>"filedemo"
     document_type => "filedemo"
    }
        stdout{codec => rubydebug }
}
 
posted @ 2022-02-27 16:11  郎小乐  阅读(1468)  评论(0编辑  收藏  举报