logstash 将 json 格式 转string
背景:
我们的日志是json类型,但是在写入ES时变成一个message 字段string,这种将所有日志写在一个string 类型时不利于分字段进行查找,并且没发用kibana 平台使用ES的聚合分析功能。
由于业务的不同,打印的字段比较随意,而写入ES中的key最大值要求1000,这样又不能把日志完全展开作为一个json 结构写入ES
所以这里的策略是用logstash,将固定的某些字段展开变成ES中的一个key,其余各种自定义的字段完全写入 message 中
主要用的插件
- json插件,从message 字符串中将所有字段全部变成json 结构体
json {
source => "message"
skip_on_invalid_json => true
}
2.将body字段 (json --> string) 变成字符串存储(具体相应组件查看相关文档)
json_encode {
source => "body"
}
3.配置白名单,过滤所有无用的字段
prune {
whitelist_names => ["^level$","time","^path$","^traceID$","^addr$","^elapse$","^msg$","^status$","^body$","^response$","^ret$","^message$","^fields$"]
}
这样配置过后除了指定的字段外,所有的消息都存在message 中,又能保证ES中key 的有限个
转来转去肯定是存在一些性能损失的,但是没有想到好办法解决这种需求
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· DeepSeek 开源周回顾「GitHub 热点速览」
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!
· AI与.NET技术实操系列(二):开始使用ML.NET
· 单线程的Redis速度为什么快?