es
#复制索引 curl -XPOST "http://localhost:9200/_reindex?slices=auto" -H"Content-Type:application/json" -d '{"source": {"index": "x.x-2021-02-06","size":10000},"dest": {"index": "x.x-2021-02-27"}}' 说明一下为什么存的是log_id: 1、mongo的安全事件表是百万级别,而且mongo占用了设备的1/4的内存;pg的告警表是千万级别,但内存只有几个g;两者的数量级别和内存占用都不是同一级别 2、mongo和pg的CURD都是基于内存操作的,正因为mongo冗余了大量的原始日志导致内存过高使x平台存在很多性能问题(一条mongo数据可达2-3M)。在内存有限的情况下,如果pg也冗余了原始日志,将会导致大部分的请求直接走IO,这个严重影响pg性能 基于以上,在内存有限的情况下,对于pg来说存log_id是比较合理的 另外,pg存原始日志的部分字段也不乐观,需要冗余header和body这些大字段,这个跟全部字段也没多大区别了,同时也限制后续业务的灵活性 在正常情况下,根据log_id去es捞数据,一般来说会延迟1min30s(入库队列等待30s + es refresh 1min),之前说的5分钟相对保守 # 查看全部 es get _cat/shards/ # 查看指定索引在什么地方 es get _cat/shards/ngfw.security-2021-06-09 # ES 信息查看 $ curl localhost:9200/_cat /_cat/allocation /_cat/shards /_cat/shards/{index} /_cat/master /_cat/nodes /_cat/indices /_cat/indices/{index} /_cat/segments /_cat/segments/{index} /_cat/count /_cat/count/{index} /_cat/recovery /_cat/recovery/{index} /_cat/health /_cat/pending_tasks /_cat/aliases /_cat/aliases/{alias} /_cat/thread_pool /_cat/plugins /_cat/fielddata /_cat/fielddata/{fields} /_cat/nodeattrs /_cat/repositories /_cat/snapshots/{repository} curl -XPOST localhost:9200/_cache/clear?pretty
人生还有意义。那一定是还在找存在的理由
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek 开源周回顾「GitHub 热点速览」
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!
· AI与.NET技术实操系列(二):开始使用ML.NET
· 单线程的Redis速度为什么快?