es 集群配置推荐

  • es集群配置
1、集群配置
es三个节点,每个节点的配置都是 8核cpu 64G内存 8T硬盘
每天的日志量100G,三个分片。
这样的配置可以保留90天的日志
集群有 3 个节点,每个节点 8TB 硬盘,整个集群的存储总容量为:8TB × 3 = 24TB 总存储空间

2、日志数据量
每天的日志量:100GB
每个索引的分片数:3 个主分片,每个分片处理的数据量大约是 33.33GB。
副本数:假设副本数为 1,即每个主分片有一个副本,因此需要将存储需求翻倍。

3、计算数据保留时间
总存储需求(副本含数据):每天 100GB 的日志数据,每天存储的数据量是:100GB × 2 = 200GB(包含副本)
集群可以存储的天数:
  集群总存储容量是 24TB(24,000GB)。
  每天需要 200GB 存储,因此可以存储的天数是:24,000GB ÷ 200GB = 120 天

4、总结
在 3 个节点,每个节点 8TB 硬盘 的情况下,如果每天的日志量为 100GB,且设置了 3 个主分片 和 副本数为 1,Elasticsearch 集群能够存储约 120 天 的日志数据。
实际只保留90天的数据,100(日志大小) * 2(主分片+副本分片) * 90(保留天数) / 240000(磁盘总大小) = 75%(磁盘利用率)
posted @ 2024-11-18 17:22  Hello_worlds  阅读(186)  评论(0编辑  收藏  举报