日志收集系统

一、项目背景

a.每个系统都有日志，当系统出现问题时，需要通过日志解决问题
b.当系统机器比较少时，登陆到服务器上查看即可满足 
c.当系统机器规模巨大，登陆到机器上查看几乎不现实

二、解决方案

a.把机器上的日志实时收集，统一的存储到中心系统
b.然后再对这些日志建立索引，通过搜索即可以找到对应日志 
c.通过提供界面友好的web界面，通过web即可以完成日志搜索

三、面临的问题

a.实时日志量非常大，每天几十亿条
b.日志准实时收集，延迟控制在分钟级别 
c.能够水平可扩展

四、业界方案ELK

五、elk方案问题

a.运维成本高，每增加一个日志收集，都需要手动修改配置
b.监控缺失，无法准确获取logstash的状态 
c.无法做定制化开发以及维护

六、日志收集系统设计