摘要:
大数据平台现状 饿了么的大数据平台团队成立于2015年5月份左右,在16年4月份,Hadoop集群规模还只在100+节点数,而在一年时间里集群规模快速增长到1000+的水平,这还是在引入数据生命周期进行管控的情况下的规模增速;同样,流计算集群的规模虽然相对较小,但也经历了10倍的增长,一些topic 阅读全文
2020年11月10日 #
摘要:
时代演进,技术也随之发展。到今天,APP已然成为绝大多数互联网企业用来获取用户的核心渠道。与此同时,伴随着业务量的增长,愈来愈大、愈来愈多的APP也在不断地、持续地挑战着每一个移动端研发人员的知识深度,而我们的移动端技术人员也在这个不断接受挑战的过程中,成就了今天的移动互联网时代。饿了么移动APP就 阅读全文
摘要:
第一、项目目标 将超过30个核心系统数据,实施同步复制,统一集中到大数据平台。 1)将数据实施同步,数据量很大。 数据比较复杂 2)数据复制的实时性、准确性 3)复制数据需要增加标签(操作时间、操作类型、操作人等),便于后端识别数据。 4)如何抽取数据,减轻对生产库的影响。如视图、临时表、dg库等手 阅读全文