zourui4271

博客园 首页 新随笔 联系 订阅 管理

2020年11月10日 #

摘要: 大数据平台现状 饿了么的大数据平台团队成立于2015年5月份左右,在16年4月份,Hadoop集群规模还只在100+节点数,而在一年时间里集群规模快速增长到1000+的水平,这还是在引入数据生命周期进行管控的情况下的规模增速;同样,流计算集群的规模虽然相对较小,但也经历了10倍的增长,一些topic 阅读全文
posted @ 2020-11-10 17:27 zourui4271 阅读(1230) 评论(0) 推荐(0) 编辑

摘要: 时代演进,技术也随之发展。到今天,APP已然成为绝大多数互联网企业用来获取用户的核心渠道。与此同时,伴随着业务量的增长,愈来愈大、愈来愈多的APP也在不断地、持续地挑战着每一个移动端研发人员的知识深度,而我们的移动端技术人员也在这个不断接受挑战的过程中,成就了今天的移动互联网时代。饿了么移动APP就 阅读全文
posted @ 2020-11-10 17:16 zourui4271 阅读(550) 评论(1) 推荐(0) 编辑

摘要: 第一、项目目标 将超过30个核心系统数据,实施同步复制,统一集中到大数据平台。 1)将数据实施同步,数据量很大。 数据比较复杂 2)数据复制的实时性、准确性 3)复制数据需要增加标签(操作时间、操作类型、操作人等),便于后端识别数据。 4)如何抽取数据,减轻对生产库的影响。如视图、临时表、dg库等手 阅读全文
posted @ 2020-11-10 16:36 zourui4271 阅读(586) 评论(0) 推荐(0) 编辑