[APM] 解读2016之APM国内篇:快速增长的APM市场和技术
前言
2016年是APM技术和市场快速发展的一年,在这一年里APM市场特别是国内的市场取得了极大的增长,用户对APM价值的认识和接受度也有了很大的提升,国内市场已基本完成了用户教育和市场培养的阶段。与此同时,APM技术在2016年也有了长足的进步,同时也面临了新的需求,可谓增长与挑战并存。以下我们从APM市场和技术两个方面来回顾一下2016的APM。
一、2016 APM市场发展
在2016年,APM在国内及亚太范围内呈现了很大的变化。
1、技术变革巨大
- 移动市场规模暴增:中国手机网民的规模增长速度自2014年起始终保持了强有力的增长趋势,2014年底中国移动网民规模已增长至55600万人,移动网民整体占比达到83.4%,越来越接近中国网民的整体规模,而这一数字在2016年达到66700万人(6.67亿人)。
- 云的落地:随着越来越多的企业认同并开始实践云计算服务,用户从互联网进一步扩展至其它传统行业的行为推动了公有云服务市场规模在近几年呈爆发式增长。据统计, 2009年至2015 年云计算复合增长率高达 69%,远超同时期我国 IT 支出 8.9%的复合增长率,IT 支出正在向更高效的配臵方式转变。同样的趋势在全球范围内也得到印证。云计算正加速成为新的 IT 资源提供方式,企业将更加专注于自身核心竞争力的提升,不断创造新的信息化需求,中国云计算产业链规模已经突破万亿。市场中国内外一批以AWS、Azure、阿里云为代表的各大云厂商在2016年竞争激烈,如何帮助用户选择合适的云服务,APM在性能方面提供的参考越来越有分量。
- 社交的火爆:2012年起移动平台上最火爆的应用当属移动社交应用,其开发往往从人们交友中的细节作为切入点,以移动终端特有的LBS特性发掘人们最潜在的使用习惯,以微信、QQ、陌陌等一批社交软件引领了市场的风向,用户对于终端体验的需求也在大幅提升。有数据显示,当移动应用出现性能问题导致延时响应10秒后,有近5%的真实用户会放弃使用该应用,并永久离开。导致应用性能问题的组合超过了1亿零700万种,你永远不知道下一个导致用户流失的性能问题是什么。那么如何才能及时发现、定位性能问题,避免用户流失进而提升用户体验,对此就需要APM发挥作用。
- 微服务及Docker的兴起和发展:微服务及Docker自2015年起逐渐火热起来:
- 这其中,微服务架构对运维和部署流水线要求非常高,服务拆分的粒度越高,运维和治理成本就越高,其中在监控度量问题上,海量微服务的各种维度性能KPI采集、汇总和分析,实时和历史数据同比和环比等,对采集模块的实时性、前端运维Portal多维度展示能力要求非常高。对此,这就需要APM的数据管理能够精准的解决监控度量所需的要求。
- 其次,服务拆分得越细,一个完整业务流程的调用链就越长,需要采集、汇总和计算的数据量就越大,分布式消息跟踪系统需要能够支撑大规模微服务化后带来的性能挑战。这样就需要APM帮助快速、便捷的描述整个调用链条,快速的找到性能问题的元凶。
- 而对于Docker来说,它作为短生命周期应用,随着版本迭代而更替实例,在这个过程中需要APM服务能够以友好的方式沉淀历史数据,看到版本迭代前后性能的变化。
2、更多玩家进入
在1996年时,Tivo与HP公司就从应用程序层面出发,他们认为网络无疑就是应用的速度。直至1998年,面向以组件为中心基础建设监控的APM产品出现,直到2011年,移动设备的普及和APP应用市场的爆发,让用户对移动端的性能体验要求也越来越苛刻。
在这个时候,国外的APM行业Dynatrace、New Relic和AppDynamics已经在APM领域拔得头筹,国内一些APM厂商看准移动的这个趋势,APM仿佛一夜之间遍地开花,直至今日,国内涌现出了一些比较具有代表性的APM厂商,BAT也跻身了这一领域。在这些玩家中,听云在2015年入选了Gartner APM魔力象限,表现出中国APM市场越来越受到国际方面的重视。同时一批国内准入者也在APM市场中占据了一定的份额。
3、产业扩张明显
中国有近7亿多的互联网使用者,随着移动互联网的爆发和兴起,OTA、电子商务、支付网关、O2O、移动OA等一批与移动相关的行业的快速发展,用户体验APM成为了移动时代的必需品。举个例子,移动互联网的广泛应用不但改变了人们的生活,也在逐渐改变着工作的方式。过去,只能在公司内网访问内部IT系统处理业务,而现在却可以通过手机应用随时随地办公。而只有确保移动应用的终端用户的访问体验,才能真正提高员工之间、合作伙伴之间的工作效率。因此,应用开发者和企业的IT运维部门不应该仅仅关注服务器、存储、网络的IT基础设施的运行状况,而应该花更多时间去了解终端用户的应用使用体验,保证应用服务的高可用。APM在这其中可以发挥着重要作用。
另一方面,国家在转型、经济在转型、市场在转型,这一切对于企业而言意味着如果企业依靠原有传统大规模生产、大规模销售的的增长模式来获取人口红利的日子难以为继。同时,移动互联网技术的迅猛发展推翻了信息不对称,导致带来了人与信息的无限自由链接,意味着过去所有依靠信息不对称的盈利模式将瞬间坍塌。这一切的变化都督促着传统企业需要立刻、马上“接地气”,第一时间谋求互联网转型。而互联网转型后产品的可用性亟待备受考验,于是传统企业开始向APM行业寻求提升性能可用性的解决方案,比如像我们熟知的金融、交通、能源等老牌传统行业。
4、“互联网+”战略提出
年初,总理在政府报告中提出,制定“互联网+”行动计划,推动移动互联网、云计算、大数据、物联网等与现代制造业结合,促进电子商务、工业互联网和互联网金融健康发展,引导互联网企业拓展国际市场。这一概念作为技术领导战略的提出,驱动了无数各种规模的企业朝着组合业务模式走向转型:传统+互联网。而这,对于APM市场来说无疑是个新的机会。
5、亚太地区的发展
拥有近30亿人口的亚太地区在人口总数上占了全世界的近一半,互联网市场非常广阔。即便如此,虽然近年来该地区基础设施建设市场总体发展势头良好,有数据显示,自2014年起亚太地区基础设施建设领域将继续保持较快增长,预计年均增长率将达4.9%。但是与全球范围平均水平相比,除韩国和日本外,亚太其他国家的互联网基础设施还较落后,这极大的影响了该地区用户在使用移动终端时的用户体验,对此APM技术便能帮助提升终端的体验效果。
而对于中国来说,2014年银监会及工信部曾发布“317号文件“,意欲通过对银行业应用安全可控信息技术的推进及监管,加强国家金融安全保障水平,实现金融领域信息技术的自主可控,间接支持鼓励相关民族企业的发展,抑制外国企业在信息技术的主导地位,促进中国信息技术的发展及信息安全的保护,这一文件的出台推动了国内IT产业进入一个新的阶段,对于APM行业来讲也是发展的新土壤。
二、2016 APM技术发展
从APM技术的成熟度和发展历史来看,2016年的APM技术依然处于2.0的发展阶段。APM 1.0时代,大概在90年代末到2010年前,领军公司是Wily和Precise这一类的老牌APM公司,而过去的几年算是APM 2.0的时代,领军的公司都是07、08年崛起的新APM企业,Dynatrace,Appdynamics,New Relic等等。
技术成熟度曲线(The Hype Cycle)
2016年的APM技术虽然还是处于2.0时代,但是却有了快速的发展。从Gartner 今年的IT基础设施可用性和性能管理技术成熟度曲线的最新的评估结果来看,APM套件技术在过去一年的发展中,已经从之前几年所在的泡沫低谷期(Trough of Disillusionment)进入了稳步爬升的光明期(Slope of Enlightenment),正处于从第二代产品向第三代产品(APM 3.0)的快速发展过程中。
纵观2016年APM技术的发展在以下几方面有着显著变化:
1. 从APM套件到统一监控:2015年Gartner首次将APM魔力象限的名称修改为APM套件魔力象限,表明了APM技术发展的一个重要特征,那就是为了得到从完整的应用性能视图和快速定位问题,需要的是从端到端、多视角、多维度的数据采集和分析,需要更多APM工具的组合使用和数据关联,而不再是简单的一个APM工具可以解决问题了。2016年这个趋势更加明显,一体化的统一监控正在成为用户的关注点。在统一监控体系中,APM套件将承担着最重要的角色,同时又需要将传统的基础设施监控,动环监控,网络性能监控,日志监控等等整合起来,在性能可视化、根因分析和运维自动化等方面发挥更关键的作用。
2. 终端用户体验监测的新挑战:2016年Gartner对APM的定义从原来的5个维度定义修改成了3个维度,分别是数字体验监控(DEM),应用发现、追踪和诊断(ADTD)和应用分析(AA),其中DEM取代了之前的终端用户体验监测(EUEM)。最终用户的体验始终是APM最重要的任务,而现在,除了各类终端上的人类最终用户之外,还需要将各种数字代理、各类IoT设备以及社交媒体上的体验监控起来。2016年随着摩拜单车等一系列新兴物联网项目的爆发,对物联网应用的性能监控将成为未来DEM最重要的关注点。
2016年在移动应用的监控上,iOS 10和Android 7两大移动平台最新版本的发布除了带来一些新的性能指标监测接口之外,也屏蔽了不少之前版本中可以使用的接口和方法,使得APM厂商们需要去寻找新的监测解决方案。
3. APM价值的认可:2016年我们很高兴看到了大家对APM技术价值的认可。这一认可不但表现在商用APM方案广泛得到企业用户的接受,阿里百川也对阿里云上的客户推出了商用的应用性能管理解决方案阿里码力APM,还表现在像58、点评、饿了吗等互联网大厂纷纷使用开源或自研的工具在实现自己的APM监测系统。
4. 业务分析:2016年的APM技术除了关注应用性能数据之外,也逐渐开始关注应用的用户行为和业务数据了。得益于APM探针的自动埋码技术,APM可以以相对低的成本(相比手工埋点)采集和分析用户行为和业务方面的数据,同时提供性能指标与业务指标的相关性分析,例如当一个事务流程的响应性能下降后会影响多少的业务订单量。通过业务分析,APM套件产品也将目标用户群从纯技术线的运维和研发人员推广到了业务线的产品和运营人员,实现产品价值的极大提升。
5. 容器和微服务的机遇和挑战:2016年公有云和移动互联网的增长依然是推动APM市场和技术快速发展的重要因素。而在这里面,微服务架构和微服务容器化作为2016年IT领域和云计算领域最受关注的技术趋势之一也给APM技术带来了新的需求和挑战。微服务架构和容器化让应用更具灵活性、弹性和扩展性,在提高应用的效率的同时,也让应用的拓扑架构和通讯变得更复杂,更难监控。针对微服务的流行趋势,现有APM技术和产品依然没有很好的解决方案来提供完全满足要求的足够细粒度的监控。APM技术在未来2年内还需要支持更多的平台和组件、提供更多层面和更多维度的监控数据、使用新的监控数据处理方法来满足完整的微服务监控需求。
6. 直播与APM:2016年的直播行业呈现出爆发式的增长,据统计国内目前为止就有两百多家直播平台,拥有超过两千四百万的每日活跃用户,除了新闻、娱乐、社交平台之外,各大电商也纷纷推出自己的直播频道。作为以终端用户视角的评估用户体验最有效的工具,APM套件从主动式监测(Synthetic Monitoring)和真实用户监测(Real User Monitoring)等多种技术层面,从RTMP,HLS,HTTP-FLV等多种直播协议支持,从多种性能指标和多个维度为直播平台提供了实时的用户体验监控,并且通过监控数据的进行直播的优化和实时调度,以提升直播的用户体验。
三、APM 2017未来展望
作为APM行业的从业者,我们依然看好APM在未来一年内的快速发展。在未来一年内APM的价值将得到更多的验证和认可,并且将在统一监控领域扮演更重要的角色。在2017年,我们将看到大数据和机器学习在APM领域开始发挥重要的作用,因为云计算、微服务和容器化让监控的数据程海量增长,已经不再适合人来进行数据的分析了,是时候把异常检测和根因诊断的工作交给机器了。另外,别忘了物联网和微服务架构、容器的挑战,希望在2017年有一个好的开端。