大型分布式网站架构技术总结(其下有很多概述文章)
系统网站
不论什么网站,不论在什么阶段,都是以用户为基础的。其目的都是要服务更多用户,占据更多市场份额,创造更大利润。
在网站初期,需要是系统尽快上线,抢占市场。当用户量上来了,再进行系统升级。现在绝大多数系统,应该都是走的这个路子,从小到大,从简单到复杂。
大型网站的特点
以用户为中心,用户多,分布广泛,全国世界各地
流量大,并发高,数据量大
安全环境恶劣,容易受到网络攻击
需求多,频繁发布
系统从小到大,渐进发展
大型网站架构目标
高性能:提供快速的访问体验
主要参数有较短的响应时间,较大的并发处理能力,较高的吞吐量,稳定的性能参数。
可分为前端优化,应用层优化,代码层优化,存储层优化。
前端优化:网站业务逻辑之前的部分;
浏览器优化:减少Http请求数,使用浏览器缓存,启用压缩,Css Js位置,Js异步,减少Cookie传输;CDN加速,反向代理;
应用层优化:处理网站业务的服务器。使用缓存,异步,集群
代码优化:合理的架构,多线程,资源复用(对象池,线程池等),良好的数据结构,JVM调优,单例,Cache等;
存储优化:缓存,固态硬盘,光纤传输,优化读写,磁盘冗余,分布式存储(HDFS),NOSQL等;
高可用:网站服务一直可以正常访问
正常提供对外服务。因为大型网站的复杂性,分布式,廉价服务器,开源数据库,操作系统等特点。要保证高可用是很困难的,也就是说网站的故障是不可避免的。
如何提高可用性,就是需要迫切解决的问题。首先,需要从架构级别,在规划的时候,就考虑可用性。行业内一般用几个9表示可用性指标。比如四个9(99.99),一年内允许的不可用时间是53分钟。
不同层级使用的策略不同,一般采用冗余备份和失效转移解决高可用问题。
应用层:一般设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。一般使用负载均衡技术(需要解决Session同步问题),实现高可用。
服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,限流,幂等设计等。
数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是CAP理论(持久性,可用性,数据一致性[强一致,用户一致,最终一致])
可伸缩:通过硬件增加/减少,提高/降低处理能力
伸缩性是指在不改变原有架构设计的基础上,通过添加/减少硬件(服务器)的方式,提高/降低系统的处理能力。
应用层:对应用进行垂直或水平切分。然后针对单一功能进行负载均衡(DNS,HTTP[反向代理],IP,链路层)。
服务层:与应用层类似;
数据层:分库,分表,NOSQL等;常用算法Hash,一致性Hash。
扩展性:方便的通过新增/移除方式,增加/减少新的功能/模块
可以方便的进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性。
模块化,组件化:高内聚,内耦合,提高复用性,扩展性。
稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。
设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。
消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。
分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。
安全性:提供网站安全访问和数据加密,安全存储等策略
对于安全问题,首先要提高安全意识,建立一个安全的有效机制,从政策层面,组织层面进行保障。比如服务器密码不能泄露,密码每月更新,并且三次内不能重复;每周安全扫描等。以制度化的方式,加强安全体系的建设。同时,需要注意与安全有关的各个环节。安全问题不容忽视。包括基础设施安全,应用系统安全,数据保密安全等。
基础设施安全:硬件采购,操作系统,网络环境方面的安全。一般采用,正规渠道购买高质量的产品,选择安全的操作系统,及时修补漏洞,安装杀毒软件防火墙。防范病毒,后门。设置防火墙策略,建立DDOS防御系统,使用攻击检测系统,进行 子网隔离等手段。
应用系统安全:在程序开发时,对已知常用问题,使用正确的方式,在代码层面解决掉。防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML注释,文件上传,路径遍历等。还可以使用Web应用防火墙(比如:ModSecurity),进行安全漏洞扫描等措施,加强应用级别的安全。
数据保密安全:存储安全(存在在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改);
常用的加解密算法(单项散列加密[MD5,SHA],对称加密[DES,3DES,RC]),非对称加密[RSA]等。
敏捷性:随需应变,快速响应
网站的架构设计,运维管理要适应变化,提供高伸缩性,高扩展性。方便的应对快速的业务发展,突增高流量访问等要求。
除上面介绍的架构要素外,还需要引入敏捷管理,敏捷开发的思想。使业务,产品,技术,运维统一起来,随需应变,快速响应。
大型网站架构常用模式
分层(*****)
网络防护层:安全防护(防火墙、DDOS高防、),负载均衡,连接管理,协议适配
接入网关层:智能路由,流量管控,熔断机制,降级容错
业务服务层:
1. 具体业务层:比如秒杀业务,寿险业务,团购业务,各种前端业务
2.业务组件层:用户服务,会员服务,地址服务,支付服务,风控服务,搜索服务,推荐服务,权限服务
基础服务层:RPC服务,MQ服务,缓存服务,DB服务,配置中心服务,文件服务,大数据服务,搜索服务
服务监测层:链路追踪,统一日志,统一监控告警,数据采集与分析
平台服务层:资源调度,镜像治理,发布管理
分布式
将应用分开部署(比如多台物理机),通过远程调用协同工作。比如A服务调用B服务,A、B服务单独部署,在不同的服务器上做专门的事,可利用的资源更多,处理能力也就更大
集群
一个应用/模块/功能部署多份(如:多台物理机),通过负载均衡共同提供对外访问。在分布式的基础上,多机器对外提供相同服务,负载均衡下,提升系统可用性。
缓存
将数据放在距离应用或用户最近的位置,加快访问速度。
CDN缓存:将数据缓存到离用户最近的位置,一般缓存静态资源文件(页面,脚本,图片,视频,文件等)
反向代理缓存:反向代理一般缓存静态资源。反向代理位于应用服务器机房,处理所有对WEB服务器的请求。如果用户请求的页面在代理服务器上有缓冲的话,代理服务器直接将缓冲内容发送给用户。
如果没 有缓冲则先向WEB服务器发出请求,取回数据,本地缓存后再发送给用户。通过降低向WEB服务器的请求数,从而降低了WEB服务器的负载。
分布式缓存
本地缓存
服务降级
当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心交易正常运作或高效运作。
限流
系统处理能力有限,当大量请求来时,有些请求不做处理(返回异常或者固定数据)或者拒绝处理。
异步
将同步的操作异步化。客户端发出请求,不等待服务端响应,等服务端处理完毕后,使用通知或轮询的方式告知请求方。一般指:请求——响应——通知 模式。
冗余
增加副本,提高可用性,安全性,性能。
安全
对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。