网站架构之性能优化
网站架构中最核心的几个要素包括：性能，可用性，伸缩性，扩展性和安全性，而性能又是其中最为重要的，本篇简要说下网站性能优化方面所需做的一些事情；
1. 网站性能问题概要
| 性能问题 | 说明 |
| 产生原因 | 大都是在用户高并发访问时产生的 |
| 主要工作 | 改善高并发用户访问情况下的网站访问速度 |
| 主要目的 | 改善用户体验，让用户觉得网站很快，一切的产品都必须站在用户的角度考虑问题 |
2. 网站性能测试
站在不同的视角，所关注的网站性能是不一致的：
| 视角 | 关注点 | 说明 |
| 用户视角 | 用户打开浏览器网页的响应速度，网页能再多长时间内打开，一般超过3秒就会感觉比较慢了 | 用户感受到的时间主要包括网络通信、服务器处理、浏览器解析时间 |
| 开发视角 | 主要关注应用程序本身及其子系统的性能 | 例如应用程序本身各业务耗时、并发量、程序是否稳定等 |
| 运维视角 | 更关注基础设施性能和资源利用率 | 如运营商带宽能力，服务器硬件配置，网络、服务器资源利用率等 |
站在开发、测试人员角度，性能测试的主要指标：响应时间、并发数、吞吐量、服务器各性能指标；
| 性能指标 | 说明 | 测试方法 |
| 响应时间 | 从发出请求开始到收到最后响应数据所花费的时间 | 一般计算多次重复请求所花费的总响应时间，再除以请求次数 |
| 并发数 | 系统能够同时处理请求的数目，也代表了同时发起请求的用户数 | 多线程模拟并发用户 |
| 吞吐量 | 单位时间内系统处理的请求数量，体现出系统的整体处理能力，一般常使用TPS（每秒事务数）、HPS（每秒处理HTTP请求数）、QPS（每秒处理查询数） | 不断增加并发数量，查看响应时间的变化曲线 |
| 服务器各性能指标 | 包括系统负载、内存使用、磁盘使用、CPU使用、网络I/O等 | 设定阈值，超过阈值报警 |
资源消耗与TPS性能曲线图：
并发用户访问响应时间曲线图：
3. 性能优化
根据性能测试，定位产生性能问题的具体原因，找到瓶颈点，逐步优化；
一般性能优化分为Web前端性能优化、应用服务器性能优化、存储服务器性能优化；
Web前端性能优化
1. 浏览器访问优化
| 优化方法 | 造成性能问题的原因 | 主要手段 |
| 减少http请求 | HTTP无状态，每次请求服务端都需要启动独立线程去处理，开销较大 | 合并CSS、JS文件，合并图片（可通过CSS偏移来解决显示问题） |
| 使用浏览器缓存 | 静态资源更新频度低，不宜每次都重新获取 | 设置HTTP头信息中的Cache-Control和Expires属性，可设定浏览器缓存 |
| 压缩 | 静态资源中一些无用的空格，回车等占据了大量字节，造成每次网络传输浪费不必要的流量 | 可使用GZip对CSS、JS等文件进行压缩 |
| CSS与JS位置 | 浏览器是下载完全部CSS后才会对页面进行渲染，加载JS后则立即执行 | 一般将CSS放在页面最上面，JS放在页面底部 |
| 减少Cookie传输 | Cookie会包含在每次的请求和响应中，太大的Cookie会影响数据传输 | 尽量减少Cookie中传输的信息量，静态资源使用独立的域名访问，关闭Cookie |
2. CDN加速
上面说了，CDN的本质仍然是缓存，将数据缓存在离用户最近的机房，提升访问速度，降低中心机房服务器的压力；
CDN能够缓存的一般都是静态资源，如图片，文件，视频，CSS，JS等，将访问频度高的静态资源放到CDN中；
3. 反向代理
| 反向代理作用 | 说明 |
| 保护网站安全 | 所有请求到达的第一层都是反向代理服务器，隔离了用户和网站服务器 |
| 缓存 | 将静态资源缓存在反向代理服务器，减轻Web服务器压力，提升访问速度 |
| 负载均衡 | 应用服务器有多台的话，使用反向代理做负载均衡是不错的选择，如Nginx |
应用服务器性能优化
1. 分布式缓存
网站性能优化第一定律：优先考虑使用缓存优化性能
缓存的本质是内存Hash表，数据以Key/Value的形式存储在Hash表中，时间复杂度O(1)，Hash表存储如下图所示：
只要是缓存，就会涉及到缓存未命中与缓存失效问题，因此，缓存中的数据一般都是读取比例很高，很少变化的数据；
不合理的使用缓存意义不大，还可能降低网站性能，不合理使用缓存可能造成的影响如下表所示：
| 不合理使用缓存情况 | 原因 |
| 频繁修改的数据 | 缓存很快会失效，徒增系统负担 |
| 没有热点的访问 | 不遵循二八定律，所有数据访问频度基本相同的情况，使用缓存基本没意义 |
| 数据不一致与脏读 | 缓存会设置失效时间，超时后会重新加载，也会造成短时间内数据不一致问题，如修改了数据，实时同步缓存，又会造成系统开销较大问题，需要权衡 |
| 缓存可用性 | 当缓存大面积失效时或缓存服务崩溃时，会对后端数据库造成突发性的高并发访问，瞬间压力过大，可能导致数据库服务器宕掉，造成雪崩； 可通过分布式缓存服务器集群来提高缓存的可用性； |
| 缓存穿透 | 不恰当业务或攻击，持续请求不存在数据，缓存中没有该数据，所有请求全部落到数据库服务器上，造成雪崩，可将不存在数据也缓存起来，设为null来解决此问题； |
分布式缓存—Memcached，分布式内存对象缓存系统，K/V存储，具体流程:
1. 检查客户端请求的数据是否在Memchahe中存在，如存在，直接将数据返回； 2. 如果请求数据不在Memcache中，去查询数据库，把从数据库中获取的数据返回给客户端，同时把数据缓存到Memcache； 3. 每次更新数据库，同时更新Memcache中的数据，保证数据一致性； 4. 当分配空间使用完毕后，使用LRU策略替换数据；
Memcached的分布式算法——一致性哈希，不再展开讨论，比较简单；
Memcached服务端通信模块基于Libevent（支持事件触发的网络通信程序库），服务器集群之间互不通信，能做到线性伸缩；
2. 异步操作
3. 使用集群
在高并发下，可使用负载均衡技术构建应用服务器集群，将请求分发到多台应用服务器来处理，降低单台服务器压力，提升响应速度；
4. 代码优化
| 关注点 | 说明 | 优化 |
| 多线程 |
多线程优势是充分利用CPU资源，加速请求处理速度； 对于Web应用，用户请求的多线程通常被Web服务器容器管理； 最需注意的问题：多线程安全 |
最佳线程数： [任务执行时间/(任务执行时间 - IO等待时间)] * CPU核数； 多线程对资源修改必须加锁 |
| 资源复用 | 尽量减少开销很大的系统资源的创建和销毁，如数据库连接，网络通信连接，线程、复杂对象等； |
资源复用主要使用： 1. 单例（如Spring中默认构造的对象都是单例） 2. 对象池（如各种连接池，线程池，因为连接、线程都是对象，其实各种池都是对象池） |
| 数据结构 | 好的数据结构和算法的使用是程序性能保障的核心 | —— |
| 垃圾回收 | 尽量了解所使用语言的垃圾回收算法，了解其本质后，在设计程序时能避免一些不良的设计，有助于程序优化和参数调优，编写内存安全的代码 | 比较流行的垃圾回收算法主要由引用计数、标记清除以及分代回收等 |
存储服务器性能优化
在很多情况下，磁盘的访问速度成为整个系统的瓶颈，而且磁盘中的数据是网站最重要的资产，故磁盘的容错性和可用性都至关重要；
- 适当使用SSD；
- 合理使用RAID（RAID0，RAID1，RAID10，RAID5，RAID6等）
- 合理使用HDFS等分布式文件系统
