软件开发中常见的十大系统瓶颈
软件开发中常见的十大系统瓶颈
摘要：在平时开发工作中，你可能在开发的各方面遭遇瓶颈，比如性能、系统等。你有对它们进行过归纳吗？不妨来看看本文对这些系统瓶颈的归类吧！
在Zen And The Art Of Scaling - A Koan And Epigram Approach中，Russell Sullivan提出了一个非常有趣的总结：软件开发常见的20个传统的系统瓶颈，这听起来像是说有20个故事情节，并且依赖于你如何策划这些故事，或许都是真的，但唯有实践才知道它们带给我们的酸甜苦辣。
有一天，Aurelien Broszniowski给我发了一份电子邮件，把这些瓶颈用列表的方式展示出来。在接下来的交谈过程中，我又把该列表抄送给了Russell，Russell对此列表进行了整理。
Russell说：“我真希望在年轻时看到这样的一份列表”。伴随着经验的增长、项目的增多、解决各种不同类型的问题和不断总结各种经验教训，你会在这份列表上添加更多的东西。所以，当你在阅读该份列表时就像是在回顾一个个故事片段。
数据库
- 工作任务内存超过可用的RAM内存
- 长/短查询
- 写入冲突
- 大连接（join）占用内存
虚拟化
- 共享一个HDD、磁盘寻死（disk seek death）
- 在云端网络I/O波动
编程
- 线程：死锁、调试、非线性扩展等
- 事件驱动编程：callback()过于复杂、如何在函数调用中存储有状态等
- 缺乏调优、跟踪、日志等
- 单模块不可扩展、单点故障(SPOF:Single Point Of Failure)、非横向扩展等
- 有状态应用程序
- 设计问题：开发的应用程序只在自己的机器行运行正常，或者只是在几个人测试的时候正常（没有经历压力测试）。
- 算法过于复杂
- 相关服务，例如DNS查找以及其他可能屏蔽的服务
- 堆栈空间
磁盘
- 访问本地磁盘
- 随机访问磁盘I/O
- 磁盘碎片
- 当SSD写入的数据大于SSD容量时，性能会下降
OS
- Fsync饱和，Linux缓冲区填塞（Fsync flushing, linux buffer cache filling up）
- TCP缓冲区太小
- 文件描述符限制
- 功率分配（Power budget）
缓存
- 没使用memcached（数据库崩溃）
- HTTP中：headers、etags、没有使用gzip压缩等。
- 没有充分利用浏览器缓存
- 字节码缓存（如PHP）
- L1/L2缓存：这是个令人头疼的大瓶颈。把关键并且经常访问的数据存储在L1/L2中。这涉及到很多：snappy网络I/O,列数据库直接在压缩数据上运行算法等。利用一些技术不销毁你的TLB。最重要的思想是紧紧的抓住计算机的体系结构，涉及多核CPU，L1/L2，共享的L3，NUMA RAM，从DRAM到芯片数据传输带宽/延迟，DRAM缓存的DiskPages，DirtyPages，流经CPU<->DRAM<->NIC的TCP包。
CPU
- CPU过载
- 内容切换—>单核上开启的线程过多、Linux调度器、系统调用太多等
- IO等待—>所有的CPU在同速等待
- CPU缓存：缓存数据是一个细粒度进程，为了在多个实例与不同的值数据之间找到正确的平衡，来保持缓存数据的一致性和繁重同步。
- 底板吞吐量（Backplane throughput）
网络
- NIC刷爆、IRQ饱和、软中断占用掉了100%CPU
- DNS查询
- 数据包丢失
- 网络中存在预期外的路由
- 访问网络磁盘
- 共享SAN
- 服务器故障—>无法从服务处得到响应
进程
- 测试时间
- 开发时间
- 团队规模
- 预算
- 代码债务
内存
- 内存不足—>杀死进程，切换到swap，挂起
- 内存不足导致磁盘交换（与swap相关）
- 记忆库开销过大（Memory library overhead）
- 内存分片（在Java中需要会因为内存回收而停顿；在C中，malloc总是开始分配内存）
