每个程序员都应该了解的内存知识(四): NUMA
NUMA
概念
NUMA（Non-Uniform Memory Access，非一致性内存访问）是一种计算机内存设计的架构，用在多处理器的系统中，以增加处理器访问内存的速度。在NUMA架构中，每个处理器或处理器组都有自己的本地内存，并且处理器可以直接访问本地内存以获得更低的延迟。
在传统的对称多处理（SMP，Symmetric Multiprocessing）系统中，所有的处理器都通过相同的总线( 北桥 )或交叉开关访问统一的内存资源，这导致内存访问时间是均一的（Uniform）。但是随着处理器数量的增加，这个总线或开关成为了瓶颈，限制了系统的扩展性。
为了解决这个问题，NUMA架构被引入。在NUMA系统中，如果处理器需要访问远程节点（其他处理器的本地内存），访问时间会比访问自己节点的本地内存长，因为必须通过一个或多个互连来完成，这就是“非一致性”的由来。
NUMA架构具有以下几个关键点：
- 本地内存访问：处理器访问自己节点的内存速度最快。
- 远程内存访问：处理器访问其他节点的内存速度较慢。
- 可扩展性：通过添加更多的处理器和内存节点，系统能够扩展，适应更大规模的应用需求。
- 操作系统支持：操作系统需要能够识别NUMA架构，并合理地调度进程和内存，以优化性能。
影响
NUMA架构在以下几个方面应用比较广泛：
- 服务器：许多高性能服务器采用NUMA架构，因为它们需要支持多个高速多核处理器。例如，运行数据库服务、大数据分析或其他内存密集型应用的服务器，会从NUMA的内存访问模式中受益，因为这些应用通常需要快速访问大量数据。
- 虚拟化环境：在虚拟化技术中，如VMware ESXi和KVM，NUMA架构允许虚拟机以更高效的方式使用宿主机的处理器和内存资源。通过NUMA感知的调度策略，虚拟机管理程序可以优化虚拟机的性能，确保它们尽可能地使用相同节点的内存和CPU资源。
- 高性能计算（HPC） ：在科学研究和工程领域，高性能计算集群通常利用NUMA架构来处理复杂的计算任务，如气候模拟、流体动力学模拟或分子建模。NUMA使得大规模并行处理成为可能，因为它减少了内存访问的瓶颈。
- 大型多线程应用：如搜索引擎、金融交易系统等，这些应用需要在多核处理器上高效运行。通过优化内存访问模式和线程放置，这些应用可以在NUMA系统中实现更好的并行性能。
以服务器应用为例，如果你有一个NUMA架构的服务器运行一个关系数据库管理系统（RDBMS）, 一些潜在的优化点:
- 将数据库进程绑定到特定的CPU核心和节点，以确保数据库访问的是本地内存，从而减少远程内存访问的开销。
- 配置数据库缓冲池，使其尽可能分布在同一NUMA节点上。
- 如果操作系统和数据库软件支持，可以开启NUMA优化功能，这些通常会自动为你处理许多复杂的优化工作。
