转载;https://www.cnblogs.com/zz-ksw/p/12801632.html

Kafka 在执行消息的写入和读取这么快的原因,其中的一个原因是零拷贝(Zero-copy)技术,下面我们来了解一下这么高效的原因。

传统的文件读写

传统的文件读写或者网络传输,通常需要将数据从内核态转换为用户态。应用程序读取用户态内存数据,写入文件 / Socket之前,需要从用户态转换为内核态之后才可以写入文件或者网卡当中。

 

 

数据首先从磁盘读取到内核缓冲区,这里面的内核缓冲区就是页缓存(PageCache)。然后从内核缓冲区中复制到应用程序缓冲区(用户态),输出到输出设备时,又会将用户态数据转换为内核态数据。

DMA

在介绍零拷贝之前,我们先来看一个技术名词DMA(Direct Memory Access 直接内存访问)。它是现代电脑的重要特征之一,允许不同速度的硬件之间直接交互,而不需要占用CPU的中断负载。DMA传输将一个地址空间复制到另一个地址空间,当CPU 初始化这个传输之后,实际的数据传输是有DMA设备之间完成,这样可以大大的减少CPU的消耗。我们常见的硬件设备都支持DMA,如下图所示:

 

 

零拷贝

对于常见的零拷贝,我们下面主要介绍一下mmap 和 sendfile 两种方式。下面的介绍我们基于磁盘文件拷贝的方式去讲解。

mmap

mmap 就是在用户态直接引用文件句柄,也就是用户态和内核态共享内核态的数据缓冲区,此时数据不需要复制到用户态空间。当应用程序往 mmap 输出数据时,此时就直接输出到了内核态数据,如果此时输出设备是磁盘的话,会直接写盘(flush间隔是30秒)。

上面的图片我们可以这样去理解,比如我们需要从 src.data 文件复制数据到 dest.data 文件中。此时我们不需要更改 src.data 里面的数据,但是对于 dest.data 需要追加一些数据。此时src.data 里面的数据可以直接通过DMA 设备传输,而应用程序还需要对 dest.data 做一些数据追加,此时应用对 dest.data 做 mmap 映射,直接对内核态数据进行修改。

sendfile

对于sendfile 而言,数据不需要在应用程序做业务处理,仅仅是从一个 DMA 设备传输到另一个 DMA设备。 此时数据只需要复制到内核态,用户态不需要复制数据,并且也不需要像 mmap 那样对内核态的数据的句柄(文件引用)。如下图所示:

 

 从上图我们可以发现(输出设备可以是网卡/磁盘驱动),内核态有 2 份数据缓存 。sendfile 是 Linux 2.1 开始引入的,在 Linux 2.4 又做了一些优化。也就是上图中磁盘页缓存中的数据,不需要复制到 Socket 缓冲区,而只是将数据的位置和长度信息存储到 Socket 缓冲区。实际数据是由DMA 设备直接发送给对应的协议引擎,从而又减少了一次数据复制。

posted on 2020-08-04 20:14  围龙小子  阅读(157)  评论(0编辑  收藏  举报