24-基础篇:Linux磁盘I/O是怎么工作的(上)
磁盘
按照存储介质分类:机械磁盘和固态磁盘
-
机械磁盘,也称为硬盘驱动器,通常缩写为HDD
机械磁盘主要由盘片和读写磁头组成,数据就存储在盘片的环状磁道中
在读写数据前,需要移动读写磁头,定位到数据所在的磁道,然后才能访问数据连续I/O,请求刚好连续,那就不需要磁道寻址,可以获得最佳性能
随机I/O,它需要不停地移动磁头,来定位数据位置,所以读写速度就会比较慢
-
固态磁盘,通常缩写为SSD,由固态电子元器件组成
固态磁盘不需要磁道寻址,所以不管是连续I/O,还是随机I/O的性能,都比机械磁盘要好得多
其实,无论机械磁盘,还是固态磁盘,相同磁盘的随机I/O都要比连续I/O慢很多,原因也很明显
- 对机械磁盘来说,由于随机I/O需要更多的磁头寻道和盘片旋转,它的性能自然要比连续I/O慢
- 对固态磁盘来说,虽然它的随机性能比机械硬盘好很多,但同样存在“先擦除再写入”的限制
随机读写会导致大量的垃圾回收,所以相对应的,随机I/O的性能比起连续I/O来,也还是差了很多
连续I/O还可以通过预读的方式,来减少I/O请求的次数,这也是其性能优异的一个原因
很多性能优化的方案,也都会从这个角度出发,来优化I/O性能
此外,机械磁盘和固态磁盘还分别有一个最小的读写单位
- 机械磁盘的最小读写单位是扇区,一般大小为512字节
- 固态磁盘的最小读写单位是页,通常大小是4KB、8KB等
按照接口分类:
可以把硬盘分为IDE、SCSI 、SAS、SATA 、FC等
不同的接口,往往分配不同的设备名称
比如, IDE设备会分配一个hd前缀的设备名
SCSI和SATA设备会分配一个sd前缀的设备名
如果是多块同类型的磁盘,就会按照a、b、c等的字母顺序来编号
按照使用方式划分为多种不同的架构:
- 直接作为独立磁盘设备来使用。
这些磁盘,往往还会根据需要,划分为不同的逻辑分区,每个分区再用数字编号
例如/dev/sda,还可以分成两个分区/dev/sda1和/dev/sda2 - RAID冗余独立磁盘阵列。
可以提高数据访问的性能,并且增强数据存储的可靠性
根据容量、性能和可靠性需求的不同
RAID一般可以划分为多个级别,如RAID0、RAID1、RAID5、RAID10等- RAID0有最优的读写性能,但不提供数据冗余的功能
- 其他级别的RAID,在提供数据冗余的基础上,对读写性能也有一定程度的优化
- 磁盘组合成一个网络存储集群。
通过 NFS、SMB、iSCSI 等网 络存储协议,暴露给服务器使用
在Linux中,磁盘实际上是作为一个块设备来管理的,也就是以块为单位读写数据,并且支持随机读写
每个块设备都会被赋予两个设备号,分别是主、次设备号
主设备号用在驱动程序中,用来区分设备类型
而次设备号则是用来给多个同类设备编号
通用块层
跟虚拟文件系统VFS类似,为了减小不同块设备的差异带来的影响,Linux通过一个统一的通用块层,来管理各种不同的块设备
通用块层,其实是处在文件系统和磁盘驱动中间的一个块设备抽象层
它主要有两个功能:
- 第一个功能跟虚拟文件系统的功能类似
向上,为文件系统和应用程序,提供访问块设备的标准接口
向下,把各种异构的磁盘设备抽象为统一的块设备,并提供统一框架来管理这些设备的驱动程序 - 第二个功能,通用块层还会给文件系统和应用程序发来的I/O请求排队
并通过重新排序、请求合并等方式,提高磁盘读写的效率
其中,对I/O请求排序的过程,就是I/O调度,事实上,Linux内核支持四种I/O调度算法
- NONE更确切来说,并不能算I/O调度算法
因为它完全不使用任何I/O调度器,对文件系统和应用程序的I/O其实不做任何处理,常用在虚拟机中(此时磁盘I/O调度完全由物理机负责) - NOOP 是最简单的一种I/O调度算法
它实际上是一个先入先出的队列,只做一些最基本的请求合并,常用于SSD磁盘 - CFQ也被称为完全公平调度器
是现在很多发行版的默认I/O调度器,它为每个进程维护了一个I/O调度队列
并按照时间片来均匀分布每个进程的I/O请求
类似于进程CPU调度,CFQ还支持进程I/O的优先级调度,
所以它适用于运行大量进程的系统,像是桌面环境、多媒体应用等 - DeadLine调度算法
分别为读、写请求创建了不同的I/O队列,可以提高机械磁盘的吞吐量,并确保达到最终期限的请求被优先处理
DeadLine调度算法,多用在I/O压力比较重的场景,比如数据库等
I/O栈
可以把Linux存储系统的I/O栈,由上到下分为三个层次
分别是文件系统层、通用块层和设备层
这三个I/O层的关系如下图所示,这其实也是Linux存储系统的I/O栈全景图
根据这张I/O栈的全景图,可以更清楚地理解存储系统I/O的工作原理
- 文件系统层,包括虚拟文件系统和其他各种文件系统的具体实现
它为上层的应用程序,提供标准的文件访问接口
对下会通过通用块层,来存储和管理磁盘数据 - 通用块层,包括块设备I/O队列和I/O调度器
它会对文件系统的I/O请求进行排队, 再通过重新排序和请求合并,然后才要发送给下一级的设备层 - 设备层,包括存储设备和相应的驱动程序,负责最终物理设备的I/O操作
存储系统的I/O ,通常是整个系统中最慢的一环。所以,Linux通过多种缓存机制来优化I/O效率
比方说,为了优化文件访问的性能,会使用页缓存、索引节点缓存、目录项缓存等多种缓存机制,以减少对下层块设备的直接调用
同样,为了优化块设备的访问效率,会使用缓冲区,来缓存块设备的数据
小结
由文件系统层、通用块层和设备层构成的Linux存储系统I/O栈
通用块层是Linux磁盘I/O的核心,向上,它为文件系统和应用程序,提供访问了块设备的标准接口
向下,把各种异构的磁盘设备,抽象为统一的块设备
并会对文件系统和应用程序发来的I/O请求进行重新排序、请求合并等,提高了磁盘访问的效率