解Linux Multipath多路径配置:概念、配置、常用维护命令等

解Linux Multipath多路径配置:概念、配置、常用维护命令等

在Linux平台一部分存储产品使用操作系统自带的多路径软件,包括最常见的HP和IBM的部分存储产品,在Linux自带的多路径软件叫做multipath。

那么问题就来了,到底什么是多路径?

普通的电脑主机都是一个硬盘挂接到一个总线上,这里是一对一的关系。而到了有光纤组成的SAN环境,或者由iSCSI组成的IPSAN环境,由于主机和存储通过了光纤交换机或者多块网卡及IP来连接,这样的话,就构成了多对多的关系。也就是说,主机到存储可以有多条路径可以选择。主机到存储之间的IO由多条路径可以选择。每个主机到所对应的存储可以经过几条不同的路径,如果是同时使用的话,I/O流量如何分配?其中一条路径坏掉了,如何处理?从在操作系统的角度来看,每条路径,操作系统会认为是一个实际存在的物理盘,但实际上只是通向同一个物理盘的不同路径而已,这样是在使用的时候,就给用户带来了困惑。多路径软件就是为了解决上面的问题。

1. multipath介绍

在redhat中,安装操作系统的时候multipath已经默认被安装,查看安装情况

# rpm -qa | grep device-mapper 

说明:

(1) device-mapper-multipath:即multipath-tools。主要提供multipathd和multipath等工具和 multipath.conf等配置文件。创建的多路径设备会在/dev/mapper中。

(2) device-mapper:主要包括两大部分:内核部分和用户部分。

内核部分主要包括device mapper核心(dm.ko)和一些target driver(md-multipath.ko)。核心完成设备的映射,而target根据映射关系和自身特点具体处理从mappered device 下来的i/o。

用户空间部分主要包括device-mapper这个包。其中包括dmsetup工具和一些帮助创建和配置mappered device的库。这些库主要抽象,封装了与ioctr通信的接口,以便方便创建和配置mappered device。multipath-tool的程序中就需要调用这些库。

(3) dm-multipath.ko和dm.ko:dm.ko是device mapper驱动。它是实现multipath的基础。dm-multipath其实是dm的一个target驱动。

(4) scsi_id: 包含在udev程序包中,可以在multipath.conf中配置该程序来获取scsi设备的序号。通过序号,便可以判断多个路径对应了同一设备。这个是多路径实现的关键。multipath程序在创建multipath设备时,会调用scsi_id,从其标准输出中获得该设备的scsi id。在改写时,需要修改scsi_id程序的返回值为0。因为在multipath程序中,会检查该值来确定scsi id是否已经成功得到。

2. multipath详细配置

因为在安装操作系统的时候,multipath的软件包已经那装好了,所以这里就不在需要安装,如果没有安装的话,需要手动的进行安装。

1、检查安装是否正常

# lsmod |grep dm_multipath 
[root@localhost ~]# lsmod | grep dm_multipath
dm_multipath           53248  0
dm_mod                237568  11 dm_multipath,dm_log,dm_mirror

如果模块没有加载成功,使用下面的命令初始化DM:

#modprobe dm-multipath  
#modprobe dm-round-robin  
#service multipathd start  
#multipath –v2 

2. 编辑配置文件

# cat /etc/multipath.conf 
blacklist { 
devnode "^sda" 
} 
defaults { 
user_friendly_names no 
} 
multipaths { 
multipath { 
wwid 3600508b4000892b90002a00000050000 #磁盘的WWID 
alias comsys-dm0 #映射后的别名,自己命名 
path_grouping_policy multibus #路径组策略 
path_checker tur #决定路径状态的方法 
path_selector "round-robin 0" #选择那一条路径进行下次IO操作 
} 
multipath { 
wwid 3600508b4000892b90002a00000090000 
alias comsys-dm1 
path_grouping_policy multibus 
path_checker tur 
path_selector "round-robin 0" 
} 
multipath { 
wwid 3600508b4000892b90002a00000140000 
alias comsys-backup 
path_grouping_policy multibus 
path_checker tur 
path_selector "round-robin 0" 
} 
} 
devices { 
device { 
vendor "HP" #厂商名称,可通过multipath –v3获取到 
product "HSV300" #产品型号 
path_grouping_policy multibus #默认的路径组策略 
getuid_callout "/sbin/scsi_id -g -u -s /block/%n" #获得唯一设备号使用的默认程序 
path_checker readsector0 #决定路径状态的方法 
path_selector "round-robin 0" #选择那条路径进行下一个IO操作的方法 
#failback immediate #故障恢复的模式 
#no_path_retry queue #在disable queue之前系统尝试使用失效路径的次数的数值 
#rr_min_io 100 #在当前的用户组中,在切换到另外一条路径之前的IO请求的数目 
} 
} 

ps:其中 wwid,vendor,product, getuid_callout这些参数可以通过:multipath -v3命令来获取。如果在/etc/multipath.conf中有设定各wwid别名,别名会覆盖此设定。

image-20240116204646695

3. 如何获取WWID

(1) 使用 /etc/multipath/bindings

/etc/multipath/bindings内的配置设定具体每个多路径设备名,如果在/etc/multipath.conf中有设定各wwid 别名,别名会覆盖此设定。

# cat /etc/multipath/bindings 

image-20240116204722951

(2) 通过multipath -v3命令来获取

# multipath -v3 

image-20240116204833991

4. 启动multipathd服务并设置其自动启动

#service multipathd restart 
#chkconfig --level 345 multipathd on 
#chkconfig --list | grep multipathd  

image-20240116204920812

5. 检查multipath聚合后的设备名,以及设备对应的链路情况

这个命令很重要

# multipath -ll 

image-20240116204949400

6. 检查配置是否成功

如果配置正确的话就会在/dev/mapper/目录下多出mpath0、mpath1(自动分配的名称)等之类设备,不过如果在配置的时候起了别名,会使用别名来代替自动分配的名称

# ll /dev/mapper/ 

image-20240116205010260

用fdisk -l命令可以看到多路径软件创建的磁盘

# fdisk -l 

image-20240116205039055

posted @ 2024-01-16 20:51  寻梦99  阅读(4786)  评论(0编辑  收藏  举报