GlusterFS常用命令
1.启动/关闭/查看glusterd服务
# /etc/init.d/glusterd start
# /etc/init.d/glusterd stop
# /etc/init.d/glusterd status
2.开机自动启动glusterd服务
# chkconfig glusterd on # Red Hat
# update-rc.d glusterd defaults # Debian
# echo "glusterd" >>/etc/rc.local # Others
3.查看配置信息
# cat /etc/rc.local
4.为存储池添加/移除服务器节点
在其中一个节点上操作即可：
# gluster peer probe <SERVER>
# gluster peer detach <SERVER>
注意，移除节点时，需要提前将该节点上的Brick移除。
查看所有节点的基本状态（显示的时候不包括本节点）：
# gluster peer status
5.挂载分区
# mount -t ext4 /dev/sdd1 /mnt/brick1
6.创建/启动/停止/删除卷
# gluster volume create <NEW-VOLNAME>[stripe <COUNT> | replica <COUNT>] [transport [tcp | rdma | tcp,rdma]] <NEW-BRICK1> <NEW-BRICK2> <NEW-BRICK3> <NEW-BRICK4>...
# gluster volume start <VOLNAME>
# gluster volume stop <VOLNAME>
# gluster volume delete <VOLNAME>
注意，删除卷的前提是先停止卷。
7.客户端以glusterfs方式挂载
# mount -t glusterfs <SERVER>:/<VOLNAME><MOUNTDIR>
对于OpenStack，计算和控制节点都要挂载/var/lib/nova/instances，控制节点还要挂载/var/lib/glance/images。
8.查看卷信息
列出集群中的所有卷：
# gluster volume list
查看集群中的卷信息：
# gluster volume info [all]
查看集群中的卷状态：
# gluster volume status [all]
# gluster volume status <VOLNAME> [detail| clients | mem | inode | fd]
查看本节点的文件系统信息：
# df -h [<MOUNT-PATH>]
查看本节点的磁盘信息：
# fdisk -l
9.配置卷
# gluster volume set <VOLNAME> <OPTION> <PARAMETER>
10.扩展卷
# gluster volume add-brick <VOLNAME> <NEW-BRICK>
注意，如果是复制卷或者条带卷，则每次添加的Brick数必须是replica或者stripe的整数倍。
11.收缩卷
先将数据迁移到其它可用的Brick，迁移结束后才将该Brick移除：
# gluster volume remove-brick <VOLNAME> <BRICK> start
在执行了start之后，可以使用status命令查看移除进度：
# gluster volume remove-brick <VOLNAME> <BRICK> status
不进行数据迁移，直接删除该Brick：
# gluster volume remove-brick <VOLNAME> <BRICK> commit
注意，如果是复制卷或者条带卷，则每次移除的Brick数必须是replica或者stripe的整数倍。
12.迁移卷
使用start命令开始进行迁移：
# gluster volume replace-brick <VOLNAME> <BRICK> <NEW-BRICK> start
在数据迁移过程中，可以使用pause命令暂停迁移：
# gluster volume replace-brick <VOLNAME> <BRICK> <NEW-BRICK> pause
在数据迁移过程中，可以使用abort命令终止迁移：
# gluster volume replace-brick <VOLNAME> <BRICK> <NEW-BRICK> abort
在数据迁移过程中，可以使用status命令查看迁移进度：
# gluster volume replace-brick <VOLNAME> <BRICK> <NEW-BRICK> status
在数据迁移结束后，执行commit命令来进行Brick替换：
# gluster volume replace-brick <VOLNAME> <BRICK> <NEW-BRICK> commit
13.重新均衡卷
不迁移数据：
# gluster volume rebalance <VOLNAME> lay-outstart
# gluster volume rebalance <VOLNAME> start
# gluster volume rebalance <VOLNAME> startforce
# gluster volume rebalance <VOLNAME> status
# gluster volume rebalance <VOLNAME> stop
14.系统扩展维护
开启/关闭系统配额：
# gluster volume quota <VOLNAME> enable | disable
设置目录配额：
# gluster volume quota <VOLNAME> limit-usage <DIR> <VALUE>
查看配额：
# gluster volume quota <VOLNAME> list [<DIR>]
地域复制（geo-replication）：
# gluster volume geo-replication <MASTER> <SLAVE> start | status | stop
IO信息查看：
# gluster volume profile <VOLNAME> start | info | stop
Top监控：
Top命令允许你查看Brick的性能，例如：read,write, file open calls, file read calls, file write calls, directory opencalls, and directory real calls。所有的查看都可以设置 top数，默认100。
查看打开的 fd：
# gluster volume top <VOLNAME> open[brick <BRICK>] [list-cnt <COUNT>]
其中，open可以替换为read, write, opendir, readdir等。
查看每个 Brick 的读性能：
# gluster volume top <VOLNAME> read-perf [bs <BLOCK-SIZE> count <COUNT>] [brick <BRICK>] [list-cnt <COUNT>]
其中，read-perf可以替换为write-perf等。
GlusterFS 几种volume 模式说明：
一、 默认模式，既DHT, 也叫 分布卷: 将文件已hash算法随机分布到 一台服务器节点中存储。
gluster volume create test-volume server1:/exp1 server2:/exp2
二、 复制模式，既AFR, 创建volume 时带 replica x 数量: 将文件复制到 replica x 个节点中。
gluster volume create test-volume replica 2 transport tcp server1:/exp1 server2:/exp2
三、 条带模式，既Striped, 创建volume 时带 stripe x 数量： 将文件切割成数据块，分别存储到 stripe x 个节点中 ( 类似raid 0 )。
gluster volume create test-volume stripe 2 transport tcp server1:/exp1 server2:/exp2
四、 分布式条带模式（组合型），最少需要4台服务器才能创建。 创建volume 时 stripe 2 server = 4 个节点： 是DHT 与 Striped 的组合型。
gluster volume create test-volume stripe 2 transport tcp server1:/exp1 server2:/exp2 server3:/exp3 server4:/exp4
五、 分布式复制模式（组合型）, 最少需要4台服务器才能创建。 创建volume 时 replica 2 server = 4 个节点：是DHT 与 AFR 的组合型。
gluster volume create test-volume replica 2 transport tcp server1:/exp1 server2:/exp2 server3:/exp3 server4:/exp4
六、 条带复制卷模式（组合型）, 最少需要4台服务器才能创建。 创建volume 时 stripe 2 replica 2 server = 4 个节点： 是 Striped 与 AFR 的组合型。
gluster volume create test-volume stripe 2 replica 2 transport tcp server1:/exp1 server2:/exp2 server3:/exp3 server4:/exp4
七、 三种模式混合, 至少需要8台 服务器才能创建。 stripe 2 replica 2 , 每4个节点 组成一个 组。
gluster volume create test-volume stripe 2 replica 2 transport tcp server1:/exp1 server2:/exp2 server3:/exp3 server4:/exp4 server5:/exp5 server6:/exp6 server7:/exp7 server8:/exp8
###复制卷、条带卷、分布式卷的说明
