ceph 安装过程

安装依赖：

yum install -y yum-utils && yum-config-manager --add-repo https://dl.fedoraproject.org/pub/epel/7/x86_64/ && yum install --nogpgcheck -y epel-release && rpm --import /etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-7 && rm -f /etc/yum.repos.d/dl.fedoraproject.org*

搭建环境和初始化系统参见一下网址：http://ceph.org.cn/

　　　　　　　　　　　　　　　　　http://docs.ceph.org.cn/start/quick-start-preflight/

 

ceph-deploy new mon-node1 mon-node2 mon-node3  #初始化监控集群

编辑配置文件：

vim ceph.conf 　　

　　osd pool default min sisz=2
　　osd pool default size = 3
　　public_network = 10.0.0.0/24

　　cluster network=192.168.107.0/24

ceph-deploy install mon-node1 mon-node2 mon-node3 data-node1 data-node2 data-node3 #安装集群

ceph-deploy mon create-initial #初始化集群

ceph-deploy gatherkeys mon  #生成集群钥匙

sudo ceph-create-keys --id mon #检查生成的钥匙

ceph-deploy mon create-initial  #初始化集群监控  生成集群钥匙

需要格式化：data上的硬盘

支持格式是：xfs和btrfs

使用mkfs.btrfs -f /dev/sdb1  或者  mkfs.xfs -f /dev/sdb1

ceph-deploy osd prepare data-node1:/osd1  #制作存储空间

ceph-deploy osd activate data-node1:/osd1  #激活存储空间   激活osd进程，一个进程管理一个分区或者磁盘

ceph-deploy admin mon-node1 mon-node2 mon-node3 data-node1 data-node2 data-node3  # 拷贝配置文件到每一台机器上

sudo chmod +r /etc/ceph/ceph.client.admin.keyring #给钥匙加权限

常用命令：

ceph-deploy --overwrite-conf config push mon-node1 mon-node2 mon-node3 data-node1 data-node2 data-node3

ceph mon remove node1 #删除一个mon节点

ceph mon add node1 node1_ip #添加一个mon节点 

 网关的安装：

一、添加radosgw（civetweb方式）

1、创建网关实例的数据目录

mkdir /var/lib/ceph/radosgw

mkdir /var/lib/ceph/radosgw/ceph-rgw.｛name｝

2、创建启动文件和done文件

touch /var/lib/ceph/radosgw/ceph-rgw.{name}/done

touch /var/lib/ceph/radosgw/ceph-rgw.{name}/systemd

3、创建用户使用的密钥

ceph auth get-or-create client.rgw.node3 osd "allow rwx" mon "allow rw" -o /var/lib/ceph/radosgw/ceph-rgw.{name}/keyring

cp /var/lib/ceph/radosgw/ceph-rgw.{name}/keyring /etc/ceph/ceph.client.rgw.{name}.keyring

 

ceph-deploy install --rgw mon-node1 mon-node2 mon-node3

 

 

 

简单集群操作：

ceph health  # 查看集群状态

ceph health detail  #查看集群健康状态细节

ceph -s  #查看进程状态

ceph -w  #查看实时运行状态

ceph osd tree  # 查看osd进程树

列出储存池：

ceph df  #查看存储空间

ceph auth list #查看ceph集群中的认证用户及相关的key

ceph auth del osd.0  #删除集群中的一个认证用户

ceph auth get client.admin  #查看一个用户的详细权限信息

sudo  ceph daemon mon.mon-node1 config show | more #查看集群的详细配置

新增一个客户端用户：

　　ceph auth add client.john mon 'allow r' osd 'allow rw pool=liverpool'
　　ceph auth get-or-create client.paul mon 'allow r' osd 'allow rw pool=liverpool'
　　ceph auth get-or-create client.george mon 'allow r' osd 'allow rw pool=liverpool' -o george.keyring
　　ceph auth get-or-create-key client.ringo mon 'allow r' osd 'allow rw pool=liverpool' -o ringo.key

修改一个用户权限：

　　ceph auth get client.john
　　ceph auth caps client.john mon 'allow r' osd 'allow rw pool=liverpool'
　　ceph auth caps client.paul mon 'allow rw' osd 'allow rwx pool=liverpool'
　　ceph auth caps client.brian-manager mon 'allow *' osd 'allow *'

 

mon的命令:

ceph mon stat  #查看mon的状态信息

ceph quorum_status  #查看mon的选举状态

ceph mon dump   #查看mon的映射信息

ceph mon remove node1  #删除一个mon节点

ceph daemon mon.node1  mon_status   #查看mon的详细状态

osd的命令:

ceph osd stat   #查看ceph osd运行状态

ceph osd dump   #查看osd映射信息

ceph osd tree    #查看osd的目录树

ceph osd down 0 #down掉一个osd硬盘

ceph osd rm 0   #在集群中删除一个osd硬盘

ceph osd crush rm osd.0  #在集群中删除一个osd 硬盘 crush map

ceph osd crush rm node1   #在集群中删除一个osd的host节点

ceph osd out osd.3  #把一个osd节点逐出集群

ceph osd in osd.3    #把逐出的osd加入集群  

设置权重：

ceph osd getmaxosd  #查看最大osd的个数      max_osd = 4 in epoch 514默认最大是4个osd节点

ceph osd setmaxosd 10  #设置最大的osd的个数（当扩大osd节点的时候必须扩大这个值）

ceph osd crush set 3 3.0 host=node4  #设置osd crush的权重   ceph osd crush set {id} {weight} [{loc1} [{loc2} ...]]

ceph osd reweight 3 0.5  #设置osd的权重

 

msd的命令:

ceph mds stat  #查看msd状态

ceph mds dump #查看msd的映射信息

ceph  mds rm 0 mds.node1   #删除一个mds节点

 

集群操作：

ceph osd pause  #暂停osd （暂停后整个集群不再接收数据）

ceph osd unpause  #再次开启osd （开启后再次接收数据） 

 

PG组操作：

ceph pg dump  #查看pg组的映射信息

ceph pg map 0.3f  #查看一个PG的map

ceph pg stat     #查看PG状态

ceph pg  0.26 query   #查询一个pg的详细信息

 

ceph pg dump --format plain  #显示一个集群中的所有的pg统计

ceph pg {pg-id} mark_unfound_lost revert   #恢复一个丢失的pg

ceph pg dump_stuck inactive|unclean|stale   #显示非正常状态的pg

 

pool操作：

ceph osd lspools   #查看ceph集群中的pool数量

ceph osd pool create jiayuan 100   #在ceph集群中创建一个pool

ceph osd pool set-quota data max_objects 10000   #为一个ceph pool配置配额

ceph osd pool delete jiayuan  jiayuan  --yes-i-really-really-mean-it  #集群名字需要重复两次     #在集群中删除一个pool

rados df   #显示集群中pool的详细信息

ceph osd pool mksnap data   date-snap  #给一个pool创建一个快照

ceph osd pool rmsnap data date-snap  #删除pool的快照

ceph osd pool get data pg_num  #查看data池的pg数量

ceph osd pool set data target_max_bytes 100000000000000  #设置data池的最大存储空间为100T（默认是1T)

ceph osd pool set data size 3  #设置data池的副本数是3

ceph osd pool set data min_size 2  #设置data池能接受写操作的最小副本为2

ceph osd dump | grep 'replicated size'  #查看集群中所有pool的副本尺寸

ceph osd pool set data pg_num 100   #设置一个pool的pg数量

ceph osd pool set data pgp_num 100  #设置一个pool的pgp数量

 

rados和rbd指令：

rados lspools   #查看ceph集群中有多少个pool 

rados df   #查看ceph集群中有多少个pool,并且每个pool容量及利用情况

rados mkpool test  #创建一个pool

rados ls -p volumes | more  #查看ceph pool中的ceph object （这里的object是以块形式存储的）

rados create test-object -p test  #创建一个对象object 

rados rm test-object-1 -p test  #删除一个对象

rbd ls images  #查看ceph中一个pool里的所有镜像

rbd ls volumes

rbd info -p images --image 74cb427c-cee9-47d0-b467-af217a67e60a   #查看ceph pool中一个镜像的信息

rbd create -p test --size 10000 zhanguo   #在test池中创建一个命名为zhanguo的10000M的镜像

rbd -p test info zhanguo  #查看新建的镜像的信息

rbd rm  -p test  lizhanguo  #删除一个镜像

rbd resize -p test --size 20000 zhanguo  #调整一个镜像的尺寸

rbd -p test info zhanguo   #调整后的镜像大小

rbd  snap create  test/zhanguo@zhanguo123  #池/镜像@快照    #给一个镜像创建一个快照

rbd   snap ls  -p test zhanguo  #查看

rbd info test/zhanguo@zhanguo123  #查看

rbd snap ls  -p volumes volume-7687988d-16ef-4814-8a2c-3fbd85e928e4  #查看一个镜像文件的快照

rbd snap rm volumes/volume-7687988d-16ef-4814-8a2c-3fbd85e928e4@snapshot-ee7862aa-825e-4004-9587-879d60430a12  #删除一个镜像文件的一个快照快照   快照所在的池/快照所在的镜像文件@快照

rbd snap unprotect volumes/volume-7687988d-16ef-4814-8a2c-3fbd85e928e4@snapshot-ee7862aa-825e-4004-9587-879d60430a12 #上面不能删除显示的报错信息是此快照备写保护了，命令是删除写保护后再进行删除

rbd snap purge  -p volumes volume-7687988d-16ef-4814-8a2c-3fbd85e928e4  #删除一个镜像文件的所有快照

rbd export -p images --image 74cb427c-cee9-47d0-b467-af217a67e60a /root/aaa.img  #把ceph pool中的一个镜像导出

rbd import /root/aaa.img -p images --image 74cb427c-cee9-47d0-b467-af217a67e60a   #把一个镜像导入ceph中 （但是直接导入是不能用的，因为没有经过openstack,openstack是看不到的）