kubernetes系列11—PV和PVC详解

 

1、认识PV/PVC/StorageClass

1.1 介绍

　　管理存储是管理计算的一个明显问题。该PersistentVolume子系统为用户和管理员提供了一个API，用于抽象如何根据消费方式提供存储的详细信息。为此，我们引入了两个新的API资源：PersistentVolume和PersistentVolumeClaim

　　PersistentVolume（PV）是集群中由管理员配置的一段网络存储。 它是集群中的资源，就像节点是集群资源一样。 PV是容量插件，如Volumes，但其生命周期独立于使用PV的任何单个pod。 此API对象捕获存储实现的详细信息，包括NFS，iSCSI或特定于云提供程序的存储系统。

　　PersistentVolumeClaim（PVC）是由用户进行存储的请求。 它类似于pod。 Pod消耗节点资源，PVC消耗PV资源。Pod可以请求特定级别的资源（CPU和内存）。声明可以请求特定的大小和访问模式（例如，可以一次读/写或多次只读）。

　　虽然PersistentVolumeClaims允许用户使用抽象存储资源，但是PersistentVolumes对于不同的问题，用户通常需要具有不同属性（例如性能）。群集管理员需要能够提供各种PersistentVolumes不同的方式，而不仅仅是大小和访问模式，而不会让用户了解这些卷的实现方式。对于这些需求，有StorageClass 资源。

　　StorageClass为管理员提供了一种描述他们提供的存储的“类”的方法。 不同的类可能映射到服务质量级别，或备份策略，或者由群集管理员确定的任意策略。 Kubernetes本身对于什么类别代表是不言而喻的。 这个概念有时在其他存储系统中称为“配置文件”。

　　PVC和PV是一一对应的。

 

1.2 生命周期

　　PV是群集中的资源。PVC是对这些资源的请求，并且还充当对资源的检查。PV和PVC之间的相互作用遵循以下生命周期：

Provisioning ——-> Binding ——–>Using——>Releasing——>Recycling

•  供应准备Provisioning---通过集群外的存储系统或者云平台来提供存储持久化支持。
  •  - 静态提供Static：集群管理员创建多个PV。 它们携带可供集群用户使用的真实存储的详细信息。 它们存在于Kubernetes API中，可用于消费
  •  - 动态提供Dynamic：当管理员创建的静态PV都不匹配用户的PersistentVolumeClaim时，集群可能会尝试为PVC动态配置卷。 此配置基于StorageClasses：PVC必须请求一个类，并且管理员必须已创建并配置该类才能进行动态配置。 要求该类的声明有效地为自己禁用动态配置。
•  绑定Binding---用户创建pvc并指定需要的资源和访问模式。在找到可用pv之前，pvc会保持未绑定状态。
•  使用Using---用户可在pod中像volume一样使用pvc。
•  释放Releasing---用户删除pvc来回收存储资源，pv将变成“released”状态。由于还保留着之前的数据，这些数据需要根据不同的策略来处理，否则这些存储资源无法被其他pvc使用。
•  回收Recycling---pv可以设置三种回收策略：保留（Retain），回收（Recycle）和删除（Delete）。
  •  - 保留策略：允许人工处理保留的数据。
  •  - 删除策略：将删除pv和外部关联的存储资源，需要插件支持。
  •  - 回收策略：将执行清除操作，之后可以被新的pvc使用，需要插件支持。

 注：目前只有NFS和HostPath类型卷支持回收策略，AWS EBS,GCE PD,Azure Disk和Cinder支持删除(Delete)策略。

 

1.3 PV类型

•  GCEPersistentDisk
•  AWSElasticBlockStore
•  AzureFile
•  AzureDisk
•  FC (Fibre Channel)
•  Flexvolume
•  Flocker
•  NFS
•  iSCSI
•  RBD (Ceph Block Device)
•  CephFS
•  Cinder (OpenStack block storage)
•  Glusterfs
•  VsphereVolume
•  Quobyte Volumes
•  HostPath (Single node testing only – local storage is not supported in any way and WILL NOT WORK in a multi-node cluster)
•  Portworx Volumes
•  ScaleIO Volumes
•  StorageOS

 

1.4 PV卷阶段状态

•  Available – 资源尚未被claim使用
•  Bound – 卷已经被绑定到claim了
•  Released – claim被删除，卷处于释放状态，但未被集群回收。
•  Failed – 卷自动回收失败

 

2、演示：创建PV

nfs服务器在上一篇已经部署，详情请看上一篇博客。

2.1 准备nfs服务

（1）在nfs服务器上先建立存储卷对应的目录

?

1 2 3 4 5 6 7 8 9

[root@nfs ~]# cd /data/volumes/ [root@nfs volumes]# mkdir v{1,2,3,4,5} [root@nfs volumes]# ls index.html  v1  v2  v3  v4  v5 [root@nfs volumes]# echo "<h1>NFS stor 01</h1>" > v1/index.html [root@nfs volumes]# echo "<h1>NFS stor 02</h1>" > v2/index.html [root@nfs volumes]# echo "<h1>NFS stor 03</h1>" > v3/index.html [root@nfs volumes]# echo "<h1>NFS stor 04</h1>" > v4/index.html [root@nfs volumes]# echo "<h1>NFS stor 05</h1>" > v5/index.html

　　

（2）修改nfs的配置

?

1 2 3 4 5 6

[root@nfs volumes]# vim /etc/exports /data/volumes/v1        192.168.130.0/24(rw,no_root_squash) /data/volumes/v2        192.168.130.0/24(rw,no_root_squash) /data/volumes/v3        192.168.130.0/24(rw,no_root_squash) /data/volumes/v4        192.168.130.0/24(rw,no_root_squash) /data/volumes/v5        192.168.130.0/24(rw,no_root_squash)

　　

（3）查看nfs的配置

?

1 2 3 4 5 6

[root@nfs volumes]# exportfs -arv exporting 192.168.130.0/24:/data/volumes/v5 exporting 192.168.130.0/24:/data/volumes/v4 exporting 192.168.130.0/24:/data/volumes/v3 exporting 192.168.130.0/24:/data/volumes/v2 exporting 192.168.130.0/24:/data/volumes/v1

　　

（4）是配置生效

?

1 2 3 4 5 6 7

[root@nfs volumes]# showmount -e Export list for nfs: /data/volumes/v5 192.168.130.0/24 /data/volumes/v4 192.168.130.0/24 /data/volumes/v3 192.168.130.0/24 /data/volumes/v2 192.168.130.0/24 /data/volumes/v1 192.168.130.0/24

　　

2.2 在master上创建PV

（1）编写yaml文件，并创建pv

创建5个pv，存储大小各不相同，是否可读也不相同

?

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76

[root@master volumes]# vim pv-damo.yaml apiVersion: v1 kind: PersistentVolume metadata:   name: pv001   labels:     name: pv001 spec:   nfs:     path: /data/volumes/v1     server: nfs   accessModes: ["ReadWriteMany","ReadWriteOnce"]   capacity:     storage: 2Gi --- apiVersion: v1 kind: PersistentVolume metadata:   name: pv002   labels:     name: pv002 spec:   nfs:     path: /data/volumes/v2     server: nfs   accessModes: ["ReadWriteOnce"]   capacity:     storage: 5Gi --- apiVersion: v1 kind: PersistentVolume metadata:   name: pv003   labels:     name: pv003 spec:   nfs:     path: /data/volumes/v3     server: nfs   accessModes: ["ReadWriteMany","ReadWriteOnce"]   capacity:     storage: 20Gi --- apiVersion: v1 kind: PersistentVolume metadata:   name: pv004   labels:     name: pv004 spec:   nfs:     path: /data/volumes/v4     server: nfs   accessModes: ["ReadWriteMany","ReadWriteOnce"]   capacity:     storage: 10Gi --- apiVersion: v1 kind: PersistentVolume metadata:   name: pv005   labels:     name: pv005 spec:   nfs:     path: /data/volumes/v5     server: nfs   accessModes: ["ReadWriteMany","ReadWriteOnce"]   capacity:     storage: 15Gi [root@master volumes]# kubectl apply -f pv-damo.yaml persistentvolume/pv001 created persistentvolume/pv002 created persistentvolume/pv003 created persistentvolume/pv004 created persistentvolume/pv005 created

　　

（2）查询验证

?

1 2 3 4 5 6 7

[root@master ~]# kubectl get pv NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM     STORAGECLASS   REASON    AGE pv001     5Gi        RWO,RWX        Retain           Available                                      9s pv002     5Gi        RWO            Retain           Available                                      9s pv003     5Gi        RWO,RWX        Retain           Available                                      9s pv004     10Gi       RWO,RWX        Retain           Available                                      9s pv005     15Gi       RWO,RWX        Retain           Available                                      9s

　　

3、创建PVC，绑定PV

（1）编写yaml文件，并创建pvc

创建一个pvc，需要6G存储；所以不会匹配pv001、pv002、pv003

?

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31

[root@master volumes]# vim vol-pvc-demo.yaml apiVersion: v1 kind: PersistentVolumeClaim metadata:   name: mypvc   namespace: default spec:   accessModes: ["ReadWriteMany"]   resources:     requests:       storage: 6Gi --- apiVersion: v1 kind: Pod metadata:   name: vol-pvc   namespace: default spec:   volumes:   - name: html     persistentVolumeClaim:       claimName: mypvc   containers:   - name: myapp     image: ikubernetes/myapp:v1     volumeMounts:     - name: html       mountPath: /usr/share/nginx/html/ [root@master volumes]# kubectl apply -f vol-pvc-demo.yaml persistentvolumeclaim/mypvc created pod/vol-pvc created

　　

（2）查询验证：pvc已经绑定到pv004上

?

1 2 3 4 5 6 7 8 9 10

[root@master ~]# kubectl get pvc NAME      STATUS    VOLUME    CAPACITY   ACCESS MODES   STORAGECLASS   AGE mypvc     Bound     pv004     10Gi       RWO,RWX                       24s [root@master ~]# kubectl get pv NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM           STORAGECLASS   REASON    AGE pv001     5Gi        RWO,RWX        Retain           Available                                            1m pv002     5Gi        RWO            Retain           Available                                            1m pv003     5Gi        RWO,RWX        Retain           Available                                            1m pv004     10Gi       RWO,RWX        Retain           Bound       default/mypvc                            1m pv005     15Gi       RWO,RWX        Retain           Available                                            1m

　　

（3）查询业务验证

?

1 2 3 4 5

[root@master ~]# kubectl get pods -o wide NAME      READY     STATUS    RESTARTS   AGE       IP             NODE vol-pvc   1/1       Running   0          59s       10.244.2.117   node2 [root@master ~]# curl 10.244.2.117 <h1>NFS stor 04</h1>